La diatriba su quale sia la corretta definizione di LLM open-source non è mai stata risolta. Sin dagli albori ci hanno provato in tanti, in primis la Open Source Initiative, di cui avevamo raccontato il primo tentativo. Il risultato è stato, per usare un eufemismo, scarso.
Perché, lo diciamo da sempre, la materia è assai complicata, principalmente per una ragione prettamente tecnologica: nessuno sa, o può, controllare cosa ci sia dentro un LLM.
Un LLM è il prodotto di un’elaborazione sulla quale, per intenderci, non è possibile fare query. L’unica cosa controllabile sono i dati che gli vengono dati in pasto, quello che normalmente è definito il processo di addestramento. E di modalità per allenare i modelli ne esistono mille diverse, e questo aspetto è il principio fondante su cui le grandi aziende come OpenAI e Anthropic fondano gran parte del loro lavoro e della loro reputazione.
In questo contesto, che potremmo definire proprietario, c’è stato sin dall’inizio un progetto che ha tentato di fare la differenza, raggiungendo quasi subito un successo planetario. Sto parlando di Hugging Face.
Il progetto è molto più di un semplice repository di LLM. Nel corso degli anni è diventata una sorta di infrastruttura sociale e tecnologica dell’AI: un luogo dove ricercatori, sviluppatori e aziende possono pubblicare, condividere e utilizzare modelli, dataset e strumenti per costruire applicazioni basate sull’intelligenza artificiale (nella serie Capire l’AI, il modello abliterato che abbiamo usato per i test veniva ovviamente da Hugging Face). Il suo ecosistema comprende librerie, dataset, modelli pre-addestrati e strumenti per eseguirli e addestrarli, con una filosofia fortemente orientata alla collaborazione e alla condivisione.
Hugging Face, in altre parole, aveva contribuito a creare un’alternativa concreta al modello delle grandi AI company: non necessariamente un’alternativa ai loro LLM più potenti, ma un ecosistema nel quale la conoscenza, gli strumenti e una parte significativa dei modelli potevano circolare al di fuori del controllo di un singolo soggetto.
Tutto questo fino all’inizio di settembre quando, come ha raccontato Phoronix insieme ad esempio a The New Stack, è rimbalzata ovunque la notizia dell’acquisizione di Hugging Face da parte di NVIDIA.
Celebrato ovunque sui social a suon di faccine e complimenti da parte di tutti gli estimatori del progetto Hugging Face questa notizia in realtà stupisce molti tra gli addetti ai lavori (in questo articolo di The Register c’è un punto di vista molto interessante). O meglio, più che stupisce si potrebbe dire “impaurisce”.
Già, perché se l’azienda con la posizione dominante nella creazione di chip per l’AI versa quasi 13 miliardi di dollari per acquisire il più importante ecosistema community del pianeta non si possono non avere timori per la direzione che l’AI sta prendendo.
Non c’è quindi solo l’enorme problema della sicurezza, quello ancora più grande della privacy, su cui abbiamo speso diverse parole recentemente: se la più grande community AI diventa proprietà di NVIDIA, il problema qui è di libertà.
Certo, i proclami recitano ovunque “tutto rimarrà come prima!“, ma andatelo a raccontare agli ex utenti CentOS che si sono sentiti raccontare la stessa cosa quando Red Hat l’ha acquisita.
Business is Business, ed è altamente improbabile che Jensen Huang, faccine sorridenti a parte, abbia voluto donare quasi 13 miliardi perché crede fortemente nella community e vuole un mondo migliore.
Magari sì eh, ma ci scommettereste i vostri soldi?
Da sempre appassionato del mondo open-source e di Linux nel 2009 ho fondato il portale Mia Mamma Usa Linux! per condividere articoli, notizie ed in generale tutto quello che riguarda il mondo del pinguino, con particolare attenzione alle tematiche di interoperabilità, HA e cloud.
E, sì, mia mamma usa Linux dal 2009.
Giacchetta l’ha vista mooooolto lunga e ha acquistato non solo la gallina dalle uova d’oro ma anche tutto il pollaio.
Io ancora non ho fatto pace col fatto che questi costruivano chip per fare più FPS nei videogiochi e adesso sono forse la più importante azienda di hardware del mondo :-/
E ora non solo i videogiocatori sono trattati a pesci in faccia o quasi dopo che sono stati la fortuna di NVIDIA, ma ha creato di fatto un bel po’ di monopoli in vari settori, e l’IA non fa eccezione visto che tantissimi server usati per i modelli montano hardware loro, incluse le H200 che ne hanno vendute a vagonate intere.
Rispondendo alla tua domanda: non ci scommeterei i miei soldi, ma NVIDIA può fare quel che vuole….anche buttare 13 miliardi di dollari in un qualcosa che è poco più di un repository!! Non scherziamo, non si capisce perchè investire su una cosa del genere. Se lo cambierà o lo chiuderà, sarà facile rifarlo più e più volte.
Sull’altra questione, l’Open weight è il massimo dell’open source nel mondo LLM; anche se rilasciassero la lista del materiale utilizzato per l’addestramento sarebbe impossibile verificarne la correttezza e nessuno può dimostrare che il modello non sia stato ritoccato (steering) a posteriori.
C’è una falla nel tuo ragionamento sul “è solo un repo”, per quanto valido: così come Microsoft ha lasciato GitHub quello che era senza spiegare a nessuno come ha sfruttato il codice, lo stesso farà NVIDIA.
È verosimile Hugging Face rimanga il punto di riferimento che è ora (è nell’interesse di NVIDA non vedere concorrenti o alternative), ma cosa ne farà degli LLM che contiene nessuno lo potrà mai sapere.