Non sono passati molti giorni dalla lunga analisi che abbiamo fatto nell’articolo “AI e open-source: tra opportunità e nuove regole ecco una fotografia dello stato delle cose“. Un articolo che, di suo, non ha prodotto commenti o interventi, eppure i temi trattati sono molto attuali e particolarmente attinenti ai temi trattati dal blog.

La ragione che mi sono dato è che l’articolo guardava le cose troppo da lontano, era un insieme di (troppe) informazioni che suscitavano domande o quesiti troppo generici.

Proprio in virtù di questa analisi, dopo aver letto il blog post pubblicato dalla Software Freedom Conservancy pochi giorni fa, ho pensato ci si potesse dedicare verticalmente a un tema specifico che riguarda da vicino l’open-source: il California Artificial Intelligence Transparency Act.

È in corso la valutazione di una variazione proposta alla legge originale, denominata SB 1000, che modifica e integra nuovi commi che, nella sostanza, riguardano tre punti essenziali:

1. Trasparenza sui dati di addestramento: chi produce LLM deve rendere noti i dataset usati per il training.
2. Diritto alla verifica: chi produce LLM deve fornire strumenti e informazioni per permettere agli utenti di “fidarsi ma verificare” il funzionamento del sistema.
3. Responsabilità nella filiera: se il sistema viene concesso in licenza a terzi, il fornitore originale deve imporre contrattualmente il rispetto della legge, con la possibilità di terminare la licenza in caso di modifiche che rendano il sistema non conforme.

GitHub, Black Forest Labs, Hugging Face e Mozilla Corporation, si sono esposti apertamente contro questa legge, sostenendo – ipocritamente secondo la SFC – che danneggerebbe le licenze FOSS.

Secondo la SFC invece si tratta di una buona legge, per via del fatto che obbliga i fornitori di IA generativa a garantire trasparenza e “diritto alla riparazione” del software. La legge prevede la possibilità di terminare la licenza d’uso di un sistema IA se modificato in modo da non renderlo più conforme.

E qui sta tutto il problema, perché la parola “licenza” ha un doppio significato, e la legge e l’articolo SFC si riferiscono a cose diverse. L’emendamento SB 1000 nella sostanza dice “Se tu, Cliente S.p.A., modifichi il mio sistema di IA in un modo che lo rende non più conforme agli obblighi di trasparenza della legge, io, BigTech Corp, devo tagliarti l’accesso e revocarti il permesso di usarlo entro 72 ore.“

In poche parole il creatore del modello è costretto a fare da sceriffo contrattuale e, secondo la cordata GitHub, questo obbligo contraddice l’irrevocabilità delle licenze FOSS. La SFC invece risponde con un’affermazione molto chiara: questi sistemi di IA non sono affatto FOSS. Sono software proprietario che si appoggia a servizi cloud segreti.

La tesi della SFC è quindi chiara: quando a GitHub/Microsoft vengono chieste trasparenza e responsabilità (la legge), l’azienda non esita a strumentalizzare il FOSS e a travisarne i meccanismi legali pur di difendere il proprio profitto.

Rispetto quindi a quanto abbiamo raccontato negli ultimi mesi a proposito di GitHub, vedi l’abbandono della piattaforma da parte del progetto Ghostty per via dell’inaffidabilità tecnologica o la scelta dell’Olanda verso l’alternativa open-source Forgejo per la sovranità digitale, l’accusa della SFC è ancora più frontale: GitHub non è più un partner del FOSS. È un’azienda che sfrutta il FOSS, lo destabilizza tecnicamente e lo attacca legalmente quando le fa comodo.

Sia chiaro, questo articolo cerca di semplificare la questione nelle poche righe utili a non far annoiare chi legge, ma gli approfondimenti del caso possibili sono molteplici. Vorrei chiudere comunque con una riflessione importante relativa alla superficialità con cui la nostra società sta affidando la propria esistenza nelle mani di agenti e modelli che mostrano meraviglie chiedendo in cambio, silentemente e implicitamente, buona parte della nostra privacy.

Non abbiamo controllo su come le big tech popolano i propri LLM, ma solo sulle nostre scelte. Informarsi per fare scelte sagge è un dovere.