Pensate alla sicurezza nell’intelligenza artificiale e mettete insieme NVIDIA, Microsoft, IBM, Red Hat, Adobe, Cisco, Hugging Face, Cloudflare, CrowdStrike, la Linux Foundation e qualche altra decina di nomi importanti dell’industria tecnologica.

Da questo calderone di top player, due mesi fa, è nata Open Secure AI Alliance.

Un progetto il cui obiettivo è quello di sviluppare e condividere tecnologie, strumenti e pratiche open-source per rendere più sicuri i modelli di AI, gli agenti e tutto quello che gira intorno a loro.

L’idea, in sostanza, è applicare alla sicurezza dell’intelligenza artificiale alcuni dei principi che hanno reso possibile l’open-source: strumenti aperti, possibilità di ispezionare il codice, collaborare, individuare vulnerabilità e correggerle.

E a quanto pare l’idea è piaciuta parecchio.

Al momento della nascita ne hanno parlato tutti, da Phoronix a The New Stack, fino a Linuxiac, e già allora erano oltre trenta le organizzazioni coinvolte, mentre oggi siamo arrivati a superare le 120, inclusi nomi come Canonical e molti altri protagonisti dell’ecosistema tecnologico.

Sulla carta la missione è sicuramente interessante: rendere più facile individuare, analizzare e correggere le vulnerabilità nei sistemi di AI e negli agenti, costruendo uno stack difensivo aperto che possa essere controllato e adattato da chi lo utilizza.

E proprio qui arriviamo alla Linux Foundation.

La fondazione era già tra i partner fondatori dell’iniziativa, ma a settembre è arrivato il passaggio successivo: NVIDIA ha ceduto il controllo alla Linux Foundation, che dovrebbe rappresentare una casa più “neutrale” per il progetto.

Questa mossa non fa che aumentare il lustro del progetto, con la garanzia che tutto rimanga open, oltre che sicuro.

Eppure.

Pur riconoscendo la sicurezza come uno degli aspetti fondamentali dell’AI, e siamo sicuri che uno dei primi temi trattati sarà quello del controllo sui modelli open-weight che è tanto caro ai player citati in apertura, possibile che dell’altro aspetto, CRUCIALE nel contesto open-source, non parli nessuno?

A cosa mi riferisco? Al Copyright, ovviamente.

Perché c’è un altro problema enorme legato all’intelligenza artificiale che rischia di essere completamente oscurato dalla discussione sulla sicurezza: chi è il proprietario di quello che una AI produce?

Il problema non riguarda soltanto i dati utilizzati per addestrare i modelli e il possibile utilizzo di materiale protetto da copyright, ma anche il risultato finale.

Più utilizziamo l’AI per produrre codice, testi, immagini o altri contenuti, più diventa complicato stabilire quale sia effettivamente il contributo umano e, di conseguenza, quale tutela possa essere riconosciuta a quel risultato. Se non posso dimostrare di avere un diritto d’autore sul codice che sto distribuendo, su quale base posso applicargli una licenza GPL, MIT o Apache?

Prendete questo articolo di All Things Open che recita:

That’s the dividing line in AI-generated work, and it’s why open source developers should be mindful of how much they rely on AI in their projects. The more you lean on AI to write code for you, the less likely you are to hold copyright on the result. In the extreme case of “vibe coding,” where you only describe the end product and the AI does all the work, you may not be able to claim any copyright at all.

And because open source licenses rely on copyright, you may not be able to place a “vibe coded” project under an open source license, such as the GNU GPL.

Questa è la linea di demarcazione nel lavoro generato dall’IA, ed è il motivo per cui gli sviluppatori open-source dovrebbero essere consapevoli di quanto facciano affidamento sull’IA nei loro progetti. Più ti affidi all’IA per scrivere codice al posto tuo, meno è probabile che tu possa detenere il copyright sul risultato. Nel caso estremo del “vibe coding”, in cui descrivi solo il prodotto finale e l’IA fa tutto il lavoro, potresti non essere in grado di rivendicare alcun copyright.
E poiché le licenze open source si basano sul copyright, potresti non essere in grado di pubblicare un progetto “vibe coded” sotto una licenza open source, come la GNU GPL.

Chiaro no? Io descrivo quello che voglio, l’intelligenza artificiale scrive il codice e io mi limito a mettere insieme i pezzi. In uno scenario del genere, la domanda non è più soltanto “il codice è sicuro?“, ma anche “quel codice è legalmente mio?”.

E qui la questione diventa quasi paradossale: stiamo costruendo alleanze internazionali per rendere sicuro il codice generato dall’intelligenza artificiale, mentre rischiamo di non sapere nemmeno chi abbia il diritto di distribuirlo.

Ma forse il problema è ancora più a monte, come dice il CEO di JFrog: “No one cares about source code anymore“.

Forse però dovremmo tornare a interessarcene. Non soltanto per sapere se è sicuro, vulnerabile o scritto bene.

Anche per sapere di chi è.