Di come il bot ChatGPT sia il progetto con la crescita di utenti più grossa della storia abbiamo già trattato e, in tutta sincerità, cercare di non parlare di questa intelligenza artificiale prodotta da OpenAI è oggi praticamente impossibile. Notizie quotidiane, tanto specifiche su ChatGPT, quanto in generale sul tema AI, si susseguono su tutti i canali.
In questo senso il sito ARSTechnica è una fonte inesauribile di storie.
Partiamo dalla funzionalità “New Bing Search Engine” di Microsoft che subito dopo esser stata presentata come una modalità di ricerca “powered by ChatGPT” è stata attaccata e violata con una prompt injection che ne faceva svelare le informazioni riservate, il tutto utilizzando la parola “Sydney”. Vicenda interessante questa, perché di fatto applica un attacco in modello social engineering a quella che è un’intelligenza artificiale. Decisamente inedito.
C’è poi un uomo che (finalmente) è riuscito a battere una macchina al gioco da tavolo strategico Go il tutto per via non tanto di un’abilità del giocatore, quanto piuttosto di una debolezza (o bug) dell’intelligenza artificiale. Del resto quando si tratta di AI…
Queste regole non sono diverse da quelle di un computer.
Alcune posso essere eluse.
Altre possono essere infrante.
La citazione è inutile riportarla, vero?
Parliamo poi del fotografo che ha confessato come le foto del suo profilo instagram, seguito da ventisei mila persone, siano in realtà il prodotto di un’intelligenza artificiale:
[My Instagram account] has blown up to nearly 12K followers since October, more than I expected, because it is where I post AI-generated, human-finished portraits. Probably 95%+ of the followers don’t realize. I’d like to come clean.
Il mio account instagram è cresciuto di dodicimila follower da ottobre, più di quanto mi aspettassi, poiché è dove pubblico ritratti di persone generati da una IA. Probabilmente il 95% o più dei follower questa cosa non la sanno, e vorrei chiarirla.
La più inquietante delle storie è però quella della rivista di fantascienza Clarkesworld Magazine, che ha sospeso l’accettazione di storie da parte degli utenti per via di tutte gli invii che risultavano prodotti da delle intelligenze artificiali:
Just to be clear, this is NOT the number of submissions we receive by month. This is the number of people we've had to ban by month. Prior to late 2022, that was mostly plagiarism. Now it's machine-generated submissions. https://t.co/YJdjBOTFmy
— clarkesworld (@clarkesworld) February 21, 2023
Il grafico del tweet, come recita il testo, non mostra il numero di invii ricevuti dagli utenti, bensì il numero di invii rifiutati dalla rivista perché prodotti mediante intelligenza artificiale. Ad inquietare sono le date: da ottobre 2022. E cosa è stato rilasciato in quel mese? Sì, avete indovinato, ChatGPT.
Peggio nel peggio, tutto appare più come un esperimento:
The people causing the problem are from outside the SF/F community, largely driven in by ‘side hustle’ experts making claims of easy money with ChatGPT.
Le persone causa del problema sono esterne alla comunità fantascientifica, sono invece estranei che pensano di poter fare guadagni facili con ChatGPT.
L’articolo si chiude con i risultati di una ricerca su YouTube che mostra quanti video esistono che spiegano come fare soldi scrivendo libri con ChatGPT.
Tanti, come saranno tanti gli altri modi poco etici per sfruttare questi sistemi. Ed è una indicazione per il futuro: tra le nuove professioni ci sarà certamente quella del cacciatore di AI. Che poi, non è così nuova:
Da sempre appassionato del mondo open-source e di Linux nel 2009 ho fondato il portale Mia Mamma Usa Linux! per condividere articoli, notizie ed in generale tutto quello che riguarda il mondo del pinguino, con particolare attenzione alle tematiche di interoperabilità, HA e cloud.
E, sì, mia mamma usa Linux dal 2009.
Lascia un commento