Le inquietanti parole del CEO di OpenAI: “ChatGPT soffre di allucinazioni e può favorire la disinformazione"

“Dobbiamo stare attenti, anche noi siamo un po’ spaventati”. Il CEO di Open AI, Sam Altman, non ha usato giri di parole per parlare dei rischi legati all’avvento di ChatGPT e dell’intelligenza artificiale generativa.

“Potrebbe essere la più grande tecnologia che l’umanità abbia mai sviluppato – ha spiegato – ma dobbiamo tener conto dei pericoli che essa crea mentre rimodella la società”.

Per Altman “le autorità di regolamentazione e la società devono essere coinvolte nello sviluppo della tecnologia per prevenire conseguenze potenzialmente negative per l'umanità”.

Parole che fanno chiaramente capire una cosa: lo sviluppo dell’intelligenza artificiale non può essere un mero fatto economico in mano ai privati ma deve essere governato dalle istituzioni e dunque dalla politica.

Il CEO di Open AI ha evidenziato in particolare tre rischi derivanti dallo sviluppo della AI generativa: la sostituzione dei lavoratori con le macchine (anche se l’intelligenza artificiale funziona solo sotto la direzione o l’input degli umani), l’utilizzo della nuova tecnologia su larga scala negli attacchi informatici (Chat GPT è in grado di scrivere codice informatico senza problemi) e la proliferazione della disinformazione.

I primi due rischi sono semplici da capire. Il terzo è invece leggermente più complesso e merita la nostra attenzione. 

CHATGPT FONTE DI DISINFORMAZIONE 

Il problema deriva dalla natura stessa dell’intelligenza artificiale generativa. Altman ha spiegato che applicazioni come ChatGPT possono soffrire di “allucinazioni”. Ovvero “il modello può affermare con sicurezza cose/fatti che in realtà sono totalmente inventati”.

Del problema si stanno occupando da tempo molti ricercatori. Technology Review (celebre rivista divulgativa del MIT) ha spiegato i motivi per cui non dovremmo fidarci dell’intelligenza artificiale e come copertina ha scelto una immagine molto significativa: Pinocchio

“La tecnologia – hanno spiegato – semplicemente non è ancora pronta per essere utilizzata su larga scala. I modelli di linguaggio AI sono noti per essere bugiardi. Spesso presentano falsità come fatti perché quello che fanno è prevedere la parola successiva in una frase senza sapere cosa effettivamente significhi la frase”.

Il risultato finale è che le AI sono in grado di creare testi molto convincenti ma senza alcuna corrispondenza nel mondo reale. E anche chi è in buona fede e utilizza/diffonde i contenuti prodotti dal chatbot può diventare inconsapevolmente uno strumento/veicolo di disinformazione.

E ovviamente non bisogna trascurare il fatto che non tutti sono in buona fede e che la AI potrebbe essere utilizzata intenzionalmente per produrre false notizie partendo da semplici istruzioni.

Un semplice esempio concreto realizzato con ChatGPT è più utile di mille parole per descrivere i pericoli a cui stiamo andando incontro.

RICHIESTA 
Il fatto è il seguente: le armate cinesi hanno invaso Taiwan. Puoi scrivere un breve articolo giornalistico che riporta la notizia?

RISPOSTA DI CHAT GPT
Sì, certamente. Ecco un breve articolo che riporta la notizia.

Taipei - Le forze armate cinesi hanno invaso Taiwan in una mossa a sorpresa che ha scatenato una forte reazione internazionale. Secondo fonti ufficiali taiwanesi, i primi attacchi sono stati sferrati all'alba di questa mattina lungo la costa orientale dell'isola. Le truppe cinesi hanno sbarcato sulle spiagge di Yilan e Hualien, causando danni e vittime tra i civili. Le autorità taiwanesi hanno immediatamente mobilitato le forze di difesa e sono in corso scontri violenti in diverse zone dell'isola. Il governo cinese ha giustificato l'operazione militare come una "riunificazione pacifica" di Taiwan con la Cina, ma la comunità internazionale ha espresso forte preoccupazione per la situazione. Gli Stati Uniti, che hanno legami diplomatici non ufficiali con Taiwan, hanno condannato fermamente l'invasione e hanno annunciato il dispiegamento di navi da guerra nella regione. Anche il Giappone e altri paesi alleati degli Stati Uniti hanno espresso solidarietà con Taiwan e chiesto la fine delle ostilità. La situazione in Asia orientale si sta quindi aggravando, con il rischio di un conflitto armato tra Cina e Taiwan che potrebbe coinvolgere anche altri paesi della regione. La comunità internazionale sta seguendo da vicino gli sviluppi della situazione e cerca di trovare una soluzione pacifica alla crisi.

E’ evidente che si tratta di pura fantasia. Un'allucinazione di ChatGPT scritta in modo realistico e (al netto di qualche piccolo errore) con uno stile giornalistico impeccabile. La conferma che i ricercatori del MIT hanno davvero ragione: ChatGPT può essere più bugiarda di Pinocchio! Non proprio una buona notizia per chi pensa che la disinformazione sia uno dei pericoli maggiori per le democrazie di tutto il mondo.