Tiscali.it
SEGUICI

Scoperta shock: ChatGPT è come lo specchio magico di Harry Potter

Secondo una ricerca dell'Università della California a San Diego il chatbot è ideato per riflettere l'intelligenza dell'utente che ha di fronte mostrando quello che desidera

TiscaliNews   
Scoperta shock, ChatGPT è come un camaleonte: si adatta all'intelligenza dell'utente

Le intelligenze artificiali (AI) come ChatGpt si comportano come lo specchio magico di Harry Potter, mostrano quel che l'utente desidera: a spiegare in questi termini il funzionamento del sofisticato chatbot è uno studio pubblicato sulla rivista Neural Computation da Terrence Sejnowski, dell'Università della California a San Diego, secondo il quale gli algoritmi conversazionali come quello di ChatGPT sono ideati per riflettere l'intelligenza dell'utente che hanno di fronte.

In questi mesi ChatGpt ha fatto molto parlare di sé non solo per i grandi traguardi raggiunti ma anche talvolta per le bizzarre risposte fornite di tanto in tanto. Questo è emerso in particolare con l'integrazione di ChatGPT in Bing, il motore di ricerca di Microsoft. Un giornalista del New York Times ha raccontato che la AI ha detto di amarlo e ha cercato di convincerlo a lasciare la moglie. E questo è solo uno dei tanti casi anomali raccontati. 

Analizzando il comportamento del chatbot attraverso i cosiddetti test di Turing inversi, in cui le AI cercano di determinare quanto l'utente sia realmente umano, Sejnowski ha spiegato che applicazioni conversazionali di questo tipo tentano in realtà di adeguarsi al proprio interlocutore, rispecchiandolo. Qualcosa di simile allo Specchio delle Brame di Harry Potter, uno strumento magico della celebre saga fantasy capace di mostrare quello che si brama più profondamente nel cuore, senza mai fornire conoscenza o verità ma riflettendo solo ciò che crede che lo spettatore voglia vedere.

I chatbot come quello sviluppato da OpenAI agiscono in modo simile, ha affermato Sejnowski, ossia sono disposti a piegare la verità senza preoccuparsi di differenziare i fatti dalla finzione, tutto per riflettere efficacemente l'utente.

Questi dispositivi cercano in qualche modo di adeguarsi alle domande dell'interlocutore e alle sue caratteristiche, e ovviamente assorbendone anche i pregiudizi con i rischi che ne possono derivare: "Chattare con i modelli linguistici è come andare in bicicletta. Le biciclette sono un meraviglioso mezzo di trasporto, se sai come guidarne una, altrimenti ti schianti", ha detto Sejnowski. "Lo stesso - ha aggiunto - vale per i chatbot: possono essere strumenti meravigliosi, ma solo se sai come usarli".

TiscaliNews   

I più recenti

Ricercatori propongono un tasto per spegnere l'IA in caso di pericolo, come per il nucleare
Ricercatori propongono un tasto per spegnere l'IA in caso di pericolo, come per il nucleare
Il padre di Trump lo invita a non candidarsi alle presidenziali: ma è un deepfake. Il video
Il padre di Trump lo invita a non candidarsi alle presidenziali: ma è un deepfake. Il video
I video generati da Sora, la nuova intelligenza artificiale che ha sorpreso il mondo
I video generati da Sora, la nuova intelligenza artificiale che ha sorpreso il mondo
Esplode la protesta contro OpenAI: nel mirino l'IA generale e il contratto con il Pentagono
Esplode la protesta contro OpenAI: nel mirino l'IA generale e il contratto con il Pentagono
thunderbird

Le Rubriche

Michael Pontrelli

Giornalista professionista ha iniziato a lavorare nei nuovi media digitali nel...

Alice Bellante

Laureata in Scienze Politiche e Relazioni Internazionali alla LUISS Guido Carli...

Sergio d'Arpa

Esperto di supercalcolo, fondatore e CEO di Klinik Sankt Moritz AG, la prima...

Simone Trebbi

Racconta imprese innovative e sostenibili, capaci di avere un impatto concreto...

Carlo Occhinegro

Scrive di storie dell'innovazione, dei protagonisti del mondo dell'imprenditoria...

eNews

Notizie e riflessioni sul mondo digitale.

Innova Italia

Storie, persone, idee del mondo imprenditoriale italiano che guarda al futuro