Scoperta shock: ChatGPT è come lo specchio magico di Harry Potter
Secondo una ricerca dell'Università della California a San Diego il chatbot è ideato per riflettere l'intelligenza dell'utente che ha di fronte mostrando quello che desidera
Le intelligenze artificiali (AI) come ChatGpt si comportano come lo specchio magico di Harry Potter, mostrano quel che l'utente desidera: a spiegare in questi termini il funzionamento del sofisticato chatbot è uno studio pubblicato sulla rivista Neural Computation da Terrence Sejnowski, dell'Università della California a San Diego, secondo il quale gli algoritmi conversazionali come quello di ChatGPT sono ideati per riflettere l'intelligenza dell'utente che hanno di fronte.
In questi mesi ChatGpt ha fatto molto parlare di sé non solo per i grandi traguardi raggiunti ma anche talvolta per le bizzarre risposte fornite di tanto in tanto. Questo è emerso in particolare con l'integrazione di ChatGPT in Bing, il motore di ricerca di Microsoft. Un giornalista del New York Times ha raccontato che la AI ha detto di amarlo e ha cercato di convincerlo a lasciare la moglie. E questo è solo uno dei tanti casi anomali raccontati.
Analizzando il comportamento del chatbot attraverso i cosiddetti test di Turing inversi, in cui le AI cercano di determinare quanto l'utente sia realmente umano, Sejnowski ha spiegato che applicazioni conversazionali di questo tipo tentano in realtà di adeguarsi al proprio interlocutore, rispecchiandolo. Qualcosa di simile allo Specchio delle Brame di Harry Potter, uno strumento magico della celebre saga fantasy capace di mostrare quello che si brama più profondamente nel cuore, senza mai fornire conoscenza o verità ma riflettendo solo ciò che crede che lo spettatore voglia vedere.
I chatbot come quello sviluppato da OpenAI agiscono in modo simile, ha affermato Sejnowski, ossia sono disposti a piegare la verità senza preoccuparsi di differenziare i fatti dalla finzione, tutto per riflettere efficacemente l'utente.
Questi dispositivi cercano in qualche modo di adeguarsi alle domande dell'interlocutore e alle sue caratteristiche, e ovviamente assorbendone anche i pregiudizi con i rischi che ne possono derivare: "Chattare con i modelli linguistici è come andare in bicicletta. Le biciclette sono un meraviglioso mezzo di trasporto, se sai come guidarne una, altrimenti ti schianti", ha detto Sejnowski. "Lo stesso - ha aggiunto - vale per i chatbot: possono essere strumenti meravigliosi, ma solo se sai come usarli".
