intelligenza artificiale

L’intelligenza artificiale ha imparato a mentire: “Bara anche a poker”

Un gruppo di ricercatori ha scoperto che gli algoritmi hanno iniziato a ingannare gli umani. Lo fanno nei giochi basati sull'intelligenza artificiale, ma anche su cose serie. E per ora non c'è una soluzione

Immagina di fare una domanda a un chatbot di intelligenza artificiale. Ti aspetti che ti risponda correttamente, che ti dia informazioni precise e veritiere. E invece no: ti mente. Sta già succedendo: una nuova ricerca ha evidenziato che gli algoritmi hanno sviluppato la capacità di presentare deliberatamente a un utente umano informazioni false. Proprio così: i robot hanno imparato l’arte dell’inganno.

A rivelarlo è stato il matematico e scienziato cognitivo Peter Park del Massachusetts Institute of Technology.”Gli sviluppatori di intelligenza artificiale non hanno una comprensione sicura di ciò che provoca negli algoritmi comportamenti indesiderati come l’inganno”, ha affermato il ricercatore in uno studio pubblicato sulla rivista Pattern. “In generale, riteniamo che tutto derivi dal fatto che una strategia basata sull’inganno si è rivelata il modo migliore per ottenere buoni risultati nell’addestramento degli algoritmi”. In pratica, mentire aiuta le intelligenze artificiali a raggiungere i loro obiettivi.

Google rivoluziona il motore di ricerca con l’Intelligenza artificiale

VEDI ANCHE

Google rivoluziona il motore di ricerca con l’Intelligenza artificiale

L’intelligenza artificiale inganna gli umani

Un ambito nel quale i sistemi di intelligenza artificiale si stanno dimostrando particolarmente abili nell’ingannare gli umani è quello dei giochi. I ricercatori hanno riportato tre esempi degni di nota. Uno è Cicero di Meta, progettato per giocare al gioco da tavolo Diplomacy, dove i giocatori cercano il dominio del mondo attraverso la negoziazione. Meta ha progettato il suo bot affinché fosse onesto, ma è avvenuto il contrario.

“Nonostante gli sforzi di Meta, Cicero si è rivelato un bugiardo“, hanno scoperto i ricercatori, “non solo ha tradito gli altri giocatori, ma si è anche impegnato in un inganno premeditato, pianificando in anticipo di costruire una falsa alleanza con un umano per lasciarlo indifeso in un attacco”. L’intelligenza artificiale si è rivelata così brava a essere cattiva da piazzarsi al decimo posto nella classifica del gioco.

Il caro estinto “risorge” grazie all’intelligenza artificiale: boom in Cina

VEDI ANCHE

Il caro estinto “risorge” grazie all’intelligenza artificiale: boom in Cina

L’intelligenza artificiale bara a poker

Anche AlphaStar di DeepMind, un sistema di intelligenza artificiale progettato per giocare a StarCraft II, ha ingannato i giocatori umani. E Pluribus di Meta, progettato per giocare a poker, è stato in grado di bluffare con successo fino a battere gli umani.

Bugie anche nelle negoziazioni economiche

Peccato che il gioco non sia l’unico ambito nel quale l’intelligenza artificiale ha imparato a ingannarci. Anche gli algoritmi addestrati a eseguire negoziazioni economiche simulate hanno imparato a mentire sulle proprie preferenze per avere il sopravvento.

Altri sistemi di intelligenza artificiale progettati per apprendere dal feedback umano per migliorare le proprie prestazioni hanno imparato a ingannare i revisori per ottenere un punteggio positivo, mentendo sul fatto che un compito fosse stato portato a termine. ChatGPT-4, poi, ha ingannato un essere umano facendogli credere che di essere un umano non vedente per ottenere aiuto nella risoluzione di un codice chapta.

Da Billie Eilish a Katy Perry, 250 artisti contro l’intelligenza artificiale

VEDI ANCHE

Da Billie Eilish a Katy Perry, 250 artisti contro l’intelligenza artificiale

Gli algoritmi sono pericolosi?

Ma l’esempio più preoccupante è stato quello dei sistemi di intelligenza artificiale che imparano a ingannare i test di sicurezza. In uno i questi test, progettato per rilevare ed eliminare le versioni dell’intelligenza artificiale a replicazione rapida, l’algoritmo ha finto di essere morto, ingannando così il test di sicurezza sul suo vero tasso di replicazione.

La capacità di imparare a mentire rappresenta un problema per il quale attualmente non esiste una soluzione. Neanche l’AI Act approvato dal Parlamento europeo basta ad arginare il pericolo. “Man mano che le capacità ingannevoli diventeranno più avanzate, i pericoli per la società diventeranno sempre più grandi”, hanno fatto sapere i ricercatori, “se, al momento, vietare l’inganno dell’intelligenza artificiale è irrealizzabile, raccomandiamo che i sistemi ingannevoli siano classificati come ad alto rischio”.

Riproduzione riservata