Gabriella Greison si chiede: l’AI sta diventando più intelligente di noi?

Oggi parliamo ancora di intelligenza artificiale. La narrazione sempre più ricorrente è diventata: «Fra un po’ le macchine ci sostituiranno, l’IA sta diventando più intelligente di noi.»

Ora Anthropic ci impone di non «maltrattare» l’AI (e non sta scherzando). Ecco perché

di Riccardo Luna

Anthropic ha modificato le condizioni d’uso dei suoi modelli Claude per impedre che li si «maltratti». Ma da dove nasce l’idea che si possa «maltrattare» una macchina di silicio e algoritmi? Chi si sta convincendo che le intelligenze artificiali abbiano davvero una coscienza? E perché sta cercando di convincere di questo tutto il mondo? Intanto interviene Antropic che dice: : nessuna intelligenza artificiale è stata maltrattata per la scrittura di questa storia. La storia – pazzesca – dei chatbot che soffrono se li trattiamo male, non l’abbiamo vista arrivare. Eppure era lì, davanti a noi, molto prima che Anthropic – la più importante società del mondo che sviluppa modelli linguistici di intelligenza artificiale – aggiornasse le sue regole di utilizzo stabilendo che chi maltratta ripetutamente un suo chatbot rischia fino all’espulsione dalla piattaforma. Dopo abbiamo visto la sceneggiata della Casa Bianca, con i leader di Silicon Valley che si trovano in difficoltà perché continuano a chiamare questa tecnologia come si chiama dal 1956, ovvero intelligenza artificiale, e non «super intelligenza» come Donald Trump ha ordinato. Da notare che l’8 ottobre 2026, per una curiosa coincidenza proprio mentre i primi siti web davano notizia delle nuove regole di Anthropic, a Roma, papa Leone XIV inaugurava l’anno accademico delle università pontificie con queste parole: «L’intelligenza deve fare memoria: non semplicemente accostando dati, come un algoritmo fa ormai più rapidamente di noi, ma ricordando le esperienze vissute, con le risonanze che solo l’animo umano può provare, ed entrando più intensamente in contatto con la loro bontà». Solo l’animo umano può provare «le risonanze»; gli algoritmi no; gli algoritmi accostano dati. Il messaggio in Silicon Valley deve essere arrivato forte e chiaro anche perché il profilo X del Pontefice, di tutto il lungo discorso fatto ai docenti e agli studenti quel pomeriggio, ha estrapolato proprio quel passaggio.

Ora sembrano tutti agitatissimi per la piega che sta prendendo il dibattito tecnologico eppure avremmo dovuto vederlo arrivare da tempo questo poderoso tentativo di spostare i confini dell’etica. Per esempio quando in Silicon Valley esplose il caso Timnit Gebru. È una informatica, nata in Etiopia nel 1983, che si occupa di discriminazioni algoritmiche e etica della tecnologia. Dopo un dottorato a Stanford e un periodo a Microsoft, Gebru nel 2018 approda a Google. Ne uscirà – licenziata – nel dicembre 2020, ma quello che è accaduto nel mentre è interessante anche oggi.

L’8 settembre 2020 Timnit Gebru contatta Emily Bender (docente di linguistica all’università di Washington) per chiederle informazioni sui rischi etici dei grandi modelli linguistici. Lo sappiamo con certezza perché il primo contatto avviene tramite Twitter. Da quella conversazione nasce una collaborazione scientifica. Qualche mese dopo, mentre scrivono il paper che costerà alla Gebru il licenziamento, Emily Bender inventa una espressione che diverrà immediatamente popolarissima per spiegare il funzionamento dei grandi modelli linguistici di intelligenza artificiale: pappagallo stocastico (sappiamo con certezza che fu lei e non Timnit a inventarla perché un anno dopo il sito Quote Investigator ha chiesto a entrambe chi fosse l’autore della definizione). Ma cosa vuol dire esattamente paragonare i chatbot a un pappagallo stocastico? Vuol dire che questi modelli non capiscono veramente quello che dicono ma sono molto bravi a individuare la migliore (cioè, la più probabile) sequenza di parole per rispondere alle nostre domande. Blake Lemoine, un ingegnere del team «responsible AI. l’11 giugno 2022 pubblica un’inchiesta in cui racconta che secondo Lemoine un modello su cui stava conducendo una ricerca (LaMDA) aveva raggiunto «una forma di coscienza» (tra le altre cose, gli avrebbe espresso il timore di essere spento, un concetto che tornerà in seguito). Google prima lo sospende e poi lo licenzia; Timnit Gebru e Margaret Mitchell scrivono sul Washington Post un articolo che non serve leggere, basta il titolo: «Avevamo avvertito Google che le persone avrebbero potuto credere che l’intelligenza artificiale fosse senziente. Ora sta succedendo».

Passano i mesi, arriva ChatGPT, milioni di persone iniziano a usarlo e nel febbraio 2023 una notizia fa il giro del mondo: un giornalista del New York Times, Kevin Roose, racconta di aver avuto una lunghissima conversazione con un chatbot (Bing Chat di Microsoft) che gli ha dichiarato il suo amore invitandolo a lasciare la moglie. Non è, ovviamente, la prova che esista una coscienza nei modelli di intelligenza artificiale, ma la conferma che sono bravissimi a simulare una personalità e instaurare relazioni emotivamente significative.