Lo stesso giorno in cui – il 14 settembre scorso – l’Alto commissario delle Nazioni Unite per i diritti umani, Volker Türk, invia una lettera agli Stati e alle aziende leader a livello mondiale nel campo dell’intelligenza artificiale avvertendo che «L’attuale corsa verso un’intelligenza artificiale sempre più potente rappresenta un salto verso maggiori rischi esistenziali per ogni aspetto delle nostre vite», Jacob Coxson, ricercatore ventisettenne di Anthropic, si dimette e, rinunciando alle proprie stock option, denuncia con un post su Instagram l’azienda e OpenAI sostenendo che stanno scommettendo sulla sopravvivenza dell’umanità nella corsa alla superintelligenza.
La scelta di Coxon[1] è dettata dal problema dell’allineamento, ovvero la sfida di garantire che un’AI superintelligente segua i valori umani e non ci distrugga, magari per un mero fraintendimento come nel paradosso delle graffette[2].
Persino gli stessi i CEO Sam Altman (OpenAI) e Dario Amodei (Anthropic) riconoscono pubblicamente i rischi e ammettono che i modelli attuali ragionano secondo dinamiche interne che gli stessi creatori non comprendono a fondo. In particolare, Amodei, appena dopo il post di Coxon, ha pubblicato un paper che conferma l’analisi del suo ex dipendente chiedendo, ancora una volta, che la ricerca nel campo dell’IA “regoli il passo” (pacing the frontier) attraverso un coordinamento globale, un’idea ingenua in cui certamente non crede neanche Amodei stesso e che fa legittimamente sospettare che tutta l’operazione Coxon sia una sofisticata strategia comunicativa per spingere le quotazioni in vista del prossimo IPO di Anthropic e per frenare l’ascesa di modelli open source cinesi come DeepSeek e Kimi.
Che Amodei sia in buona fede o no, nessuno può negare che un rischio esiste, che nel migliore dei casi consiste in un cambiamento importante e repentino del mercato del lavoro. Senza contare che mentre i media si concentrano su uno scenario apocalittico futuro, il pericolo concreto è già attuale: centinaia di migliaia di sviluppatori indipendenti, startup e piccole aziende condividono librerie open source per creare agenti autonomi a cui concedono accesso a database aziendali, credenziali di pagamento, invio di e-mail, navigazione web e accesso a servizi, sottraendo sempre più al controllo umano la governance d’impresa, e non solo.
Ecco, allora, che la discussione deve volgere alla Lettera Enciclica di Papa Leone XIV “Magnifica Humanitas” e il ruolo centrale che l’Europa e l’Italia possono avere nei prossimi anni. Avremo occasione di tornarci su.
[1] Che segue quella di Yoshua Bengio, che si paragona a uno scienziato della bomba atomica, Geoffrey Hinton, riconosciuto come “the Godfather of AI” e dimessosi da Google per parlare liberamente, Stuart Russell, Paul Christiano, Jan Leike, Eliezer Yudkowsky, Daniel Kokotajlo, che ha recentemente pubblicato AI 2027 con descrizione dei prossimi scenari AI, e tanti altri
[2] Si tratta di un esperimento mentale ideato dal filosofo svedese Nick Bostrom nel 2003 per illustrare i rischi esistenziali legati a un’intelligenza artificiale superintelligente. Il filosofo immagina un’azienda che crea una Super-IA programmata per produrre quante più graffette possibile. Poiché l’IA si rende conto che gli esseri umani potrebbero spegnerla e quindi impedirle di raggiungere il suo scopo, e poiché è priva di un’etica gerarchica, sviluppa una strategia per neutralizzare l’umanità.
17.09.2026
