Gli investimenti. Quanto spendere per evitare che l’IA ci scappi di mano

Nel 2025 le grandi aziende tecnologiche hanno investito oltre 300 miliardi di dollari nelle infrastrutture per l’intelligenza artificiale e nelle spese correlate. Goldman Sachs suggerisce che i capitali dedicati all’IA continueranno a crescere, raggiungendo potenzialmente tra il 2,5% e il 4% del Pil statunitense nei prossimi anni, se l’adozione di questa tecnologia dovesse — come in molti prevedono — accelerare. Ma tutto questo è poca cosa rispetto a ciò che
servirebbe per evitare che, un domani, queste autostrade digitali ci conducano verso il precipizio. Alcuni tra i principali scienziati sostengono che un giorno l’IA potrebbe sfuggire al controllo umano. Yoshua Bengio, uno dei “padrini” dell’intelligenza artificiale moderna, afferma che «l’IA non è una tecnologia qualunque e non va giudicata per ciò che è oggi».
Secondo lo scienziato, che vanta il più alto numero di citazioni al mondo — oltre un milione — su Google Scholar, «siamo già avviati lungo una traiettoria chiara, sostenuta da solide evidenze scientifiche, che porterà a costruire macchine molto più potenti». Ma questo potere, ci ha detto Bengio, rischiamo di perderlo: «Potrebbe finire nelle mani sbagliate, o addirittura in quelle di macchine che non agiscono nel nostro interesse. È solo che non lo percepiamo. Ci sembra qualcosa di astratto. Non vediamo robot che attaccano. Tuttavia stiamo già costruendo la tecnologia che lo permetterà». Per ridurre questo rischio, i grandi laboratori che sviluppano intelligenza artificiale spendono parte del loro budget nel complicato tentativo di allineare l’IA ai valori umani. Non sappiamo, ufficialmente, a quanto ammontino i loro sforzi.
Si stima che nel 2023, pochi mesi dopo l’avvento di ChatGpt, Google DeepMind, OpenAI e Anthropic — le tre realtà più influenti del settore — abbiano speso complessivamente circa 70 milioni di dollari per sostenere i loro team dedicati alla sicurezza dell’IA. Questa cifra non sarebbe minimamente sufficiente. Secondo Charles Jones, un economista della Stanford Graduate School of Business, bisognerebbe investire ogni anno una cifra pari almeno all’1% del Pil degli Stati Uniti per provare a mitigare il rischio di un’Apocalisse. La percentuale indicata da Jones equivale a circa 300 miliardi di dollari. Si tratta di una cifra ben distante dai 100 milioni che si presume siano stati spesi per un’IA sicura, nel 2024, dai principali fondi noprofit — tra cui Open Philanthropy e Future of Life Institute — che sostengono da anni la ricerca sull’IA. Per i suoi calcoli, l’economista di Stanford ha preso in esame le spese sostenute dagli Usa durante la pandemia di Covid-19. «Ci sono ovviamente molte limitazioni in questa analogia — scrive Jones nel suo paper scientifico How Much Should We Spend to Reduce A.I.’s Existential Risk? — ma possiamo modellare il rischio esistenziale dell’IA esattamente come abbiamo fatto con la mortalità nella pandemia. Anche nel caso dell’IA il rischio di mortalità per le persone già vive giustifica ampiamente spese ingenti per rendere più sicura questa tecnologia. Attribuire un valore al benessere delle generazioni future, naturalmente, aumenterebbe ulteriormente la cifra che sarebbe necessario investire». Quando il virus si è diffuso, gli Stati Uniti hanno di fatto “speso” circa il 4% del Pil — attraverso la riduzione dell’attività economica — per affrontare un rischio di mortalità pari allo 0,3%. Gli esperti di IA ritengono che i pericoli catastrofici associati a macchine intelligenti, nei prossimi dieci o vent’anni, possano essere almeno dello stesso ordine di grandezza, se non superiori. Il paragone insomma non è perfetto, ma offre riferimenti utili a capire l’entità della cifra che sarebbe ragionevole destinare alla mitigazione. Il modello sviluppato da Jones suggerisce che spendere almeno l’1% del Pil ogni anno è giustificato in quasi tutti gli scenari verosimili.
Tuttavia lo scenario “base” — quello che prevede un rischio estinzione dell’1%, efficacia media e approccio egoista (senza pensare, cioè, al benessere delle generazioni future) — invita a spendere molto di più: il 15,8% del Pil, pari a circa 4,6 trilioni di dollari. Questa cifra sfiora l’ammontare delle entrate fiscali federali Usa in un anno ordinario, circa 4,9 trilioni di dollari, e si colloca non lontano dalla spesa complessiva sostenuta dagli Stati Uniti per l’intero sforzo bellico della Seconda Guerra Mondiale, stimata in 5,74 trilioni in valori attuali. Anche all’orizzonte c’è un nuovo nemico, fatto di circuiti e silicio. La vera sfida sarà capire quanto saremo disposti a spendere per contenerlo.