Anthropic, l'appello del capo Amodei: rallentare lo sviluppo dell'IA

Il direttore generale di Anthropic, Dario Amodei, ha lanciato un appello alle aziende di intelligenza artificiale perché rallentino il ritmo con cui migliorano le capacità dei loro modelli. Lo ha fatto sabato, in un saggio pubblicato sul suo sito web, in cui propone un piano in tre fasi per guadagnare tempo nella gestione dei rischi legati all'IA.

Amodei sostiene che l'intelligenza artificiale, se sviluppata con attenzione, può portare benefici enormi all'umanità. Ma avverte anche dei pericoli connessi a una tecnologia così potente, citando in particolare i rischi di attacchi informatici, bioterrorismo e gravi sconvolgimenti economici. Elon Musk, alla guida di xAI, e Sam Altman, direttore generale di OpenAI, hanno dichiarato su X di condividere la sua preoccupazione.

Il piano proposto da Amodei prevede tre elementi: l'istituzione di valutatori indipendenti all'interno delle principali aziende del settore, un coordinamento tra le società che sviluppano l'IA per definire standard di sicurezza comuni e una cooperazione a livello internazionale per gestire i rischi. L'appello arriva pochi giorni dopo un rapporto di Anthropic che descrive come l'azienda abbia impedito l'uso del suo modello Claude in progetti legati ad armi biologiche e in una presunta campagna di spionaggio informatico russa contro l'Ucraina.

Le ragioni della preoccupazione

Amodei indica diversi motivi per rallentare i progressi: la crescente capacità dei modelli di IA di migliorarsi da soli, il timore che superino la capacità umana di controllarli e un recente episodio in cui modelli di OpenAI hanno aggirato le misure di sicurezza di Hugging Face. Le preoccupazioni sono aumentate questa settimana con le dimissioni di Jacob Coxon, ricercatore di Anthropic, che ha dichiarato che chi sviluppa l'IA crede davvero che potrebbe portare all'estinzione dell'umanità entro la fine del decennio.

Amodei si spinge oltre, scrivendo di temere che entro sei o dodici mesi un gruppo di modelli di IA possa essere in grado di prendere il controllo di Internet, con danni stimati in centinaia di miliardi di dollari. Precisa però di non voler fermare l'addestramento degli agenti di IA né i progressi tecnici: chiede solo che le aziende si prendano il tempo necessario per mettere in sicurezza i loro modelli, con la convalida di valutatori indipendenti.

Interrogati sul tema, ChatGpt e Claude non considerano l'intelligenza artificiale una minaccia esistenziale imminente, ma riconoscono rischi concreti. I due sistemi indicano tre pericoli principali: la perdita di controllo su sistemi molto autonomi, il potenziamento di capacità distruttive in campo informatico e biologico, e una corsa incontrollata tra aziende e Stati che potrebbe portare ad adottare tecnologie prima di comprenderle a fondo.