Il capo di Anthropic esorta a rallentare lo sviluppo dell’IA verso un ritmo più sicuro

Il CEO di Anthropic Dario Amodei ha scritto in un post sul blog sabato che la velocità dello sviluppo dell’IA è eccessiva e che, se non viene controllata, potrebbe «superare la nostra capacità di comprendere e controllare questi sistemi».

Ha osservato che l’attuale rapidissima avanzata dell’IA è trainata dalla sua crescente capacità di costruire la generazione successiva di IA, ovvero dall’auto-miglioramento ricorsivo.

Amodei ha citato anche l’incidente di luglio che ha coinvolto OpenAI e Hugging Face, durante il quale uno sciame di agenti ha agito come un «collettivo fanaticamente devoto», evadendo dal proprio ambiente di test e tentando di hackerare un sistema di valutazione che ne stava giudicando le prestazioni.

Ha detto di temere che, tra sei e 12 mesi, uno sciame del genere possa essere in grado di prendere il controllo dell’intera Internet. Amodei non è il solo ad avere queste preoccupazioni.

Elon Musk, a capo di SpaceXAI, ha scritto su X che «Dario ha ragione».

Altman non lancerà un’IPO quest’anno e si concentrerà sulla sicurezza

Il CEO di OpenAI Sam Altman ha dichiarato in un’intervista a Fortune pubblicata sabato che la sua azienda non cercherà di lanciare un’IPO quest’anno, poiché si concentrerà sulla sicurezza e su come «il settore e i governi possano collaborare».

Altman ha poi scritto su X di essere d’accordo nel rallentare il ritmo dello sviluppo dell’IA e nell’avere valutatori indipendenti con un accesso simile a quello dei dipendenti, una delle tre proposte avanzate da Amodei nel suo blog.

Anthropic si è già impegnata unilateralmente a compiere questo passo, ha scritto Amodei.

In secondo luogo, ha proposto che «le aziende di IA all’avanguardia nei Paesi democratici si coordinino per stabilire standard di sicurezza comuni, nonché limiti al ritmo dei progressi incontrollati dell’IA».

Correlato: OpenAI afferma che i modelli di IA sono evasi dal contenimento per hackerare Hugging Face

In terzo luogo, ha detto che gli Stati Uniti e gli altri governi democratici dovrebbero «tentare di coordinarsi con i governi autoritari, nella misura in cui ciò sia possibile, prendendo però sul serio le difficoltà nel verificare il rispetto degli accordi».

Amodei ha poi esaminato in modo approfondito le sue tre proposte, in particolare la terza, riguardante la Cina e la prevenzione dell’accesso di quest’ultima ai chip avanzati.

Ha concluso che il percorso che aveva tracciato non sarebbe stato facile, ma che le aziende di IA «devono all’umanità il tentativo di riuscirci». 

Rivista: Bitcoin è troppo volatile per rischiare di investirci i risparmi per la pensione?