Anthropic: IA capace di auto-migliorarsi forse più vicina del previsto

Anthropic, azienda statunitense specializzata in IA, avverte che lo sviluppo dell’intelligenza artificiale sta procedendo a un ritmo tale che presto gli agenti potrebbero essere in grado di crearsi, addestrarsi e migliorarsi autonomamente senza l’intervento umano, e raccomanda di rallentare lo sviluppo.

In un post sul blog pubblicato giovedì, Marina Favaro, responsabile dell’Anthropic Institute, e Jack Clark, cofondatore di Anthropic, hanno affermato che gli agenti sono già in grado di eseguire codice autonomamente, delegare ore di lavoro ad altri agenti e potrebbero essere sul punto di assumere il controllo completo.

“Per gran parte della storia dell’IA, gli esseri umani hanno guidato ogni fase del suo ciclo di sviluppo. Ma in Anthropic stiamo delegando una quota crescente dello sviluppo dell’IA agli stessi sistemi di IA, il che sta accelerando il nostro lavoro”, hanno affermato.

“Se portata alle estreme conseguenze e con una potenza di calcolo sufficiente, questa tendenza porta a un sistema di IA in grado di progettare e sviluppare in modo completamente autonomo il proprio successore”, hanno aggiunto Favaro e Clark.

Lo sviluppo dell'intelligenza artificiale sta procedendo a un ritmo tale da poter portare a un miglioramento degli agenti senza l'intervento umano. Fonte: Anthropic

Ci sono preoccupazioni su cosa potrebbe accadere se l’IA fosse in grado di diventare più intelligente autonomamente. A dicembre, OpenAI ha dichiarato di stare studiando come sviluppare e implementare in modo sicuro un’IA sempre più capace, compresa un’IA in grado di auto-migliorarsi in modo ricorsivo.

«Vogliamo che questi sistemi seguano costantemente l’intento umano in scenari complessi del mondo reale e in condizioni avverse, evitino comportamenti catastrofici e rimangano controllabili, verificabili e in linea con i valori umani», ha affermato.

L'azienda sta inoltre assumendo un ricercatore per la preparazione all'auto-miglioramento ricorsivo, che farà parte del suo team di ricerca sulla sicurezza.

Secondo Favaro e Clark, il miglioramento dei modelli di IA si è quasi raddoppiato ogni quattro mesi, anziché ogni sette mesi. Il ruolo degli esseri umani si sta riducendo ad ogni passo, con il modello Claude di Anthropic che produce circa l'80% del codice integrato nel codice base di Anthropic.

“Non ci siamo ancora arrivati, e l'auto-miglioramento ricorsivo non è inevitabile. Ma potrebbe arrivare prima di quanto la maggior parte delle istituzioni sia preparata”, hanno affermato.

“Una volta che la qualità del codice scritto da esseri umani e dall'IA raggiungerà la parità, gli esseri umani smetteranno completamente di scrivere codice e passeranno a revisionarlo soltanto. Ma se non riusciranno a revisionare il codice con la stessa rapidità con cui Claude lo genera, la revisione umana diventerà il collo di bottiglia dello sviluppo dell'IA”, hanno aggiunto.

Favaro e Clark hanno anche affermato che l'ideale sarebbe rallentare lo sviluppo per avere più tempo per affrontare le sue “immense” implicazioni.

Ad aprile, Anthropic ha escluso di rilasciare al pubblico il suo modello di IA, Claude Mythos, a causa delle preoccupazioni relative alla minaccia alla sicurezza informatica globale.

Claude Mythos è riuscito a creare con facilità delle vulnerabilità nel software, portando Anthropic a escludere, per il momento, un rilascio pubblico. Fonte: Anthropic

Allo stesso tempo, un gruppo di leader del settore tecnologico, tra cui alcuni rappresentanti di Anthropic e OpenAI, ha pubblicato giovedì una lettera aperta in cui esorta i legislatori a stabilire misure di controllo più rigorose su questa tecnologia, temendo che possa essere utilizzata per superare le “barriere di conoscenza” che storicamente hanno impedito ai malintenzionati di creare armi biologiche.

“Riteniamo che sarebbe positivo per il mondo avere la possibilità di rallentare o sospendere temporaneamente lo sviluppo dell'IA all'avanguardia, per consentire alle strutture sociali e alla ricerca sull'allineamento di stare al passo con il progresso della tecnologia”, hanno affermato Favaro e Clark.

«Ma se un rallentamento consentisse semplicemente agli attori meno prudenti di recuperare il ritardo tecnologico, ciò potrebbe compromettere la sicurezza di tutti. In assenza di un meccanismo di coordinamento globale, le aziende e i governi dovranno prendere decisioni difficili in materia di sicurezza, pur essendo sottoposti a pressioni competitive e geopolitiche.»

Gli agenti basati sull'intelligenza artificiale stanno diventando sempre più popolari, anche tra gli utenti di criptovalute. Alcuni dirigenti del settore delle criptovalute hanno ipotizzato che gli agenti basati sull'intelligenza artificiale che gestiscono le transazioni potrebbero favorire l'adozione e aumentare i volumi di transazione. Il CEO di Circle, Jeremy Allaire, ha previsto a gennaio che miliardi di agenti basati sull'intelligenza artificiale avrebbero operato per conto degli utenti entro cinque anni.

La società di investimento in criptovalute Keyrock ha riferito il mese scorso che gli agenti basati sull'intelligenza artificiale che gestiscono i pagamenti sono passati dall'idea alla realtà negli ultimi 12 mesi, con 73 milioni di dollari gestiti in 176 milioni di transazioni.