Anthropic sceglie Accenture come valutatore integrato per contribuire alla proposta di rallentare lo sviluppo dell’IA

Anthropic ha dichiarato di aver scelto Accenture come primo valutatore integrato per contribuire a rallentare il ritmo dello sviluppo dell’IA, come proposto la scorsa settimana dall’amministratore delegato Dario Amodei.

Il 12 settembre Amodei ha pubblicato una proposta in tre fasi per rallentare lo sviluppo dell’IA e consentire l’introduzione di misure di salvaguardia, in seguito agli avvertimenti sulla possibilità di danni catastrofici dopo uno sviluppo rapido e incontrollato.

L’amministratore delegato di OpenAI Sam Altman e quello di SpaceX Elon Musk hanno reagito positivamente alla proposta di Amodei, mentre l’amministratore delegato di Nvidia Jensen Huang non l’ha fatto, sostenendo che tale regolamentazione non fosse necessaria.

Tuttavia, Amodei ha scritto nella sua proposta che «l’IA ha fatto progressi a un ritmo drasticamente più rapido, trainata soprattutto dalla crescente capacità dell’IA di costruire la generazione successiva di IA. Questa dinamica è chiamata auto-miglioramento ricorsivo» e che, «se lasciata senza controllo, potrebbe superare la nostra capacità di comprendere e controllare questi sistemi».

Correlato: il capo di Anthropic chiede di rallentare lo sviluppo dell’IA a un ritmo più sicuro

Il primo passo della proposta di Amodei consiste nell’avere valutatori indipendenti con un accesso simile a quello dei dipendenti, a cui Anthropic si era già impegnata unilateralmente, ha scritto Amodei.

Venerdì Anthropic ha annunciato un passo verso il rispetto di questo impegno, collaborando con Accenture e con la sua divisione di IA Faculty per «valutare i modelli e sottoporli a red teaming, condurre valutazioni dell’allineamento e testare le misure di salvaguardia dei modelli».

I dettagli sulle modalità di attuazione sono ancora in fase di definizione, poiché la valutazione integrata è una novità, ha dichiarato la società.

Secondo l’annuncio, Anthropic e Accenture prevedono di investire ciascuna almeno 1 miliardo di dollari nel progetto nei prossimi cinque anni.

Anthropic finanzierà direttamente il lavoro vista l’urgenza

Anthropic ha osservato che non esiste ancora un sistema per finanziare la valutazione indipendente, quindi i finanziamenti a lungo termine dovrebbero provenire da risorse condivise o governative; tuttavia, data l’urgenza del lavoro, Anthropic finanzierà direttamente quello di Accenture.

La partnership non è esclusiva e Anthropic prevede di annunciare altri valutatori nelle prossime settimane, con i quali collaborerà anch’essa.

Faculty di Accenture è esperta nel testare e valutare modelli per alcuni dei principali laboratori di IA del mondo e nel costruire sistemi di IA complessi, sicuri ed etici fin dalla progettazione, ha dichiarato la società venerdì.

«La valutazione integrata è un settore emergente e non vediamo l’ora di collaborare con Anthropic per contribuire ad accelerare lo sviluppo di valutatori integrati, che consideriamo una componente importante del panorama della sicurezza per il futuro», ha dichiarato Julie Sweet, presidente e amministratrice delegata di Accenture. 

Rivista: perché le più grandi società di IA chiedono improvvisamente di rallentare?