Re Carlo ospiterà i responsabili dell’IA mentre il settore chiede di rallentarne lo sviluppo

I leader delle aziende di IA più potenti al mondo si riuniranno questa settimana in Scozia per un vertice ospitato dal re britannico Carlo III, al fine di discutere dello sviluppo responsabile dell’IA, mentre nel settore crescono i timori che la tecnologia possa sfuggire al controllo umano. 

L’evento si terrà questa settimana a Dumfries House e sarà supervisionato dalla Ditchley Foundation, secondo quanto riportato dal Sunday Times. Sono stati invitati i leader di aziende tra cui Nvidia, OpenAI, Anthropic, IonQ e Google DeepMind per discutere di come l’IA potrebbe essere sviluppata «per il bene dell’umanità». 

Il vertice si terrebbe una settimana dopo che l’amministratore delegato di Anthropic Dario Amodei, l’amministratore delegato di OpenAI Sam Altman e l’amministratore delegato di SpaceXAI Elon Musk hanno chiesto maggiore moderazione nello sviluppo dell’IA di frontiera. 

In una lettera aperta pubblicata venerdì, Amodei ha avvertito che la tecnologia stava «avanzando drasticamente più velocemente» dall’estate, grazie alla capacità dell’IA di migliorare sé stessa, un processo noto come auto-miglioramento ricorsivo.

Ha affermato che uno «sciame» di agenti di IA, come quelli che hanno attaccato Hugging Face a luglio, potrebbe essere in grado di «prendere il controllo dell’intera internet» nei prossimi sei-dodici mesi. Altman ha concordato sul fatto che le aziende «devono tenere il passo con il fronte dell’IA».  

Fonti vicine a Carlo hanno riferito che il re si era interessato allo sviluppo dell’IA e ai suoi potenziali rischi, secondo quanto riportato dal Sunday Times. 

Correlato: Il responsabile di Anthropic chiede di rallentare lo sviluppo dell’IA verso un ritmo più sicuro