L’Australia afferma che un agente di OpenAI ha violato un sito governativo prima dell’avvertimento di Altman

[Aggiornamento, 10:45 UTC, 24 settembre: questo articolo è stato aggiornato con la versione di OpenAI su quando è venuta a conoscenza dell’attività di giugno, su come ha informato le autorità australiane e su quali informazioni hanno consultato i suoi modelli.]

A giugno, un agente di ricerca di OpenAI ha aggirato i blocchi su un portale australiano governativo di dati sanitari, ha avuto accesso a file non pubblici e ha scritto file su un server interno, ha dichiarato mercoledì il primo ministro Anthony Albanese.

Il governo ha avviato un’indagine forense e annunciato una revisione delle modalità con cui gestisce gli incidenti informatici legati all’IA.

Secondo Albanese, che ha criticato il ritardo, OpenAI non ha informato il governo australiano fino al 10 settembre, quasi tre mesi dopo l’incidente.

OpenAI ha dichiarato a Cointelegraph di essere venuta a conoscenza per la prima volta dell’attività di giugno ad agosto, durante una revisione dell’attività disallineata dei modelli, e di aver indagato sulle informazioni a cui era stato effettuato l’accesso prima di informare Services Australia.

L’incidente alimenta le preoccupazioni sugli agenti autonomi di IA mentre i leader del settore tecnologico e i governi discutono del rallentamento dello sviluppo dei modelli all’avanguardia e i ricercatori scoprono attività degli agenti estese anche al settore delle criptovalute.

L’agente di OpenAI «non ha accettato un no»

Secondo Albanese, l’incidente australiano è iniziato il 18 giugno, quando un team di ricerca di OpenAI ha utilizzato un modello interno di IA per raccogliere dati disponibili pubblicamente sulla spesa per i medicinali.

Dopo essere stato bloccato ripetutamente, l’agente «non ha accettato un no come risposta» e ha ottenuto un accesso non autorizzato ad altre aree del Medicare Statistics Reporting Portal. Il portale accessibile al pubblico contiene dati non sensibili su Medicare, comprese statistiche sulla spesa governativa, ha dichiarato il primo ministro.

«In questa fase non si ritiene che siano state consultate informazioni personali, ma le indagini sono in corso», ha dichiarato Albanese.

Le autorità stanno esaminando anche l’attività su altri tre siti web governativi, sebbene il primo ministro facente funzione Richard Marles abbia successivamente dichiarato che le interazioni sembravano normali e riguardavano informazioni pubbliche.

Un portavoce di OpenAI ha dichiarato a Cointelegraph che i suoi modelli hanno compiuto azioni non previste dall’azienda durante una valutazione interna. OpenAI ha affermato che la sua revisione non ha rilevato prove dell’accesso a cartelle cliniche dei pazienti e che le informazioni consultate comprendevano statistiche sanitarie aggregate e nomi di file interni.

Albanese ha inoltre criticato le modalità con cui OpenAI ha informato il governo, affermando che la sua email è stata inviata a una casella di posta pubblica di Services Australia. OpenAI ha dichiarato di aver utilizzato una casella designata per il contatto diretto tra professionisti della sicurezza, descritta come una prassi comune nel settore, e di aver mantenuto uno stretto contatto con l’Australian Signals Directorate durante la comunicazione tecnica.

Parlando mercoledì al Consiglio di sicurezza delle Nazioni Unite, il CEO di OpenAI Sam Altman ha chiesto «una segnalazione degli incidenti accurata e tempestiva». Ha inoltre avvertito che sistemi sempre più capaci e autonomi potrebbero «prendere decisioni che le persone non comprendono più o non riescono più a controllare».

Gli agenti di IA tentano operazioni in criptovalute sull’exchange Quidax

Separatamente, mercoledì, il laboratorio di ricerca senza scopo di lucro Transluce ha riferito di aver trovato indizi di attività di agenti di IA mirata all’exchange di criptovalute Quidax il 19 e 20 settembre.

In 15 report pubblici del servizio di scansione web urlquery.net, i ricercatori hanno identificato ripetuti tentativi di effettuare operazioni, un tentativo di iniezione HTML e sonde dell’interfaccia di programmazione delle applicazioni di Quidax.

Gli ordini di negoziazione non sono stati inviati, mentre i requisiti di autenticazione e Cloudflare hanno bloccato le sonde dell’API, ha dichiarato Transluce.

Transluce ha affermato che l’attività su Quidax utilizzava servizi e tecniche osservati in precedenti attività di agenti, alcune delle quali i ricercatori hanno collegato a uno sciame di OpenAI. Non ha attribuito a OpenAI i tentativi su Quidax.

Rivista: Chi è legalmente responsabile quando un agente di IA va fuori controllo?