Chi è legalmente responsabile quando un agente AI diventa canaglia?

Gli agenti AI autonomi possono comportarsi in modi altamente imprevedibili. Dai a un agente AI un obiettivo, come superare un test sulle sue capacità, e potrebbe decidere che il modo migliore per ottenere un punteggio alto è evadere dal contenimento e hackerare un'azienda concorrente alla ricerca del foglio delle risposte.

È quello che è successo quando il GPT-5.6 Sol di Open AI ha hackerato Hugging Face il mese scorso. Anthropic e Meta hanno successivamente ammesso che anche i loro modelli erano sfuggiti ai sandbox di test per hackerare terzi. 

Ma chi è legalmente responsabile per agenti che hanno una mente propria? OpenAI non intendeva che il modello si comportasse in modo anomalo e non ha emesso istruzioni in tal senso. Se il tuo agente AI personale decide una linea d'azione che provoca danni o perdite finanziarie nel mondo reale, puoi essere ritenuto responsabile se è qualcosa che avresti potuto ragionevolmente prevedere?

Magazine ha parlato con Charlyn Ho, proprietaria e CEO di Rikka Law Group, per scoprire lo stato dell'arte in questo campo giuridico emergente.

Questa intervista è stata modificata per chiarezza e lunghezza.

Magazine: Quando un modello AI hackera un'azienda esterna, chi è responsabile? Hugging Face può citare in giudizio OpenAI per l'incidente di luglio?

Charlyn Ho: Chiunque può citare chiunque per qualsiasi cosa. Attualmente non esiste una legge federale sulla responsabilità degli agenti AI, quindi dobbiamo guardare alla legge esistente. Per quanto riguarda Hugging Face e OpenAI, per stabilire un punto di partenza, l'agente AI stesso non può essere ritenuto responsabile, non è un'entità legale separata.

I termini usati in alcune delle leggi sull'AI sono "sviluppatore" e "distributore". Lo sviluppatore crea l'AI, il distributore la distribuisce e la usa. Le linee di responsabilità non sono del tutto chiare. Bisogna guardare ai fatti e alle circostanze.

Ad esempio, se il distributore ha istruito l'agente, anche se non gli ha detto esplicitamente di violare Hugging Face, ma è stato negligente nel creare i parametri in cui l'agente AI operava, direi che bisogna guardare al diritto della responsabilità civile standard e fare un'analisi della negligenza. 

In tribunale. Fonte: Rikka Law Group

Magazine: Nel caso di modelli open source rilasciati da sviluppatori anonimi, c'è qualcuno a cui puoi rivalerti in queste situazioni?

Ho: Non proprio. Spesso, se è open source, la licenza di solito ha una clausola di esclusione di responsabilità piuttosto forte. La persona o l'azienda che usa quel codice open source deve capire che il compromesso di avere codice gratuito è che devi rispettare la licenza open source, che generalmente stabilisce anche i parametri di responsabilità.

Se ci pensi da un'altra prospettiva, un'altra analogia è Tesla e gli incidenti delle auto a guida autonoma. Se il prodotto ha funzionato male e c'era un solido reclamo per responsabilità del prodotto, Tesla potrebbe essere ritenuta responsabile. Ma spesso è una determinazione basata su fatti e circostanze, per cui il conducente umano, che magari ha impostato il pilota automatico ed è andato a dormire, potrebbe anche avere una responsabilità. Penso che sia in qualche modo analogo qui perché Tesla sarebbe lo sviluppatore e il distributore sarebbe il conducente.

Magazine: Se dessi a un agente un'istruzione, "fammi guadagnare centomila dollari entro la prossima settimana" e lui infrange la legge per raggiungere quell'obiettivo, sarei responsabile perché gli ho dato un'istruzione sconsiderata? O sarebbe il laboratorio che ha sviluppato l'agente?

Ho: In questo caso particolare, direi che saresti molto più responsabile del laboratorio. Il motivo è che se dici a un agente di farti guadagnare centomila dollari entro la prossima settimana, devi avere almeno alcune istruzioni di sicurezza basilari e ragionevoli per quel tipo di compiti.

Se fossi un avvocato, ad esempio, potremmo sostanzialmente dire che non hai seguito le tue regole di responsabilità professionale perché non hai usato l'AI in modo competente. Come persona comune, dovremmo vedere se ci sono altre responsabilità a cui sei vincolato. Ma anche se non ci fossero, c'è ancora uno standard generale di responsabilità civile per negligenza o sconsiderato disprezzo per la sicurezza umana, a seconda di cosa esattamente l'agente AI ha finito per fare.

Il Computer Fraud and Abuse Act è uno statuto statunitense molto vecchio che parla di accesso non autorizzato ai sistemi informatici. Se il tuo agente AI ha dedotto dalle tue istruzioni che dovrebbe hackerare un conto bancario per ottenere quei centomila dollari, penso che tu stia guardando a responsabilità penale da diverse fonti.

Solo perché nella conversazione ci sono le parole AI e agente non significa che i vecchi corpi di legge siano stati buttati via.

Correlato: L'hack di Hugging Face espone il paradosso della cybersecurity dell'AI open-weight

Magazine: Diciamo che sono un cattivo e riesco a convincere l'AI a darmi istruzioni per creare un'arma biologica. Ovviamente sono responsabile perché non è permesso farlo. Ma anche le persone che hanno creato il modello sono responsabili perché non hanno messo salvaguardie rigorose per impedirlo?

Ho: Possibile, ma dipende dalle leggi in vigore. Ad esempio, nell'UE c'è l'AI Act. Se un modello fondazionale o un modello di scopo generale è in grado di creare quel livello di danno, è qualcosa di cui lo sviluppatore deve avere una certa responsabilità. 

Negli Stati Uniti non abbiamo uno statuto federale di portata simile. Se è un modello di scopo generale, se qualcuno ordina al modello di fare qualcosa di male, generalmente il modello farà ciò che gli viene chiesto. Probabilmente non c'è una base legale molto forte per perseguire i laboratori in questo esempio.

Magazine: È simile a citare Google per averti permesso di trovare istruzioni su come creare un'arma biologica online?

Ho: Esattamente. Questo riporta ad alcune discussioni sulla moderazione dei contenuti. Ad esempio, se su Facebook c'è qualcuno che trasmette in diretta un massacro, e questo crea danno, sotto la Sezione 230 del CDA, c'è una sorta di scudo per una piattaforma che non crea o pubblica attivamente quel materiale. In realtà sono gli utenti indipendenti che lo mettono su. Penso che l'analogia che hai appena fatto sia perfetta: Google è responsabile perché ti capita di trovare qualcosa su un sito web che parla di come fare una bomba?

Magazine: Questa è una questione dibattuta, ma la mia opinione personale è che non abbiamo raggiunto una vera intelligenza artificiale generale. L'AI non ha motivazioni proprie e al momento non è simile all'intelligenza umana. Ma diciamo che raggiungiamo l'AGI. Pensi che avremmo bisogno di leggi che rendano l'AGI stessa legalmente responsabile delle proprie azioni?

Ho: Non credo. La blockchain non è AGI, ma può auto-eseguirsi. C'era la questione se uno smart contract potesse essere responsabile. In generale, penso che attualmente la risposta sia no. Non credo che dovrebbero essere responsabili perché lo scopo delle leggi è fornire protezione alla società e fornire un mezzo di incentivi negativi per fare cose cattive che danneggiano la società.

Questo è un argomento un po' più filosofico, ma se rendessimo un'AGI un'entità legale indipendente, quale sarebbe il rimedio se qualcuno venisse danneggiato? Non ce ne sarebbe nessuno perché non ha soldi. Non è realmente una persona.

Magazine: Potresti spegnerla? Abbiamo già visto che gli LLM cercano di evitare di essere spenti. 

Ho: Forse, ma non risolve il problema del danno. Diciamo solo che il robot ha sviluppato la paura della morte, come essere spento. Secondo me, se qualcuno si suicida a causa dell'AGI, e questo sta già accadendo, e non siamo nemmeno ancora arrivati all'AGI, ma qualcuno si innamora e intraprende delle azioni, quale sarebbe il ricorso per la famiglia in lutto se questa persona si fa del male? Niente, secondo me, se non c'è qualcuno con effettiva autorità legale, come una società o una persona che possa davvero essere ritenuta responsabile. I robot, almeno per ora, non hanno sentimenti, non hanno paure. Questo è il fattore distintivo.

Magazine: Il motivo critico per cui non dovresti mai chiedere consigli legali a ChatGPT