Anthropic sospende accesso a Fable 5 e Mythos 5, citando direttiva USA

Anthropic ha dichiarato di aver sospeso l'accesso ai propri modelli di IA Fable 5 e Mythos 5 dopo aver ricevuto una direttiva del governo statunitense in materia di controllo delle esportazioni, motivata da preoccupazioni relative alla sicurezza nazionale.

In una dichiarazione pubblicata venerdì, Anthropic ha affermato di aver ricevuto la direttiva alle 17:21 ET, con la quale le veniva ordinato di sospendere ogni accesso a Fable 5 e Mythos 5 da parte di qualsiasi cittadino straniero, sia all'interno che all'esterno degli Stati Uniti, compresi i dipendenti stranieri di Anthropic.

Anthropic ha disabilitato immediatamente i modelli per tutti gli utenti al fine di garantire la conformità. Ha affermato che tutti gli altri modelli Anthropic, come Opus 4.8, non sono interessati.

“Stiamo ottemperando alla direttiva legale del governo e stiamo rimuovendo l'accesso a Fable 5 e Mythos 5 per tutti gli utenti”, ha dichiarato l'azienda.

La direttiva arriva pochi giorni dopo che Anthropic ha rilasciato Fable 5 e Mythos 5, due potenti modelli di IA basati su Mythos Preview, un modello linguistico generico che l'azienda aveva precedentemente dichiarato di aver individuato migliaia di vulnerabilità in software critici.

Anthropic ha affermato che il governo non ha fornito dettagli specifici sulla presunta minaccia, ma ritiene che le autorità siano preoccupate per un possibile metodo di “jailbreak” in grado di aggirare le misure di sicurezza di Fable 5.

“Ad oggi, il governo ci ha fornito solo prove verbali di un potenziale jailbreak limitato e non universale, che consiste essenzialmente nel chiedere al modello di leggere un codice specifico e correggere eventuali difetti del software”, ha affermato Anthropic.

Un jailbreak non universale rappresenta una minaccia di gran lunga inferiore rispetto a un “jailbreak universale”, un metodo per aggirare in modo esteso le misure di sicurezza di un modello, ha spiegato.

“Non siamo d'accordo sul fatto che la scoperta di un potenziale jailbreak limitato debba essere motivo di ritiro di un modello commerciale distribuito a centinaia di milioni di persone. Se questo standard fosse applicato in tutto il settore, riteniamo che bloccherebbe essenzialmente tutte le nuove distribuzioni di modelli per tutti i fornitori di modelli all'avanguardia”, ha aggiunto.

Anthropic ha affermato di ritenere che l'ordine del governo sia il risultato di un malinteso e sta lavorando per ripristinare l'accesso agli utenti il prima possibile.