Anthropic afferma che Claude è stato usato per attacchi informatici e sorveglianza

Operatori di lingua russa e cinese hanno usato Claude di Anthropic per automatizzare attacchi informatici, ha dichiarato la società in un rapporto pubblicato giovedì.

L’operatore di lingua russa «JackPoterz» ha usato flussi di lavoro personalizzati basati sull’intelligenza artificiale per automatizzare ampie parti della catena d’attacco, prendendo di mira più di 20 organizzazioni, tra cui ministeri governativi e organismi di intelligence. L’attore ha preso di mira anche ambasciate e missioni diplomatiche in Ucraina e in Europa.

Operatori di lingua cinese hanno inoltre usato Claude come livello di progettazione e orchestrazione per la ricerca di vulnerabilità; un flusso di lavoro ha prodotto più di una dozzina di possibili vulnerabilità zero-day nel firmware di dispositivi di rete in un mese.

Anthropic ha dichiarato che l’intelligenza artificiale sta cambiando l’economia degli attacchi informatici, consentendo a singoli operatori di completare le violazioni in due o tre ore e di gestire decine di vittime in parallelo.

Separatamente, un consulente indipendente probabilmente con sede a Bamako, che lavorava con il servizio di intelligence statale del Mali, ha usato Claude come principale forza lavoro ingegneristica per costruire un sistema di sorveglianza domestica su scala nazionale, che monitora circa 25 milioni di schede SIM dei tre operatori mobili nazionali del Paese.

La piattaforma distribuita funzionava on-premise usando modelli locali, mentre Claude forniva supporto alla progettazione del software e all’ingegneria. Era progettata per generare dossier informativi sui numeri di telefono senza richiedere un’ordinanza del tribunale.

Correlato: L’intelligenza artificiale non ha innescato un «hackpocalypse» nella DeFi, afferma un partner di Dragonfly