200.000 false ‘vittime’ dell’IA impiegate per adescare online i truffatori

L’azienda tecnologica australiana Apate impiega in tutto il mondo un vasto assortimento di personaggi-bot IA che interpretano il ruolo di vittime credulone delle truffe, facendo sprecare ogni mese ai truffatori milioni di ore.

Ironicamente, uno degli indicatori mensili delle prestazioni dell’azienda è il numero di volte in cui i truffatori frustrati imprecano contro le stupide ‘vittime’ che fingono di non capire e li tengono occupati.

«Penso che siamo l’unica azienda al mondo a includere effettivamente nei propri KPI il numero di volte in cui i truffatori pronunciano parole che iniziano per F contro di loro», racconta ridendo a Magazine il fondatore di Apate, Dali Kaafar. 

L’azienda dispone di una flotta di quasi 200.000 personaggi IA capaci di sostenere conversazioni telefoniche convincenti e di chattare sui social media e sulle piattaforme di messaggistica.

”Posso dirti che, come li chiamiamo noi, gestiamo fondamentalmente centinaia di migliaia di chiamate al giorno e praticamente centinaia di migliaia di conversazioni sugli altri canali», afferma. 

Ogni ora del tempo di un truffatore che fanno sprecare è un’ora in più in cui non sta truffando una persona comune. Nelle sei settimane fino alla fine del 2025, i bot di Apate hanno partecipato a 600.000 chiamate truffaldine per un singolo operatore, TPG, in Australia. 

«In sostanza, abbiamo fatto sprecare ai truffatori più di cinquecento giorni», spiega. «Ciò equivale approssimativamente a un risparmio di circa tredici milioni di dollari.»

L’altro obiettivo dei bot è raccogliere informazioni utili per consentire a banche e operatori di telecomunicazioni di contrastare le reti di truffatori in Australia, Asia, Africa, Regno Unito ed Europa.

I bot di Apate interagiscono con i truffatori via chat. Fonte: Apate

Adescare truffatori su larga scala con vittime IA

Kaafar racconta di aver avuto l’idea quando ricevette una chiamata truffaldina mentre faceva un picnic con la famiglia a Sydney, nel novembre 2021.

Con grande irritazione della moglie, ma per la gioia dei figli, tenne occupato il truffatore per 44 minuti fingendosi uno sprovveduto credulone che abboccava alla truffa. 

«Quello che seguì fu letteralmente uno spettacolo comico completo per i miei figli», racconta, aggiungendo che durante la chiamata aveva anche appreso molte informazioni potenzialmente utili sui meccanismi della truffa e sulle tattiche impiegate.   

«Quando riattaccai, ricordo di aver pensato molto chiaramente: se ho potuto farlo per divertimento, immagina cosa può fare la tecnologia su larga scala.»

All’epoca professore alla Macquarie University, sottopose l’idea ad alcuni suoi dottorandi che lavoravano sull’IA e sulla sicurezza.

«Ho detto: “Ragazzi, deve esserci un modo molto migliore per farlo. Costruiamo qualcosa che automatizzi davvero l’intero processo di coinvolgimento dei truffatori su larga scala, ma che soprattutto estragga ogni tipo di informazione da queste conversazioni”. Ed è letteralmente così che è iniziato tutto.»

Correlato: un bot basato sull’IA sostituisce il candidato assente in un dibattito in Virginia

Nel giro di pochi mesi avevano ottenuto finanziamenti dall’Office of National Intelligence per studiare l’idea, e nel 2023 il progetto è stato scorporato dall’università e trasformato in Apate. Oggi l’azienda collabora con la maggior parte delle grandi banche australiane, oltre che con numerose banche nel Regno Unito, in Sudafrica e nel Sud-est asiatico. 

Apate è ben lontana dall’essere l’unica azienda ad adescare i truffatori usando bot IA, anche se lo fa su scala maggiore rispetto alla maggior parte delle altre. L’operatore britannico O2 ha lanciato lo scorso anno una campagna con una Nonna IA, che frustra i truffatori occupando ore del loro tempo parlando dei suoi 28 gatti. Era tanto una campagna pubblicitaria per avvertire il pubblico dei pericoli delle chiamate truffaldine quanto qualsiasi altra cosa.

La Nonna IA di O2, altamente spassosa. Fonte: 02

Creare le vittime IA perfette

Apate ha esordito con 120 personaggi diversi, appartenenti a generi, fasce d’età e tipi di personalità differenti, e ora ne conta 197.000, con tic vocali e accenti riconoscibili, oltre a produrre gli stessi rumori che fanno le persone quando cercano di pensare a cosa dire. 

«Abbiamo dedicato molto tempo a perfezionare e costruire questi bot IA, affinché suonassero esattamente come te, me e i nostri vicini», afferma. 

I modelli IA sono stati addestrati su «centinaia e centinaia» di ore di conversazioni registrate tra persone che adescano i truffatori e truffatori, così da poter adottare strategie di contrasto.

«Sanno di parlare con dei malintenzionati, se vogliamo, e gestiscono davvero le conversazioni in modo che risultino estremamente realistiche a qualsiasi truffatore, anche se quest’ultimo è scettico.»
I bot vengono inviati su WhatsApp e Telegram per fungere da trappole per i truffatori. Sebbene il vecchio luogo comune secondo cui non si può truffare una persona onesta non sia vero, è comunque molto possibile sfruttare il desiderio di denaro del truffatore. 

«Sono davvero criminali informatici. Penso che molto spesso dimentichiamo che sono criminali informatici che cercano di appropriarsi dei risparmi di una vita delle persone. E quindi quell’elemento di avidità è talvolta ciò che sfruttano anche i nostri bot.»

I bot raccolgono informazioni preziose da ogni chiamata truffaldina

Nel settore delle criptovalute, Apate lavora per «uno dei leader nell’analisi della blockchain», che potrebbe essere o meno Chainalysis. Non sono interessati a far sprecare tempo ai truffatori: vogliono informazioni su quali wallet e metodi stiano usando, così da poter tracciare il flusso dei fondi. 

«Questi bot, mentre interagiscono in conversazioni diverse, estraggono centinaia e migliaia di nuovi indirizzi di wallet crypto», afferma. «Sono dati e informazioni che arrivano letteralmente prima che il danno si verifichi.»

Le truffe sono un grande business e i call center sono «praticamente organizzazioni aziendali», spiega Kaafar. 

«Questi dati sono molto, molto importanti perché, letteralmente, quello è il nuovo conto o il nuovo wallet a cui bisogna prestare la massima attenzione. Perché è lì che questi… complessi di truffatori raccolgono il loro denaro o i loro fondi.»

«Pensatelo letteralmente come essere sempre un passo avanti rispetto alle tattiche del truffatore. E più si sa prima che il denaro venga trasferito, meglio è.»

A luglio, i bot di Apate hanno scoperto un mercato per broker che cercavano conti bancari verificati in India, offrendo commissioni fino al 5% pagate in USDT sui proventi delle truffe che transitavano attraverso i conti.

Il personale umano di Apate a Sydney. Fonte: Apate

Corsa agli armamenti dell’IA tra buoni e cattivi

I truffatori usano sempre più spesso bot IA a loro volta, e non passerà molto tempo prima che i truffatori IA siano onnipresenti quanto le e-mail spam. Truffare le persone è un’attività da 1.240 miliardi di dollari , quindi il settore può permettersi la potenza di calcolo necessaria per ampliare le operazioni.
Le ricerche di Apate suggeriscono che circa il 20%-30% delle conversazioni testuali truffaldine impiega già l’IA, ma Kaafar non è troppo preoccupato dall’esito dello scontro tra bot antitruffa e bot truffaldini.
Afferma che, secondo la teoria dei giochi, i ricercatori ritengono che i bot IA che giocano in difesa abbiano un vantaggio, perché cercano di estrarre informazioni, mentre i bot truffaldini cercano di indurre l’altra IA a compiere un’azione.

«Si può anche dimostrare matematicamente che questo va a vantaggio del difensore, perché diventa più facile estrarre informazioni dal modello IA dell’attaccante», afferma.

«Possiamo immaginare un mondo in cui i truffatori diventano molto più sofisticati e impiegano tecnologie simili. Ma ciò significa anche che, se lo fanno, sono destinati a perdere la partita, e questa è un’ottima notizia nella lotta contro le truffe.»

Magazine: un agente fa sprecare ai truffatori 14 ore, gli LLM ‘avvelenati’ dall’Iran — AI Eye