Se l’intelligenza artificiale è una risorsa che può semplificare la vita e il lavoro, c’è da osservare che comincia a essere usata anche per truffare le persone.
Secondo l’analisi dell’Unione nazionali consumatori, tra le frodi più diffuse c’è quella del messaggio vocale, o anche una chiamata, di una persona conosciuta, per esempio un parente, che chiede urgentemente del denaro perché ha subito un furto, o ha avuto un incidente stradale. In questo caso la voce è replicata con l’intelligenza artificiale: con l’intelligenza artificiale generativa, infatti, oggi si possono modificare le voci, e i truffatori riescono a ricreare perfettamente la voce di un parente o di un amico, del direttore della banca o del datore di lavoro. Creare audio falsi ma convincenti è sempre più economico e alla portata di tutti: si tratta dei deep fake, falsi digitali che possono essere difficili da distinguere dalla realtà. Questi cloni vocali sono addestrati su clip audio reali e possono essere regolati in modo da imitare la voce di chiunque: bastano solo 5-10 secondi della voce presi da una clip di TikTok o da un video su YouTube per creare facilmente un clone.
Le capacità dell’intelligenza artificiale sono anche in grado di creare video falsi capaci di riprodurre le persone in modo quasi identico, prendendo per esempio foto, video e audio dai social network.
C’è da tenere presente anche che queste chiamate o messaggi possono provenire da un numero conosciuto: lo spoofing è una tecnica di truffa digitale che manipola l’identità del mittente portando a credere che a contattare la vittima sia una persona che conosce, o della propria azienda o un dipendente della banca per esempio. Spesso il messaggio falso viene visualizzato insieme ai messaggi autentici inviati dalla banca, dalla posta o da qualcuno che si ritiene affidabile: pensiamo di poterci fidare, ma l’hacker si sta spacciando per qualcun altro.