Conto bancario ungherese nella prima voce in assoluto di frode deepfake
Questa è la prima volta che la voce deepfake generata dall’intelligenza artificiale è stata utilizzata in una truffa rivolta al CEO di un’azienda che credeva a ciò che diceva e ha trasferito 220.000 euro.
L’amministratore delegato di una società energetica senza nome con sede nel Regno Unito credeva di essere al telefono con il suo capo, l’amministratore delegato della società madre tedesca dell’azienda. Quindi, ha seguito gli ordini senza fare domande e ha immediatamente trasferito 220.000 euro (circa 243.000 dollari)
sul conto bancario di un fornitore ungherese.
La voce deepfake conosceva persino il sottile accento tedesco nella voce del capo e portava l’“melodia dell’uomo.” La storia è stata condivisa con il Wall Street Journal da Rüdiger Kirsch di Euler Hermes Group SA, la compagnia assicurativa dell’azienda Forbes segnalato.
La frode non è ancora identificata Hanno chiamato la società tre volte: in primo luogo, per avviare il trasferimento, in secondo luogo, per affermare falsamente che era stato rimborsato, e una terza volta cercando un pagamento di follow-up Per l’amministratore delegato, è stato solo il terzo in cui si è insospettito poiché ha notato che la chiamata era stata effettuata da un numero di telefono austriaco.
Pertanto non ha inviato un secondo pagamento, ma a quel punto ha già trasferito il primo sul conto bancario ungherese da dove è stato immediatamente
rimosso in Messico e quindi distribuito su conti bancari in altre località.
Secondo il Forbes, questo è il primo esempio noto di un mimetismo vocale dell’intelligenza artificiale utilizzato per frodi. Anche se è possibile che si siano verificati altri casi simili. E tutto è accaduto almeno due mesi prima che i ricercatori di Dessa, una società di intelligenza artificiale con sede a Toronto, producessero una simulazione della voce del famoso podcaster e comico Joe Rogan.
Poiché non sono stati ancora identificati sospetti, si sa poco su quale software abbiano utilizzato o su come abbiano raccolto i dati vocali necessari per falsificare l’esecutivo tedesco. Tuttavia, l’intera questione mostra chiaramente come l’apprendimento automatico possa essere utilizzato come arma se si è nelle mani sbagliate.