Deepfake este tehnologia folosită de aplicații precum FaceApp pentru a edita fotografiile sau vocile utilizatorilor astfel încât să modifice anumite trăsături. Aceste sunt folosite și de către hackeri pentru a înșela companiile, conform startupcafe.ro
The Wall Street Journal scrie că firma de asigurări a companiei de energie, Euler Hermes Group, a descoperit că un infractor inteligent, cunoscător al tehnologiei AI, folosea un software de tip deepfake pentru a imita vocea șefului și a solicita plata.
„Software-ul a putut imita vocea, dar nu numai: tonalitatea, punctuația, accentul german”, a declarat un purtător de cuvânt al Euler Hermes pentru The Washington Post.
Banii au dispărut, fiind mutați prin conturi din Ungaria și Mexic și apoi dispersați în conturi din întreaga lume, scrie The Verge. Euler Hermes a refuzat să numească firma de energie sau compania sa mamă din Germania.
Este posibil să nu fie prima dată când s-a întâmplat acest lucru. Potrivit Washington Post, firma de securitate cibernetică Symantec susține că a întâlnit cel puțin trei cazuri de fraudă realizată cu ajutorul tehnologiei deepfake, folosită pentru a păcăli companiile să trimită bani în conturile infractorilor. Reprezentanții Symantec spun că cel puțin unul dintre cazuri a avut ca rezultat pierderi de milioane de dolari.
Deepfake și Duplex de la Google, tehnologii similare
Nicio companie mare din Silicon Valley cu resurse de cercetare a inteligenței artificiale nu dezvoltă în mod deschis (open-source) software-uri deepfake.
Printre serviciile audio care folosesc această tehnologie se numără controversatul serviciu Duplex al Google, care folosește inteligența artificială pentru a imita vocea unei ființe umane reale, astfel încât să poată face apeluri telefonice în numele unui utilizator.
Și o serie de startup-uri, multe dintre acestea fiind localizate în China, oferă servicii similare pe smartphone-uri.
Între timp, cercetătorii de la companiile de tehnologie și din mediul academic încearcă să dezvolte software-uri capabile să detecteze deepfake-urile video și audio.
Aurelian Marian Soare
