În timp ce boom-ul inteligenței artificiale perturbă unele segmente ale industriei muzicale, roboții generativi de voce devin un avantaj pentru mișcările extremiste, care îi folosesc pentru a recrea vocile și discursurile unor figuri importante, ajutându-i să se extindă, avertizează The Guardian.
„Adoptarea traducerii asistate de AI de către teroriști și extremiști marchează o evoluție semnificativă în strategiile de propagandă digitală”, a declarat Lucas Webber, analist principal în domeniul amenințărilor la Tech Against Terrorism și cercetător la Soufan Center. Webber s-a specializat în monitorizarea instrumentelor online ale grupurilor teroriste și extremiste din întreaga lume.
„Metodele anterioare se bazau pe traducători umani sau traduceri automate rudimentare, adesea limitate de fidelitatea limbii și nuanța stilistică”, a spus el. „Acum, odată cu apariția instrumentelor avansate de AI generativ, aceste grupuri pot produce traduceri perfecte, contextuale, care păstrează tonul, emoția și intensitatea ideologică în mai multe limbi.”
În cazul extremei-drepte neo-naziste, adoptarea software-ului de clonare a vocii prin AI a devenit deja foarte prolifică, mai multe versiuni în limba engleză ale discursurilor lui Adolf Hitler strângând zeci de milioane de vizualizări pe X, Instagram, TikTok și alte aplicații.
Potrivit unui studiu recent publicat de Global Network on Extremism and Technology (GNet), creatorii de conținut extremist au apelat la servicii de clonare a vocii, în special ElevenLabs, și le-au furnizat discursuri de arhivă din perioada celui de-al Treilea Reich, care apoi sunt procesate pentru a imita vocea lui Hitler în engleză.
Acceleratori neo-naziști, cei care plănuiesc acte teroriste împotriva guvernelor occidentale pentru a provoca un colaps societal, au apelat de asemenea la aceste instrumente pentru a răspândi versiuni mai actualizate ale mesajelor lor extrem de violente. De exemplu, Siege, un manual de insurgency scris de neo-nazistul american și teroristul proscris James Mason, care a devenit practic biblia organizațiilor precum The Base și fosta Atomwaffen Division, a fost transformat într-un audiobook la sfârșitul lunii noiembrie.
Publicațiile media pro-Statul Islamic folosesc activ „AI pentru a crea versiuni text-to-speech ale conținutului ideologic”
Webber spune că publicațiile media pro-Statul Islamic de pe rețelele criptate folosesc în prezent activ „AI pentru a crea versiuni text-to-speech ale conținutului ideologic din publicațiile oficiale”, pentru a accelera răspândirea mesajelor prin transformarea „propagandei scrise în narațiuni multimedia atractive”.
Grupurile teroriste jihadiste au găsit utilitate în AI pentru traducerea învățăturilor extremiste din arabă în conținut multilingv și ușor de digerat. În trecut, imam-american transformat în operativ al-Qaida, Anwar al-Awlaki, trebuia să înregistreze personal prelegeri în engleză pentru propaganda de recrutare în spațiul anglofon. CIA și FBI au menționat de mai multe ori influența vocii lui al-Awlaki ca un element esențial în răspândirea mesajului al-Qaida.
Pe Rocket.Chat – platforma de comunicare preferată a Statului Islamic pentru a comunica cu adepții și recruții săi – un utilizator a postat în octombrie un videoclip cu grafice rafinate și subtitrări japoneze, comentând dificultățile de a face asta fără apariția AI.
„Japoneza ar fi o limbă extrem de dificil de tradus în engleză păstrându-i elocvența”, a spus utilizatorul pro-Statul Islamic. „Trebuie știut că nu folosesc inteligența artificială pentru niciun media asociat, cu câteva excepții privind audio.”
Până acum, nu doar Statul Islamic, ci și grupuri din întreg spectrul ideologic au început să folosească aplicații AI gratuite, în special chatbot-ul ChatGPT de la OpenAI, pentru a-și amplifica activitățile generale. The Base și grupurile adiacente au folosit AI pentru crearea de imagini, recunoscând încă din 2023 utilizarea acestor instrumente pentru planificare și cercetare.
Autoritățile de contraterorism au privit mereu internetul și progresul tehnologic ca un joc persistent de a ține pasul cu grupurile teroriste care le exploatează. The Base, Statul Islamic și alți extremiști au folosit deja tehnologii emergente precum criptomonede pentru a strânge fonduri anonim și pentru a partaja fișiere pentru arme tipărite 3D.
(Citește și: ”Valentin Jucan (CNA): România e atacată în haită. E o schimbare a mecanismelor de propagandă, se doreşte reorientarea românilor către ieşirea din UE”)
***
Urmărește-ne pe Google News
