Conținutul fals pe rețele sociale: Utilizatori manipulați de AI

Reclamele bazate pe conținut fals generat cu ajutorul inteligenței artificiale au devenit un fenomen de amploare în campaniile politice online. Un raport realizat de Tech Transparency Project (TTP) evidențiază că, în Statele Unite, o mare parte din bugetele pentru publicitate politică pe platformele Meta — Facebook și Instagram — provin din campanii frauduloase care utilizează videoclipuri deepfake, unele dintre ele fiind extrem de realiste.

Rețelele sociale, inundate de conținut fals. Utilizatorii cad pradă manipulării AI

Analiza realizată de TTP arată că 63 de agenți de publicitate falși au cheltuit împreună aproape 49 de milioane de dolari, difuzând peste 150.000 de reclame în ultimele 12 luni. Aceste campanii au vizat în special persoanele vârstnice și au promovat oferte inexistente în domeniul sănătății, conform unui raport publicat de Le Figaro.

Printre materialele distribuite s-au numărat și clipuri deepfake care modificau discursurile unor politicieni americani. Un exemplu notabil a fost un videoclip viral în care Donald Trump părea „promițând” americanilor cec-uri de 5.000 de dolari, deși mesajul video nu avea nicio legătură cu declarațiile reale făcute la Casa Albă.

Conform datelor TTP, șase dintre conturile analizate au investit individual peste 1 milion de dolari înainte de a fi închise sau suspendate de Meta. Cu toate acestea, aproape jumătate dintre agenții de publicitate identificați continuau să ruleze reclame chiar și după ce compania eliminase o parte dintre postările lor.

„Escrocii profită de tehnologia AI, de confuzia legată de beneficiile sociale și de slaba moderare a conținutului pentru a înșela utilizatorii”, avertizează organizația. Reprezentanții Meta au anunțat că dezvoltă noi „apărări tehnice” pentru a combate tacticile din ce în ce mai sofisticate folosite în campaniile frauduloase.

Deepfake-urile, noua armă a escrocilor online

Raportul TTP subliniază că fenomenul se înscrie într-o tendință mai amplă de creștere a fraudelor digitale, amplificate de accesul facil la instrumente de inteligență artificială. Conform Comisiei Federale pentru Comerț (FTC), numărul plângerilor depuse de cetățenii americani în vârstă care au pierdut cel puțin 10.000 de dolari din cauza escrocilor s-a cvadruplat din 2020.

Într-un context electoral tensionat, utilizarea deepfake-urilor pentru manipulare și fraudă digitală devine o amenințare tot mai serioasă pentru integritatea informațională și siguranța online a utilizatorilor.

Impactul asupra campaniilor politice

Fenomenele de manipulare prin deepfake și publicitate înșelătoare nu afectează doar utilizatorii individuali, ci și întreaga peisaj politic. Aceste campanii de dezinformare pot influența voturile și pot submina încrederea în procesele democratice. Politicienii și partidele sunt nevoiți să facă față unei realități în care mesajele lor pot fi distorsionate și folosite împotriva lor.

De exemplu, un clip deepfake poate modifica cu ușurință o declarație a unui politician, transformând-o într-un mesaj care să pară că promovează o idee controversată sau o propagandă. Acest lucru poate duce la o percepție eronată a opiniilor unui politician și poate influența modul în care alegătorii percep candidatul respectiv.

Reglementările și măsurile de combatere a fraudelor

În fața acestei amenințări, autoritățile și platformele sociale se confruntă cu provocarea de a reglementa și de a combate conținutul fals. Meta, de exemplu, a început să implementeze măsuri mai stricte de verificare a reclamelor și a dezvoltat algoritmi capabili să identifice deepfake-urile. Totuși, expertiza tehnică a escrocilor avansează rapid, iar platformele trebuie să țină pasul cu noile tehnici.

Pe lângă inițiativele platformelor sociale, există și apeluri pentru o reglementare mai stringentă din partea guvernelor. În SUA, discuțiile despre crearea unor legi care să interzică utilizarea deepfake-urilor în campaniile politice sunt din ce în ce mai frecvente. Aceste legi ar putea ajuta la protejarea integrității alegerilor și la prevenirea manipulării alegătorilor.

Rolul educației media în prevenirea manipulării

Un alt aspect important în combaterea dezinformării este educația media. Utilizatorii trebuie să fie informați cu privire la riscurile asociate cu conținutul fals și să dezvolte abilități critice de analiză a informațiilor. Campaniile de educație media pot ajuta la creșterea conștientizării cu privire la deepfake-uri și la alte forme de manipulare online.

Organizațiile non-guvernamentale și instituțiile educaționale pot juca un rol crucial în acest proces. Prin programe de educație și campanii de informare, acestea pot contribui la formarea unor cetățeni mai bine pregătiți pentru a naviga în peisajul complex al informațiilor online.

Responsabilitatea platformelor sociale

Platformele sociale au, de asemenea, o responsabilitate semnificativă în combaterea dezinformării. Aceasta include nu doar dezvoltarea de tehnologii avansate pentru detectarea deepfake-urilor, ci și angajamentul de a crea un mediu online mai sigur pentru utilizatori. Transparența în ceea ce privește politica de moderare a conținutului și colaborarea cu experți în domeniu sunt esențiale pentru a răspunde acestei provocări.

În plus, platformele ar putea lua în considerare crearea unor centre de resurse dedicate educației utilizatorilor, unde aceștia să poată învăța cum să recunoască și să evite conținutul fals. Astfel, utilizatorii ar putea deveni mai critici și mai informați, ceea ce ar reduce impactul campaniilor de dezinformare.

Viitorul campaniilor politice în era deepfake

Pe măsură ce tehnologia continuă să evolueze, viitorul campaniilor politice va depinde din ce în ce mai mult de capacitatea de a gestiona și de a combate manipularea informațională. Politicienii, agenții de publicitate și platformele sociale trebuie să colaboreze pentru a crea un mediu în care adevărul să primeze. Acest lucru va necesita nu doar măsuri tehnice, ci și o schimbare culturală în felul în care interacționăm cu informațiile online.

Într-o lume în care deepfake-urile devin din ce în ce mai accesibile și sofisticate, este esențial să ne consolidăm sistemele de apărare împotriva dezinformării. Numai astfel putem asigura integritatea procesului democratic și putem proteja dreptul cetățenilor de a primi informații corecte și fiabile.