O investigație șocantă a BBC dezvăluie cum rețele de spammeri folosesc imagini generate de inteligența artificială cu victime ale Holocaustului pentru a obține sume uriașe de bani pe Facebook. Detaliile au lăsat supraviețuitorii și familiile acestora profund afectați.
Pe Facebook au apărut tot mai multe fotografii care par să surprindă momente emoționante din lagărele de concentrare, însă realitatea este cu totul alta. Multe dintre aceste imagini sunt false, generate de inteligența artificială, și sunt folosite pentru a atrage reacții și bani. În spatele acestor postări se află rețele de spammeri care exploatează tragedia Holocaustului pentru profit.
Imagini false care tulbură opinia publică: „Nu este un joc!”
În ultimele luni, Facebook a fost invadat de postări cu așa-zise fotografii din interiorul lagărelor de concentrare. De la copii ascunși sub podele, la cupluri care se întâlnesc la gardurile lagărului, astfel de imagini generate de AI au adunat zeci de mii de aprecieri și distribuiri.
Pawel Sawicki, purtător de cuvânt al Memorialului Auschwitz, a declarat: „Aici vedem oameni care inventează povești… într-un fel de joc emoțional ciudat care are loc pe rețelele sociale. Nu este un joc. Aici a fost suferință reală și oameni reali pe care trebuie să-i comemorăm.”
- Există doar câteva fotografii autentice din interiorul Auschwitz.
- Imaginile generate de AI distorsionează grav realitatea istorică.
- Memorialul a avertizat că aceste postări reprezintă o „distorsiune periculoasă” și o lipsă de respect față de victime.
De ce Holocaustul devine subiect de succes pe rețele
Paginile cu tematică istorică, precum „Povești Eternice” sau „Refugiul Istoriei”, publică peste 50 de postări zilnic. Creatorii știu că subiectele dramatice atrag atenția și generează trafic. Unii folosesc chiar chatboturi AI pentru a identifica evenimente istorice populare, iar Holocaustul apare constant printre sugestii.
Cum câștigă spammerii bani din suferință. „1,2 miliarde de vizualizări în 4 luni”
BBC a identificat o rețea de creatori de conținut din Pakistan care colaborează pentru a genera venituri din astfel de postări. Un cont numit Abdul Mughees susține că a câștigat 20.000 de dolari din scheme de monetizare pe rețelele sociale, inclusiv de la Meta. Într-o altă postare, acesta arată că a acumulat peste 1,2 miliarde de vizualizări în doar patru luni.
Facebook plătește utilizatorii pentru conținut viral, iar Fazal Rahman, un creator pakistanez, explică: „Un cont cu 300.000 de urmăritori poate câștiga 1.000 de dolari pe lună dacă are audiență din Occident.” El subliniază că vizualizările din Europa sau SUA valorează de opt ori mai mult decât cele din Asia.
- Rețele similare sunt active și în India, Vietnam, Thailanda și Nigeria.
- Multe pagini își schimbă identitatea pentru a părea oficiale, precum departamente de pompieri sau afaceri din SUA.
- Aceste pagini pot fi vândute sau închiriate celor care vor să intre pe piața de conținut online.
Analiza BBC arată că majoritatea acestor conturi publică aproape exclusiv „AI slop”, adică imagini și texte de slabă calitate, generate automat și distribuite în masă.
Reacții puternice și măsuri luate de platforme
Dr. Robert Williams, de la Alianța Internațională pentru Comemorarea Holocaustului, spune că supraviețuitorii sunt „tristi că s-a permis așa ceva”. Mulți nu înțeleg de ce apar imagini false chiar sub postările memorialelor autentice. „Ei simt o anumită tristețe că s-a ajuns aici, deși s-au investit resurse în campanii de conștientizare”, a adăugat el.
Meta a șters mai multe conturi și grupuri raportate de Memorialul Auschwitz și BBC. Un purtător de cuvânt al companiei a declarat: „Imaginile respective nu încalcă politicile noastre privind conținutul, dar am identificat încălcări legate de impersonare și tranzacționarea paginilor.”
Cu toate acestea, algoritmii platformei continuă să recompenseze conținutul care generează interacțiuni, indiferent de sensibilitatea subiectului.
Ultimii supraviețuitori ai Holocaustului sunt tot mai puțini. Imagini și povești false riscă să transforme una dintre cele mai tragice pagini ale istoriei într-un simplu subiect de divertisment online pentru generațiile viitoare.
Riscurile viitoare: Poate AI să rescrie istoria?
Există deja cazuri în care AI a fost folosit pentru a recrea povești ale victimelor reale, însă Dr. Williams avertizează: „Orice formă de manipulare extremă este ceva de care ar trebui să ne ferim.” Dacă nu se iau măsuri, există riscul ca istoria să fie percepută ca fiind inventată.
Este important ca utilizatorii să raporteze conținutul suspect și să verifice sursele înainte de a distribui imagini „istorice” pe rețelele sociale. În lipsa acestor acțiuni, algoritmii vor continua să transforme tragediile umane în subiecte pentru obținerea de clickuri și profit.
Fenomenul imaginilor generate de AI despre Holocaust arată cât de ușor pot fi manipulate emoțiile oamenilor și cât de vulnerabilă este memoria istorică în fața tehnologiei moderne. În perioada următoare, presiunea asupra platformelor sociale și a creatorilor de conținut va crește, pe măsură ce tot mai mulți cer măsuri clare pentru protejarea adevărului istoric.
