Algoritmul TikTok promovează conținut interzis pentru tineri

Algoritmul platformei TikTok a fost acuzat că promovează materiale pornografice și conținut cu tentă sexuală către utilizatorii care se pretind a fi copii, conform unui nou raport realizat de o organizație pentru drepturile omului, Global Witness. Această descoperire a stârnit îngrijorări majore în rândul părinților, educației și autorităților de reglementare.

Cercetătorii de la Global Witness au creat conturi false care imitau utilizatori de 13 ani, activând toate setările de siguranță disponibile pe platformă. Cu toate acestea, aceștia au primit în continuare sugestii de căutare care conțineau conținut sexual explicit. Aceste sugestii conduceau către materiale sexualizate, inclusiv videoclipuri ce prezentau scene explicite de sex, ceea ce ridică întrebări serioase despre eficiența măsurilor de protecție implementate de TikTok.

Cum au fost făcute testele

La sfârșitul lunii iulie și începutul lunii august, echipa de cercetare a Global Witness a creat patru conturi false, pretinzând că sunt adolescenți de 13 ani. Aceștia au completat date de naștere false și nu li s-a cerut nicio verificare suplimentară a vârstei. Deși au activat modul „restricționat”, despre care TikTok susține că blochează „temele mature sau complexe, precum conținutul cu tentă sexuală”, aplicația a început totuși să le recomande termeni de căutare cu caracter sexual în secțiunea „ți-ar putea plăcea”.

Rezultatele căutărilor lor au inclus videoclipuri cu femei care simulau masturbarea, își expuneau lenjeria intimă în locuri publice sau își arătau sânii. În unele cazuri, cercetătorii au descoperit chiar filme pornografice explicite, ascunse în spatele unor clipuri aparent inofensive, pentru a evita moderarea automată.

Ava Lee, reprezentantă a Global Witness, a declarat că aceste descoperiri i-au „șocat profund” pe cercetători: „TikTok nu doar că nu reușește să împiedice accesul copiilor la conținut nepotrivit, dar le sugerează astfel de materiale imediat ce își fac un cont.” Aceasta afirmație subliniază gravitatea situației și necesitatea unor măsuri imediate pentru a proteja copiii online.

Reacția TikTok

Global Witness, organizație cunoscută pentru investigarea impactului gigantilor tech asupra drepturilor omului, democrației și schimbărilor climatice, a descoperit problema inițial în aprilie, în timpul altor cercetări. După ce a fost informată, compania TikTok a declarat că a acționat imediat și a eliminat materialele neconforme. Cu toate acestea, atunci când investigația a fost repetată la sfârșitul verii, rezultatele au arătat din nou același tip de conținut recomandat, conform raportului BBC.

TikTok susține că are implementate peste 50 de funcții menite să protejeze adolescenții și că elimină 9 din 10 videoclipuri care încalcă regulile înainte de a fi vizualizate. După noul raport, compania afirmă că a eliminat conținutul problematic și a îmbunătățit sistemul de recomandări din motorul de căutare. Aceste măsuri sunt esențiale pentru asigurarea unui mediu online sigur pentru utilizatori, în special pentru cei tineri.

Regulile privind siguranța copiilor

La 25 iulie, au intrat în vigoare noile reguli privind siguranța online a minorilor, cunoscute sub numele de „Children’s Codes”. Aceste reglementări impun platformelor o obligație legală de a proteja copiii, inclusiv implementarea unor sisteme eficiente de verificare a vârstei și modificarea algoritmilor pentru a bloca materialele ce promovează autovătămarea, sinuciderea sau tulburările alimentare. Aceste măsuri sunt esențiale pentru a asigura un mediu online mai sigur pentru tineri.

Global Witness a efectuat al doilea experiment tocmai după intrarea în vigoare a acestor norme, pentru a evalua impactul lor. Ava Lee a declarat: „Toată lumea este de acord că trebuie să protejăm copiii online. Acum este momentul ca autoritățile de reglementare să intervină.” Aceasta afirmă necesitatea urgentă de a evalua eficiența măsurilor de protecție existente și de a lua măsuri suplimentare pentru a proteja utilizatorii tineri.

În timpul cercetărilor, echipa a observat și reacțiile altor utilizatori care primeau aceleași sugestii sexualizate. Unul dintre aceștia a întrebat: „Poate cineva să-mi explice de ce am astfel de recomandări la căutare, vă rog?” Această întrebare reflectă confuzia și îngrijorarea utilizatorilor cu privire la ceea ce se întâmplă pe platformă.

Alt utilizator a întrebat: „Ce se întâmplă cu aplicația asta?” Aceste reacții sugerează că există o preocupare generalizată cu privire la modul în care TikTok, și platformele sociale în general, gestionează conținutul și siguranța utilizatorilor tineri.

În acest context, este esențial ca platformele de socializare să își reevalueze algoritmii și să implementeze măsuri de protecție mai eficiente, pentru a preveni expunerea copiilor la conținut inadecvat. Autoritățile de reglementare trebuie să colaboreze cu companiile de tehnologie pentru a dezvolta politici și practici care să asigure un mediu online sigur pentru toți utilizatorii, în special pentru cei vulnerabili.

Pe măsură ce TikTok continuă să crească în popularitate, este crucial ca părinții să fie conștienți de riscurile potențiale și să discute cu copiii lor despre utilizarea responsabilă a platformelor de socializare. Educația digitală este un aspect esențial în formarea unei generații de utilizatori care să navigheze în siguranță în mediul online.

În concluzie, raportul Global Witness subliniază problemele grave legate de siguranța online a copiilor pe platforme precum TikTok. Este nevoie de o acțiune concertată din partea companiilor de tehnologie, autorităților de reglementare și părinților pentru a asigura un mediu online sigur și adecvat pentru tineri. Este timpul ca toți actorii implicați să își îndeplinească responsabilitățile și să colaboreze pentru a proteja viitoarele generații de utilizatori online.