IA, o mână de ajutor pentru întreprinderi în moderarea conținutului

În era digitală de astăzi, miliarde de conținuturi sunt încărcate zilnic pe platforme online și site-uri web.

Moderarea acestui material nu a fost, prin urmare, niciodată mai critică sau mai dificilă. În timp ce majoritatea acestui conținut încărcat poate fi pozitiv, observăm, de asemenea, un volum tot mai mare de materiale dăunătoare și ilegale – de la violență și autovătămare la retorică extremistă, imagini sexuale explicite și materiale cu abuzuri sexuale asupra copiilor (CSAM).

Combaterea acestei avalanșe de conținut dăunător reprezintă în prezent o provocare definitorie pentru întreprinderi, iar cele care nu pot (sau nu doresc) să facă acest lucru se expun unor sancțiuni semnificative și pun copiii în mare pericol.

Propriile noastre cercetări au arătat că peste o treime (38%) dintre părinți au fost abordați de copiii lor după ce au văzut conținut dăunător sau ilegal, mulți dintre aceștia accesând materiale la fel de grafice și dăunătoare precum CSAM în doar zece minute de la intrarea pe internet.

Prin urmare, a sosit momentul să se adopte măsuri mai ferme de moderare a conținutului și ca întreprinderile să privească dincolo de metodele tradiționale de moderare manuală, care au devenit nepractice și imposibil de scalat. În schimb, acestea ar trebui să profite de capacitățile complementare ale AI, care transformă peisajul moderării conținutului prin automatizare, acuratețe sporită și scalabilitate.

Cu toate acestea, la fel ca în cazul oricărei noi inovații, companiile interesate de utilizarea inteligenței artificiale trebuie să se asigure că implementează tehnologia într-un mod care să asigure conformitatea cu reglementările. Deciziile pe care companiile le iau astăzi vor avea un impact masiv asupra operațiunilor lor viitoare.

Mâna de ajutor a IA

Inteligența artificială a transformat drastic peisajul moderării conținutului prin utilizarea scanării automate a imaginilor, clipurilor video preînregistrate, transmisiilor live și a altor tipuri de conținut într-o clipă. Aceasta poate identifica probleme precum activitatea minorilor în divertismentul pentru adulți, nuditatea, activitatea sexuală, violența extremă, automutilarea și simbolurile urii în cadrul platformelor de conținut generat de utilizatori, inclusiv social media.

Inteligența artificială este antrenată pe volume mari de „date reale”, colectând și analizând informații din arhive de imagini și videoclipuri etichetate, de la arme la conținut explicit. Acuratețea și eficacitatea sistemelor AI sunt direct corelate cu calitatea și cantitatea acestor date. Odată antrenată, inteligența artificială poate detecta eficient diverse forme de conținut dăunător. Acest lucru este deosebit de important în timpul scenariilor de streaming live, în care moderarea conținutului trebuie să fie viabilă pe diverse platforme cu standarde juridice și comunitare diferite.

În timp ce o abordare automatizată nu numai că accelerează procesul de moderare, dar oferă, de asemenea, scalabilitate – o caracteristică vitală într-o eră în care moderarea exclusiv umană nu ar fi posibilă cu volumul mare de conținut online.

O sinergie între inteligența artificială și oameni

Automatizarea AI aduce beneficii semnificative, permițând organizațiilor să modereze la scară largă și să reducă costurile prin eliminarea necesității unei echipe mari de moderatori. Cu toate acestea, chiar și cea mai avansată tehnologie necesită o judecată umană care să o însoțească, iar AI este departe de a fi perfectă pe cont propriu. Nuanțele specifice și indiciile contextuale pot deruta sistemele și genera rezultate inexacte. De exemplu, inteligența artificială ar putea fi incapabilă să facă diferența între un cuțit de bucătărie folosit într-un videoclip de gătit și o armă folosită într-un act de violență sau să confunde o armă de jucărie dintr-o reclamă pentru copii cu o armă de foc reală.

Prin urmare, atunci când inteligența artificială semnalează un conținut ca fiind potențial dăunător sau care încalcă liniile directoare, moderatorii umani pot interveni pentru a revizui și a lua decizia finală. Această abordare hibridă garantează că, în timp ce AI extinde domeniul de aplicare al moderării conținutului și simplifică procesul, oamenii își păstrează autoritatea finală, în special în cazurile complexe.

În următorii ani, sofisticarea tehnicilor de identificare și verificare ale IA va continua să crească. Aceasta include îmbunătățirea preciziei de comparare a persoanelor care apar în diferite tipuri de conținut cu documentele lor de identitate – un pas următor în asigurarea consimțământului și reducerea distribuției neautorizate de conținut.

Datorită capacităților sale de învățare, inteligența artificială își va îmbunătăți în mod constant precizia și eficiența, având potențialul de a reduce nevoia de intervenție umană pe măsură ce continuă să evolueze. Cu toate acestea, elementul uman va continua să fie necesar, în special în cazul apelurilor și al soluționării litigiilor legate de deciziile de moderare a conținutului. Nu numai că tehnologiile actuale de inteligență artificială nu au o perspectivă și o înțelegere nuanțată, dar oamenii pot servi, de asemenea, ca o verificare împotriva potențialelor prejudecăți sau erori algoritmice.

Situația globală a reglementărilor privind IA

Pe măsură ce inteligența artificială continuă să se extindă și să evolueze, multe întreprinderi se vor adresa organismelor de reglementare pentru a-și prezenta planurile de reglementare a aplicațiilor AI. Uniunea Europeană se află în fruntea acestei legislații, Legea sa privind inteligența artificială intrând în vigoare în august 2024. Poziționat ca un deschizător de drumuri în domeniul reglementării, actul clasifică sistemele AI în trei tipuri: cele care prezintă un risc inacceptabil, cele considerate cu risc ridicat și o a treia categorie cu reglementări minime.

Ca urmare, a fost înființat un birou pentru IA care să supravegheze punerea în aplicare a legii, format din cinci unități: reglementare și conformitate; siguranță; inovare în domeniul IA și coordonarea politicilor; robotică și IA pentru binele societății; și excelență în domeniul IA. Biroul va supraveghea, de asemenea, termenele limită pentru ca anumite întreprinderi să se conformeze noilor reglementări, care variază între șase luni pentru sistemele de IA interzise și 36 de luni pentru sistemele de IA cu risc ridicat.

Prin urmare, întreprinderile din UE sunt sfătuite să urmărească îndeaproape evoluțiile legislative pentru a evalua impactul asupra operațiunilor lor și pentru a se asigura că sistemele lor de IA sunt conforme în termenele stabilite. De asemenea, este esențial ca întreprinderile din afara UE să fie informate cu privire la modul în care aceste reglementări le-ar putea afecta activitățile, deoarece se așteaptă ca legislația să influențeze politicile nu numai în UE, ci și în Regatul Unit, SUA și alte regiuni. Reglementările privind inteligența artificială din Regatul Unit și din SUA vor urma exemplul, astfel încât întreprinderile trebuie să se asigure că sunt la curent și că orice instrumente pe care le implementează acum sunt susceptibile de a respecta orientările de conformitate elaborate de aceste țări în viitor.

O abordare colaborativă pentru un internet mai sigur

Acestea fiind spuse, implementarea cu succes a IA în moderarea conținutului va necesita, de asemenea, un angajament ferm față de îmbunătățirea continuă. Instrumentele vor fi probabil dezvoltate înainte de intrarea în vigoare a oricăror reglementări. Prin urmare, este important ca întreprinderile să le auditeze în mod proactiv pentru a evita potențialele prejudecăți, pentru a asigura corectitudinea și pentru a proteja confidențialitatea utilizatorilor. Organizațiile trebuie, de asemenea, să investească în formarea continuă a moderatorilor umani pentru a gestiona eficient cazurile nuanțate semnalate de AI pentru revizuire.

În același timp, având în vedere natura psihologică a activității de moderare a conținutului, furnizorii de soluții trebuie să acorde prioritate sănătății mintale a moderatorilor umani, oferind sprijin psihologic solid, resurse de wellness și strategii pentru a limita expunerea prelungită la conținuturi deranjante.

Adoptând o abordare proactivă și responsabilă a moderării conținutului cu ajutorul IA, platformele online pot cultiva un mediu digital care promovează creativitatea, conexiunea și dialogul constructiv, protejând în același timp utilizatorii de prejudicii.

În cele din urmă, soluțiile de moderare a conținutului bazate pe IA oferă organizațiilor un set complet de instrumente pentru a face față provocărilor din era digitală. Cu monitorizarea și filtrarea în timp real a volumelor masive de conținut generat de utilizatori, această tehnologie de ultimă generație ajută platformele să mențină un mediu online sigur și conform și le permite să își mărească eficient eforturile de moderare.

Cu toate acestea, atunci când apelează la inteligența artificială, organizațiile trebuie să fie vigilente în ceea ce privește documentele-cheie, calendarele de lansare și implicațiile legislației viitoare.

Dacă este pusă în aplicare în mod eficient, inteligența artificială poate acționa ca un partener perfect pentru oameni, creând o soluție de moderare a conținutului care îi protejează pe copii atunci când accesează internetul și acționează ca piatră de temelie pentru crearea unui ecosistem online sigur.

Lina Ghazal

Head of Regulatory and Public Affairs la VerifyMy, specializată în etica, reglementarea și siguranța online. Funcțiile anterioare au fost la Meta (anterior Facebook) și Ofcom.