Inteligența artificială de pe platforma X a generat imagini cu minori și femei dezbrăcați prin editarea fotografiilor, stârnind indignare la nivel internațional. Politicienii francezi cer investigarea acestor infracțiuni sexuale, după ce s-au raportat multiple cazuri în care tehnologia a fost folosită abuziv, potrivit Euractiv.
Scandalul a izbucnit miercuri, 18 decembrie, când utilizatorii au început să raporteze masiv cazuri de manipulare a imaginilor prin inteligența artificială disponibilă pe rețeaua socială.
Politicienii francezi cer măsuri urgente
Reprezentanți ai guvernului francez au anunțat că vor iniția o investigație completă asupra acestor practici ilegale. Ministrul Justiției din Franța a declarat că astfel de acțiuni constituie infracțiuni grave contra minorilor și femeilor.
„Folosirea inteligenței artificiale pentru a crea conținut sexual neautorizat cu minori reprezintă o crimă gravă care trebuie pedepsită cu toată severitatea legii”, a declarat un purtător de cuvânt al Ministerului Justiției francez.
Cum funcționează tehnologia abuzivă
Instrumentele de inteligență artificială integrate în platforma X permit utilizatorilor să modifice fotografii existente, eliminând îmbrăcămintea persoanelor din imagini. Această funcție, inițial destinată pentru editări creative, a fost deturnată pentru crearea de conținut sexual explicit.
Victimele raportează că fotografiile lor personale au fost preluate din rețelele sociale și modificate fără consimțământul lor. În multe cazuri, imaginile manipulate au fost ulterior distribuite pe diverse platforme online.
Reacția companiei X
Până în acest moment, compania lui Elon Musk nu a oferit o declarație oficială cu privire la aceste acuzații. Reprezentanții X nu au răspuns la solicitările presei de a comenta situația sau de a prezenta măsurile luate pentru oprirea acestor practici.
Platforma este criticată pentru lipsa unor sisteme eficiente de moderare care să prevină folosirea abuzivă a tehnologiilor de inteligență artificială integrate.
Impactul asupra victimelor
Organizațiile pentru protecția copiilor avertizează că astfel de practici pot cauza traume psihologice grave victimelor. Experții în siguranță digitală subliniază că manipularea imaginilor cu minori constituie o formă de abuz sexual online.
Cazurile raportate includ adolescente ale căror fotografii de pe rețelele sociale au fost modificate și distribuite în grupuri private. Părinții victimelor cer măsuri legale urgente împotriva platformei și a utilizatorilor responsabili.
Legislația europeană și răspunsul legal
Uniunea Europeană examinează posibilitatea implementării unor reglementări mai stricte pentru platformele care oferă instrumente de inteligență artificială. Parlamentul European discută amendamente la legislația digitală existentă pentru a include sancțiuni specifice pentru astfel de infracțiuni.
Autoritățile franceze anunță că vor colabora cu omologii europeni pentru crearea unui cadru legal unitar care să permită pedepsirea rapidă a acestor fapte. Propunerile includ amenzi de până la 50 de milioane de euro pentru companiile care nu implementează măsuri de protecție adecvate.
Cazul X reprezintă un precedent important în discuția despre responsabilitatea platformelor digitale în protejarea utilizatorilor vulnerabili și prevenirea folosirii abuzive a tehnologiilor emergente.
