OpenAI a blocat generarea de videoclipuri false cu liderul drepturilor civile, la cererea moștenirii sale. Sora, aplicația de inteligență artificială, a produs conținut considerat „necuviincios”.
Contextul deciziei
De la lansarea aplicației Sora în Statele Unite, utilizatorii au creat scene neașteptate cu personalități decedate. De la Stephen Hawking la Regina Elisabeta a II-a, tehnologia a generat imagini hiperrealiste care au fost folosite în scenarii controversate.
Unul dintre videoclipurile care au stârnit reacții puternice îl prezenta pe Martin Luther King Jr. modificându-și celebrul discurs „I Have a Dream”. Alte materiale îl prezentau într-o confruntare fictivă cu Malcolm X.
Bernice A. King, fiica liderului pentru drepturile civile, a cerut public încetarea distribuirii acestor videoclipuri. „Sunt de acord în privința tatălui meu. Vă rog, opriți-vă”, a scris ea pe rețelele sociale, subliniind impactul emoțional pe care astfel de materiale îl au asupra celor care îi prețuiesc moștenirea.
Reacții și controverse
Decizia companiei OpenAI de a bloca generarea de videoclipuri false cu Martin Luther King Jr. a venit după presiuni din partea:
- Reprezentanților moștenirii King
- Familiei lui Robin Williams
- Experților în etica inteligenței artificiale
Zelda Williams, fiica actorului decedat, a descris senzația provocată de aceste videoclipuri false cu tatăl său ca fiind extrem de deranjantă. „E ca și cum l-ai exhuma”, a afirmat ea, evidențiind impactul emoțional devastator pe care aceste materiale îl pot avea asupra familiilor afectate.
Olivia Gambelin, expertă în inteligență artificială, a apreciat măsura luată de OpenAI, considerând-o „un pas bun înainte”, dar a subliniat că există „încercări și erori într-un volum copleșitor”. Ea a adăugat că se joacă prea mult cu încercarea de a rescrie aspecte ale istoriei, ceea ce poate avea consecințe negative asupra percepției publice.
OpenAI a recunoscut că aplicația Sora a generat conținut „necuviincios” despre Martin Luther King Jr. și a anunțat că va opri temporar generarea de imagini cu acesta, întărind măsurile de protecție pentru figuri istorice.
Protecții limitate și dileme etice
Deși OpenAI permite încă generarea de clipuri cu alte personalități istorice, sistemul actual ridică numeroase întrebări despre cine ar trebui să beneficieze de protecție împotriva învierii sintetice. Henry Ajder, specialist în tehnologii generative, a explicat: „Aceasta ridică întrebări despre cine primește protecție împotriva învierii sintetice și cine nu.”
Ajder a adăugat că moștenitorii lui King au ridicat în mod legitim această problemă în fața OpenAI, dar a subliniat că mulți decedați nu au moștenitori bine cunoscuți și cu resurse suficiente care să îi reprezinte. „În cele din urmă, vrem să evităm o situație în care, dacă nu suntem foarte celebri, societatea acceptă că după moartea noastră se declanșează un haos în ceea ce privește modul în care vom continua să fim reprezentați,” a spus el.
Provocări nerezolvate
Numai o parte dintre statele americane au legi clare împotriva deepfake-urilor, ceea ce permite abuzuri în reprezentarea digitală a persoanelor decedate. Lipsa unui cadru legal complet face ca multe familii să nu poată interveni atunci când imaginea celor dragi este folosită fără acordul lor.
OpenAI susține că are „mai multe straturi de protecție pentru a preveni utilizările abuzive”, dar recunoaște că este nevoie de dialog direct cu deținătorii de drepturi pentru a adapta politicile viitoare. Compania a precizat: „Reprezentanți autorizați sau proprietarii averii pot solicita ca asemănarea lor să nu fie folosită în cameo-urile Sora.”
Echilibrul dintre tehnologie și respect
OpenAI se află într-o poziție dificilă: restricționează unele imagini, dar susține și „interese puternice privind libertatea de exprimare în reprezentarea figurilor istorice”. Într-o declarație oficială, compania a transmis că există „interese puternice privind libertatea de exprimare în reprezentarea figurilor istorice”, dar că familiile și reprezentanții acestora ar trebui să controleze modul în care imaginea lor este folosită.
Întrebarea rămâne: ce se întâmplă cu persoanele care nu au familii sau moștenitori cunoscuți? Henry Ajder avertizează: „În cele din urmă, cred că vrem să evităm o situație în care, dacă nu suntem foarte celebri, societatea acceptă că după moartea noastră se declanșează un haos în ceea ce privește modul în care vom continua să fim reprezentați.”
Pe măsură ce tehnologia avansează, discuțiile despre memoria colectivă și adevărul istoric devin tot mai importante. Odată cu dezvoltarea inteligenței artificiale, societatea trebuie să găsească un echilibru între inovație și respectul față de cei care nu mai sunt printre noi.
Perspective pentru viitor
OpenAI a declarat că lucrează la întărirea măsurilor de protecție și că va continua dialogul cu personalitățile publice și deținătorii de conținut pentru a înțelege cum ar trebui gestionate aceste situații. Aceasta implică o colaborare strânsă cu experți în etica inteligenței artificiale, precum și cu familiile și moștenitorii personalităților istorice.
În timp ce tehnologia evoluează rapid, discuțiile despre drepturile de imagine și responsabilitatea companiilor de inteligență artificială vor rămâne în centrul atenției. Se impune o reglementare clară pentru a proteja memoria și imaginea personalităților istorice, dar și pentru a preveni exploatarea acestora în scopuri comerciale sau de divertisment.
Rămâne de văzut cum vor fi protejate în viitor imaginea și memoria personalităților istorice în era digitală, în condițiile în care tehnologia avansează și devine din ce în ce mai accesibilă. Societatea trebuie să găsească soluții care să echilibreze libertatea de exprimare cu respectul față de cei care au contribuit semnificativ la istorie.
Sursa: financiarul.ro
