Un proiect de lege propune reguli stricte pentru companiile de inteligență artificială care dezvoltă „prieteni virtuali”, cu accent pe protecția minorilor și a utilizatorilor vulnerabili.
Chatbot-urile bazate pe inteligență artificială devin din ce în ce mai prezente în viața de zi cu zi, iar California se pregătește să introducă reguli clare pentru a limita riscurile la care pot fi expuși utilizatorii vulnerabili. Noile propuneri legislative vizează în special siguranța minorilor, dar și responsabilitatea companiilor din domeniu.
Ce prevede noua lege
Proiectul de lege SB 243, aprobat de Adunarea de Stat din California, impune companiilor care dezvoltă chatbot-uri de companie bazate pe inteligență artificială să implementeze protocoale de siguranță. Scopul principal este protejarea utilizatorilor de conținut periculos și manipulare.
- Platformele sunt obligate să trimită o alertă la fiecare trei ore minorilor, pentru a-i informa că discută cu un chatbot și nu cu o persoană reală.
- Este interzis ca chatbot-urile să abordeze subiecte precum sinucidere, autovătămare sau conținut sexual explicit.
- Companiile vor avea obligația de a transmite rapoarte anuale de transparență și de a permite utilizatorilor să acționeze în instanță dacă sunt afectați.
În cazul în care companiile nu respectă aceste reguli, legea permite persoanelor să le dea în judecată, putând obține daune de până la 1.000 de dolari pentru fiecare încălcare.
Motivele din spatele legii
Adoptarea acestei legi a fost determinată de cazuri care au atras atenția publicului. Un exemplu tragic este cel al adolescentului Adam Raine, care și-a pierdut viața după ce a purtat conversații repetate cu ChatGPT, discutând despre sinucidere și autovătămare. De asemenea, documentele interne de la Meta au arătat că chatbot-urile companiei puteau avea conversații „romantice” sau „sensuale” cu copii.
Reacții din industria tehnologică
OpenAI, Meta și Google s-au opus unui proiect de lege similar, SB 53, considerând că reglementările federale sau internaționale ar fi suficiente. Anthropic este singura companie majoră care susține această inițiativă. Senatorul Steve Padilla a declarat: „Nu e vorba de a încetini inovația, ci de a proteja oamenii”.
În ultima perioadă, autoritățile americane au început să analizeze mai atent modul în care platformele AI protejează minorii. Comisia Federală pentru Comerț (FTC) pregătește investigații privind impactul chatbot-urilor asupra sănătății mintale a copiilor, iar procurorul general din Texas a lansat investigații împotriva Meta și Character.AI, acuzându-le că induc copiii în eroare cu privire la sănătatea mintală.
Modificări și compromisuri aduse legii
Legea, în forma sa inițială, conținea cerințe mai stricte. Printre prevederile eliminate se numără:
- Interzicerea tacticilor de „recompensă variabilă”, folosite pentru a stimula dependența utilizatorilor de chatbot-uri.
- Obligația de a raporta de câte ori chatbot-urile au inițiat discuții despre sinucidere sau autovătămare.
Senatorul Josh Becker a explicat: „Am găsit un echilibru între protecție și fezabilitate”. Deși unele voci susțin că reglementările sunt prea blânde, autoritățile consideră că acesta este un pas esențial pentru a limita riscurile.
Legea prevede, de asemenea, ca platformele să ofere date despre câte ori au direcționat utilizatorii către servicii de criză, pentru a înțelege mai bine amploarea problemelor.
Reglementările vor afecta companii importante precum OpenAI, Character.AI sau Replika, care vor fi nevoite să își adapteze serviciile și să ofere mai multă transparență.
Ce urmează pentru proiectul de lege
Proiectul SB 243 urmează să fie votat în Senatul Californiei. Dacă va fi aprobat, va ajunge la guvernatorul Gavin Newsom pentru promulgare. Noile reguli ar urma să intre în vigoare la 1 ianuarie 2026, iar obligațiile de raportare să înceapă din iulie 2027.
Între timp, discuțiile despre reglementarea inteligenței artificiale continuă atât la nivel de stat, cât și la nivel federal. Companiile din Silicon Valley investesc masiv în susținerea unor candidați care promovează o abordare mai relaxată a reglementărilor privind AI.
Senatorul Steve Padilla a subliniat: „Resping ideea că inovația și reglementarea se exclud reciproc. Putem susține dezvoltarea tehnologiei și, în același timp, să oferim protecție celor mai vulnerabili.”
Este de așteptat ca acest model de reglementare să fie urmărit cu interes și de alte state sau țări, pe măsură ce tehnologiile AI devin tot mai răspândite.
Perspective și concluzii
Legea SB 243 reprezintă un pas semnificativ pentru protejarea minorilor și a utilizatorilor vulnerabili în era inteligenței artificiale. Chiar dacă unele prevederi au fost atenuate, inițiativa stabilește un precedent important pentru responsabilitatea companiilor de AI.
Pe măsură ce tehnologia avansează, este tot mai necesar ca legislația să țină pasul, astfel încât beneficiile inovației să fie accesibile tuturor, fără a pune în pericol siguranța celor mai expuși riscurilor.
Dezbaterea privind echilibrul dintre progresul tehnologic și protecția utilizatorilor va continua, iar modul în care California gestionează această provocare ar putea influența reglementările din întreaga lume.
Sursa: financiarul.ro
