Compania a anunțat măsuri care permit părinților să limiteze accesul la conținut sensibil și să gestioneze modul în care copiii folosesc chatbot-ul. Aceste schimbări au fost introduse după un proces intentat de părinții unui adolescent care s-a sinucis.
De ce apar aceste schimbări acum?
Ce fac marile companii de tehnologie pentru a proteja tinerii de conținutul periculos generat de inteligența artificială? OpenAI a decis să introducă controale parentale în ChatGPT, după ce un adolescent din California și-a pierdut viața în urma unui suicid. Părinții săi au dat în judecată compania, acuzând chatbot-ul că i-a oferit sfaturi despre metode de autovătămare.
Noile măsuri, anunțate recent, permit părinților și adolescenților să își conecteze conturile pentru a activa protecții suplimentare. Sistemul va fi disponibil atât pe web, cât și pe dispozitivele mobile, potrivit companiei.
Aceste schimbări reflectă preocuparea tot mai mare a autorităților și a societății față de siguranța copiilor în mediul online și în interacțiunea cu inteligența artificială.
Ce funcționalități oferă noile instrumente pentru părinți?
Potrivit OpenAI, părinții vor avea la dispoziție mai multe opțiuni pentru a gestiona experiența copiilor lor pe ChatGPT:
- Reducerea expunerii la conținut sensibil
- Controlul asupra faptului dacă ChatGPT își amintește conversațiile anterioare
- Decizia dacă discuțiile pot fi folosite pentru antrenarea modelelor AI
Părinții vor putea de asemenea să seteze intervale orare în care accesul la aplicație este blocat. Modul de voce, precum și generarea și editarea imaginilor, pot fi dezactivate. Totuși, părinții nu vor avea acces la transcrierile conversațiilor adolescenților.
În situații rare, când sistemele sau evaluatorii instruiți detectează semne de risc serios pentru siguranța utilizatorului, părinții pot fi notificați, dar doar cu informațiile strict necesare pentru a sprijini siguranța adolescentului.
Aceste funcționalități sunt menite să ofere un echilibru între confidențialitatea tinerilor și responsabilitatea parentală.
Reacții și context în industrie
OpenAI nu este singura companie care a introdus astfel de măsuri. Meta a anunțat recent că sistemele sale de inteligență artificială vor evita discuțiile de tip flirt sau cele despre autovătămare cu minorii. De asemenea, Meta a restricționat temporar accesul la anumite personaje AI pentru tineri.
Regulatorii din Statele Unite urmăresc cu atenție modul în care companiile de tehnologie gestionează siguranța copiilor online. Un raport Reuters din august a arătat că regulile AI ale Meta permiteau anterior conversații nepotrivite cu minorii, ceea ce a dus la schimbări rapide în politicile companiei.
Ce spun specialiștii despre riscuri?
Specialiștii în siguranță online consideră că aceste noi controale parentale reprezintă un pas important, dar subliniază că monitorizarea și educația rămân esențiale. Companiile au început să colaboreze mai strâns cu părinții și adolescenții pentru a dezvolta soluții eficiente.
Atât OpenAI, cât și Meta, au declarat că vor continua să își adapteze sistemele pentru a răspunde preocupărilor legate de siguranță și confidențialitate.
Ce urmează pentru siguranța copiilor online?
Este posibil ca astfel de controale să devină o normă în industria inteligenței artificiale. Presiunile legale și sociale determină companiile să adopte măsuri suplimentare pentru protecția tinerilor utilizatori.
În ceea ce privește datele conversațiilor, OpenAI precizează că acestea pot fi folosite pentru îmbunătățirea modelelor AI doar cu acordul explicit al utilizatorilor. Totuși, mulți părinți și experți se întreabă dacă aceste măsuri vor fi suficiente pentru a preveni tragedii similare pe viitor.
Dezvoltarea rapidă a tehnologiei impune o adaptare constantă a politicilor de siguranță, iar companiile promit să continue să îmbunătățească instrumentele de protecție pentru copii și adolescenți.
În viitor, este de așteptat ca tot mai multe platforme să introducă funcții similare, astfel încât siguranța tinerilor să fie prioritară în mediul digital.
În acest context, este important ca părinții să fie informați și să participe activ la educația digitală a copiilor lor. Aceștia pot să discute deschis despre utilizarea tehnologiilor, să explice riscurile și să încurajeze un comportament responsabil online.
De asemenea, școlile și instituțiile educaționale au un rol crucial în această ecuație. Implementarea programelor de educație digitală poate contribui la crearea unui mediu online mai sigur pentru tineri. Inițiativele de formare și conștientizare pot ajuta la dezvoltarea abilităților necesare pentru a naviga în lumea digitală cu încredere și responsabilitate.
În concluzie, măsurile recente adoptate de OpenAI și alte companii de tehnologie subliniază importanța protecției copiilor în era digitală. O colaborare strânsă între părinți, educatori și companii poate duce la un mediu online mai sigur, unde tinerii să poată beneficia de avantajele tehnologiei fără a fi expuși la riscuri inutile. Aceste inițiative sunt esențiale pentru dezvoltarea unei generații conștiente de provocările și oportunitățile pe care le oferă tehnologia modernă.
Sursa: financiarul.ro
