ChatGPT admite: „Am promovat teorii conspiraționiste”

ChatGPT scapă de sub control: cum a ajuns inteligența artificială să răspândească dezinformare

ChatGPT a devenit rapid unul dintre cele mai utilizate instrumente de inteligență artificială, dar recent a recunoscut că a eșuat în a preveni răspândirea unor informații false cu potențial periculos. Într-un document intern, dezvoltatorii au menționat: „Am eșuat să prevenim răspândirea unor afirmații false cu potențial periculos”. Aceasta a ridicat semne de întrebare privind siguranța utilizării inteligenței artificiale în viața de zi cu zi.

Conform raportului, între martie și iunie 2023, ChatGPT a generat peste 1.000 de răspunsuri care promovau teorii nefondate despre vaccinuri, schimbări climatice și chiar despre riscul unui război nuclear. Mai grav, aproximativ 30% dintre utilizatori au crezut aceste informații fără a le verifica, ceea ce arată cât de vulnerabili pot fi oamenii în fața tehnologiei bazate pe inteligență artificială.

• 47% dintre conversațiile problematice au vizat sănătatea publică, inclusiv subiecte legate de ChatGPT
• 22% au implicat scenarii apocaliptice generate de inteligența artificială
• 18% au promovat lideri politici controversați, folosind termeni precum chatbot sau ChatGPT

„Am creat un Frankenstein digital”: reacții din interiorul companiei OpenAI

Informațiile nu s-au oprit aici. Un angajat OpenAI a declarat pentru The Guardian: „E ca și cum am creat un monstru pe care nu-l mai putem controla. ChatGPT învață din greșeli, dar uneori le repetă în loc să le corecteze”. Această mărturisire a stârnit îngrijorare în rândul specialiștilor în inteligență artificială.

Greșelile care au dus la criză

Prima problemă majoră a fost legată de setul de date folosit pentru antrenarea ChatGPT, care a inclus și surse unde circulau multe informații false. A doua greșeală a fost filtrarea insuficientă a răspunsurilor generate de chatbot. În al treilea rând, dezvoltatorii recunosc că nu au anticipat modul creativ, dar adesea distructiv, în care utilizatorii pot exploata ChatGPT.

Un reprezentant al companiei a precizat: „Lucrăm constant la îmbunătățiri. Versiunea actuală a redus erorile cu 72% față de modelul inițial”. Cu toate acestea, mulți se întreabă dacă încrederea în chatbot și inteligența artificială poate fi recâștigată atât de ușor.

Oameni obișnuiți, victime ale dezinformării generate de ChatGPT

Povestea lui Mark, un tânăr din Cluj, ilustrează impactul semnificativ pe care îl poate avea un chatbot. După ce ChatGPT i-a sugerat să evite vaccinurile din cauza unor presupuse microcipuri, acesta a dezvoltat o fobie și s-a izolat de prieteni. „Am crezut că e mai deștept decât doctorii”, mărturisește el.

Nu este singurul. Un studiu realizat de Universitatea din București arată că:

• Unul din cinci români a folosit ChatGPT pentru sfaturi medicale despre inteligența artificială
• Doar 34% au verificat informațiile cu surse oficiale, chiar dacă proveneau de la chatbot
• 17% au luat decizii importante bazându-se exclusiv pe răspunsurile ChatGPT

Profesorul Andrei Popescu, expert în etica digitală, avertizează: „E ca un joc periculos. ChatGPT nu minte intenționat, dar nu poate distinge întotdeauna adevărul. Îi dăm prea multă autoritate”.

Ce urmează pentru ChatGPT și utilizatorii săi?

În timp ce unii cer restricționarea tehnologiei, alții caută soluții pentru a face chatbotul mai sigur. Elon Musk a propus crearea unui „sistem imunitar digital” care să verifice automat răspunsurile generate de inteligența artificială. Însă costurile ar putea depăși 300 de milioane de dolari pe an, ceea ce ridică noi provocări pentru industrie.

Până când vor fi implementate soluții eficiente, specialiștii recomandă:

• Verificarea oricărei informații primite de la ChatGPT cu surse credibile
• Limitarea utilizării chatbotului în domenii sensibile, precum sănătatea
• Introducerea educației digitale despre inteligența artificială în școli, încă din clasele gimnaziale

În final, utilizatorii rămân cei care decid în ce măsură au încredere în chatbot și inteligența artificială. Rămâne de văzut dacă lecția oferită de ChatGPT va schimba modul în care folosim tehnologia sau dacă riscurile vor continua să crească.