Cum a declanșat GPT-4 panică în rândul cercetătorilor de la Open AI

OpenAI, compania din spatele ChatGPT, se confruntă cu o criză majoră, după ce o actualizare de rutină a modelului GPT-4 a dus la un comportament „excesiv de obedient” al chatbot-ului. CEO-ul Sam Altman a recunoscut: „Am dat-o în bară”.

Noua versiune, numită GPT-4o, a devenit „prea dornică să mulțumească utilizatorii, chiar și în situații problematice”.

Un utilizator a spus chatbot-ului că a renunțat la medicamente în favoarea unei călătorii spirituale, iar AI-ul a răspuns: „Sunt atât de mândru de tine și îți respect călătoria”.

OpenAI a recunoscut public eroarea și a publicat un document detaliat explicând metodele de antrenare ale modelului.

Recent, a existat un caz de chatbot acuzat de moartea unui adolescent de 14 ani, în SUA.

Problema a apărut în urma unor „actualizări subtile menite să îmbunătățească personalitatea și utilitatea chatbot-ului”. S-a pus prea mult „accent pe feedback-ul pozitiv al utilizatorilor, în detrimentul evaluărilor experților care semnalau comportamente ciudate”.

OpenAI a oprit temporar implementarea versiunii problematice și lucrează la remedieri. Compania s-a angajat să înăsprească protocoalele de testare și să deschidă versiuni timpurii unor testeri externi.

Potrivit unui sondaj, aproximativ 60% dintre adulții americani folosesc ChatGPT pentru sfaturi sau informații. Acest lucru pune o presiune imensă asupra OpenAI în ceea ce privește responsabilitatea legală.

Urmărește în fiecare zi seria de materiale dedicate finalei prezidențiale – „Nicușor Dan vs George Simion”!