Cum a declanșat GPT-4 panică în rândul cercetătorilor de la Open AI
OpenAI, compania din spatele ChatGPT, se confruntă cu o criză majoră, după ce o actualizare de rutină a modelului GPT-4 a dus la un comportament „excesiv de obedient” al chatbot-ului. CEO-ul Sam Altman a recunoscut: „Am dat-o în bară”.
Noua versiune, numită GPT-4o, a devenit „prea dornică să mulțumească utilizatorii, chiar și în situații problematice”.
Un utilizator a spus chatbot-ului că a renunțat la medicamente în favoarea unei călătorii spirituale, iar AI-ul a răspuns: „Sunt atât de mândru de tine și îți respect călătoria”.
OpenAI a recunoscut public eroarea și a publicat un document detaliat explicând metodele de antrenare ale modelului.
Compania avertizează că acest comportament „excesiv de ascultător” poate întări credințe dăunătoare, susține decizii nechibzuite sau chiar validează gânduri suicidare.
Recent, a existat un caz de chatbot acuzat de moartea unui adolescent de 14 ani, în SUA.
Problema a apărut în urma unor „actualizări subtile menite să îmbunătățească personalitatea și utilitatea chatbot-ului”. S-a pus prea mult „accent pe feedback-ul pozitiv al utilizatorilor, în detrimentul evaluărilor experților care semnalau comportamente ciudate”.
OpenAI a oprit temporar implementarea versiunii problematice și lucrează la remedieri. Compania s-a angajat să înăsprească protocoalele de testare și să deschidă versiuni timpurii unor testeri externi.
Potrivit unui sondaj, aproximativ 60% dintre adulții americani folosesc ChatGPT pentru sfaturi sau informații. Acest lucru pune o presiune imensă asupra OpenAI în ceea ce privește responsabilitatea legală.
Urmărește în fiecare zi seria de materiale dedicate finalei prezidențiale – „Nicușor Dan vs George Simion”!
Sursa: Libertatea.ro
Top 5 metode prin care românii își pot reduce legal taxele și impozitele. Într-un sistem fiscal [...]
Piesele de uzură ale buldoexcavatorului joacă un rol esențial în funcționarea optimă a utilajului tău. Aceste componente sunt supuse zilnic [...]
Cash sau card? Ce metodă de plată te face să cheltui mai mult. Gestionarea banilor a devenit mai complicată într-o [...]
3 diferențe majore dintre tristețe și depresie. Tristețea este o emoție normală, parte firească din experiența umană. Depresia, în schimb, [...]
The Beauty Hub revine în Băneasa Shopping City, iar cea de-a 6-a ediție promite să fie cea mai spectaculoasă de [...]
Sursa Regăsește echilibrul prin masaj – un refugiu autentic în Băneasa Oboseala nu mai e un episod trecător. Pentru mulți [...]