Google este acuzat că pune în pericol utilizatorii prin diminuarea importanței avertismentelor de siguranță pentru sfaturile medicale generate de inteligența artificială. O analiză recentă arată că mesajele care semnalează posibile erori sunt greu de observat, o practică ce a stârnit îngrijorarea experților, potrivit Adevărul.
Compania susține că noua funcție AI Overviews, care afișează rezumate generate de AI deasupra rezultatelor căutării, îi îndrumă pe oameni să ceară ajutor specializat. „AI Overviews vor informa oamenii atunci când este important să solicite sfatul unui expert sau să verifice informațiile prezentate”, a transmis Google, conform informațiilor publicate de Adevărul, care citează The Guardian.
Avertismentul, vizibil doar după un click suplimentar
Cu toate acestea, o investigație a The Guardian a descoperit că avertismentele nu sunt afișate atunci când utilizatorii primesc informațiile medicale inițiale. Un mesaj de precauție apare doar dacă utilizatorii apasă pe butonul „Show more” („Afișează mai mult”) pentru a solicita detalii suplimentare.
Chiar și în acest caz, etichetele de siguranță sunt plasate abia la finalul textului generat de AI, fiind scrise cu un font mai mic și o culoare mai deschisă.
„Aceste informații au doar scop informativ”, se arată în avertismentul afișat celor care ajung la finalul secțiunii AI Overview. „Pentru sfaturi medicale sau un diagnostic, consultați un specialist. Răspunsurile AI pot conține erori.”
Reacția Google și îngrijorarea specialiștilor
Reprezentanții Google nu au negat faptul că avertismentele apar ulterior și sunt mai puțin vizibile. Un purtător de cuvânt a insistat că AI Overviews „încurajează oamenii să solicite sfatul unui profesionist din domeniul medical” și că rezumatele menționează frecvent această necesitate „atunci când este cazul”.
Experți în inteligență artificială și reprezentanți ai pacienților s-au declarat însă îngrijorați de aceste concluzii. Ei subliniază că avertismentele joacă un rol esențial și ar trebui să fie afișate vizibil de la bun început.
„Absența avertismentelor atunci când utilizatorilor li se furnizează inițial informații medicale creează mai multe riscuri majore”, a afirmat Pat Pataranutaporn, profesor asistent la Massachusetts Institute of Technology (MIT) și expert în AI.
„O problemă de design, nu de acuratețe”
Gina Neff, profesor de inteligență artificială la Queen Mary University of London, consideră că responsabilitatea aparține Google. „Problema rezumatelor AI greșite este una de design”, a spus ea. „AI Overviews sunt concepute pentru viteză, nu pentru acuratețe, iar acest lucru duce la erori în informațiile despre sănătate, ceea ce poate fi periculos.”
Sonali Sharma, cercetător la Universitatea Stanford, a explicat de ce plasarea rezumatelor în partea de sus a paginii este problematică. „Problema majoră este că aceste AI Overviews de la Google apar chiar în partea de sus a paginii de căutare și oferă adesea ceea ce pare a fi un răspuns complet la întrebarea utilizatorului, într-un moment în care acesta încearcă să obțină informații și un răspuns cât mai rapid.”
Cercetătoarea a adăugat că acest lucru creează un fals sentiment de siguranță. „Pentru mulți oameni, faptul că acel rezumat unic apare imediat creează un sentiment de siguranță care descurajează căutările suplimentare sau parcurgerea întregului rezumat și accesarea opțiunii „Show more”, unde ar putea apărea un avertisment.”
Apel pentru măsuri urgente: „Avertismentul trebuie să fie primul lucru pe care îl vezi”
Tom Bishop, director la organizația caritabilă Anthony Nolan, specializată în cancer de sânge, a cerut măsuri urgente. „Știm că dezinformarea este o problemă reală, dar când vine vorba despre dezinformarea în domeniul sănătății, aceasta poate fi cu adevărat periculoasă”, a spus Bishop.
El a insistat ca avertismentul să fie mult mai proeminent. „Acel avertisment trebuie să fie mult mai vizibil, astfel încât oamenii să se oprească o clipă și să se întrebe: „Este ceva ce trebuie să verific cu echipa mea medicală înainte să acționez? Pot lua aceste informații de bune sau trebuie să le analizez mai atent și să văd cum se aplică situației mele medicale specifice?” Pentru că aici este cheia.”
Soluția propusă de el este simplă și directă: „Mi-aș dori ca acest avertisment să fie chiar în partea de sus. Să fie primul lucru pe care îl vezi. Și, ideal, să aibă același font și aceeași dimensiune ca restul informațiilor afișate, nu să fie ceva mic și ușor de trecut cu vederea.”
