Panică la Google! Au scos temporar funcția AI Overviews pentru anumite căutări medicale. Motivul? Se pare că inteligența artificială dădea informații care puteau induce lumea în eroare. Asta după ce jurnaliștii de la The Guardian au tras un semnal de alarmă.
Analize medicale interpretate greșit de AI
The Guardian a scris că, dacă întrebai AI-ul „care este intervalul normal pentru analizele de sânge ale ficatului”, primeai niște valori care nu țineau cont de nimic: naționalitate, sex, etnie, vârstă… Practic, puteai să crezi că ești sănătos tun, când, de fapt, aveai o problemă. Spre exemplu, cineva cu o boală specifică sau dintr-o anumită zonă geografică putea să interpreteze greșit rezultatele analizelor.
Acum, Google a zis stop și a scos AI Overviews din rezultatele pentru căutările „care este intervalul normal pentru analizele de sânge ale ficatului” și „care este intervalul normal pentru testele funcției hepatice”. Dar, surpriză!, jurnaliștii au descoperit că dacă foloseai formulări ușor diferite, gen „interval de referință lft” sau „interval de referință test lft”, primeai în continuare rezumate generate de AI. Păi, cum vine asta?
Ulterior, verificările au arătat că niciuna dintre aceste interogări nu a mai generat AI Overviews. Mă rog, Google îți dădea în continuare opțiunea să pui aceeași întrebare în modul AI. Culmea, în unele cazuri, primul rezultat era chiar articolul din The Guardian despre scoaterea răspunsurilor AI. Ironia sorții!
Ce spune Google?
Un purtător de cuvânt de la Google a declarat pentru The Guardian că nu „comentează asupra eliminărilor individuale din Căutare”, dar că se lucrează la „îmbunătățiri ample”. A mai precizat că o echipă internă de medici s-a uitat peste interogările semnalate de The Guardian și a constatat că „în multe cazuri, informațiile nu erau inexacte și erau, de asemenea, susținute de site-uri web de înaltă calitate”. Oare chiar așa să fie?
Cei de la TechCrunch au încercat să obțină o reacție suplimentară de la Google, dar n-au primit niciun răspuns până acum. Rămâne de văzut dacă Google va repune funcția AI Overviews pentru căutările medicale, după ce vor face niște ajustări, să fie informațiile corecte.
Probleme mai mari cu AI și sănătatea
Vanessa Hebditch, director de comunicare și politici la British Liver Trust, a zis pentru The Guardian că eliminarea asta e „o veste excelentă”, dar a adăugat: „Preocuparea noastră mai mare este că se analizează un singur rezultat de căutare, iar Google poate pur și simplu să oprească AI Overviews pentru asta, dar nu abordează problema mai mare a AI Overviews pentru sănătate”. Adică, e doar un petic pus pe rană?
Hebditch subliniază că nu e vorba doar de o singură interogare, ci de cum e folosită AI-ul în general ca să dea informații medicale. Ea crede că trebuie o abordare mai serioasă, ca să ne asigurăm că AI-ul dă informații precise și de încredere când vine vorba de sănătate. Nu-i de joacă cu asta!
Ce a mai făcut Google pentru căutările medicale?
Anul trecut, Google a anunțat niște chestii noi, menite să facă Google Search mai bun pentru când cauți informații medicale. Au zis că vor îmbunătăți prezentările generale și că vor folosi modele AI special create pentru sănătate. Scopul era să ne dea informații mai relevante și mai corecte când căutăm chestii medicale online.
Dar, uite că incidentul ăsta ne arată cât de greu e să te asiguri că informațiile generate de AI sunt corecte și de încredere, mai ales când vine vorba de sănătate. Google va trebui să muncească serios ca să îmbunătățească acuratețea și relevanța AI Overviews, ca să nu mai inducă lumea în eroare. Altfel, riscăm să ne trezim cu mai multe probleme decât rezolvări.
