Google șterge rezumatele AI din cauza informațiilor eronate
Google a eliminat rezumatele generate de inteligența artificială Gemini, după ce o investigație a arătat că acestea conțin informații greșite, în special pe teme de sănătate.
Informații periculoase pentru utilizatori
O investigație realizată de publicația britanică The Guardian a evidențiat că mai multe răspunsuri generate de AI-ul Gemini includ informații care pot fi dăunătoare pentru utilizatori. De exemplu, la întrebarea despre intervalul normal pentru testele de sânge hepatice, răspunsul a fost lipsit de considerații esențiale, precum sexul și vârsta pacientului.
Consecințe asupra sănătății pacienților
Fără aceste informații contextuale, AI-ul ar putea induce pacienții în eroare, făcându-i să creadă că rezultatele lor sunt normale, ceea ce le-ar putea determina să renunțe la investigații suplimentare necesare.
Acțiunile Google și viitorul inteligenței artificiale
În urma publicării investigației, Google a eliminat răspunsurile problematice din paginile motorului de căutare. Totuși, compania nu a oferit detalii suplimentare despre măsurile de moderare a răspunsurilor AI, în special în domeniul sănătății. Funcția AI Overviews, care folosește inteligența artificială pentru a genera rezumate și răspunsuri, rămâne activă, iar riscurile asociate cu informațiile greșite continuă să existe.
Concluzie
Decizia Google de a șterge rezumatele generate de inteligența artificială subliniază preocupările legate de acuratețea informațiilor în domeniul sănătății și impactul acestora asupra utilizatorilor.
