A Google mesterséges intelligencián alapuló keresési összefoglalói súlyosan félrevezető egészségügyi tanácsokat adhatnak – derül ki a The Guardian exkluzív vizsgálatából.

Guardian-vizsgálat: pontatlan és félrevezető egészségügyi információk jelennek meg a keresések élén

A The Guardian vizsgálata szerint a Google AI Overviews funkciója több esetben is veszélyes, pontatlan egészségügyi információkat jelenített meg a keresési találatok tetején. Az egyik legsúlyosabb példában a rendszer hasnyálmirigyrákos betegeknek azt tanácsolta, hogy kerüljék a zsíros ételeket – miközben szakértők szerint ez épp az ellenkezője annak, amit javasolni kellene, és akár növelheti is a halálozás kockázatát. ( Egy orvos azt mondta a cikkben: Ha azonban valaki követi a rossz keresési találatokat, akkor előfordulhat, hogy nem fogyaszt elegendő kalóriát, nehezen hízik, és nem tudja tolerálni sem a kemoterápiát, sem a potenciálisan életmentő műtétet.” )

Más esetekben a mesterséges intelligencia félrevezető adatokat közölt a májfunkciós vérvizsgálatok „normál” értékeiről, ami miatt súlyos betegek hihették magukat egészségesnek.

A nőgyógyászati rákszűrésekkel kapcsolatban is „teljesen téves” információk is jelentek meg, ami szakértők szerint veszélyes félreértésekhez vezethet.

Sophie Randall, a Beteginformációs Fórum igazgatója, amely bizonyítékokon alapuló egészségügyi információkat kínál a betegeknek, a nyilvánosságnak és az egészségügyi szakembereknek, elmondta, hogy a példák azt mutatják:

„ A Google mesterséges intelligencián alapuló áttekintései pontatlan egészségügyi információkat helyezhetnek az online keresések élére, ami kockázatot jelent az emberek egészségére”

Pánik válsághelyzetekben?

Egészségügyi és jótékonysági szervezetek arra figyelmeztetnek, hogy válsághelyzetben az emberek különösen hajlamosak megbízni az internetes válaszokban. Ha ezek az információk pontatlanok vagy kontextus nélküliak, az súlyos következményekkel járhat.

A Google ugyanakkor azt állítja:

AI-alapú áttekintéseinek többsége pontos és megbízható, és folyamatosan dolgoznak a rendszer fejlesztésén – különösen az egészségügyi témákban.