Google vo vyhľadávači dočasne vypína časť zdravotníckych AI zhrnutí

Google dočasne vypína časť zdravotníckych AI prehľadov po tom, čo ich výskum denníka The Guardian označilo za nepresné a potenciálne nebezpečné. Firma sa tak snaží reagovať na rastúci tlak odborníkov, ktorí upozorňujú, že pri otázkach týkajúcich sa zdravia môžu generatívne súhrny priamo ohrozovať pacientov.​

Podľa Guardianu dokázali AI Overviews pri niektorých medicínskych dopytoch ponúknuť rady, ktoré sú v priamom rozpore s klinickými odporúčaniami, a to aj v prípadoch vážnych životných ochorení. V jednom príklade súhrn mylne popisoval význam a normálne hodnoty pečeňových testov, čo podľa lekárov môže viesť k tomu, že človek s takouto diagnózou nadobudne falošný pocit, že je v poriadku.

Späť ku klasickým výsledkom​

Google konkrétne nekomentuje, ktoré dopyty boli vypnuté, avšak používatelia pri otázkach typu „aký je normálny rozsah krvných testov pečene“ už AI Overview nevidia a sú presmerovaní na klasické výsledky vyhľadávania. Je však dôležité poznamenať, že v Slovenčine sa aj pri takomto vyhľadávaní odpoveď umelej inteligencie ešte objaviť môže, a je preto nevyhnutné byť opatrný. Spoločnosť zároveň argumentuje, že do AI Overviews priebežne nasadzuje výrazné zlepšenia a pripomína, že funkcia vznikla ako nástroj na rýchle zhrnutie informácií, nie ako náhrada lekára.​

Je však pravda, že pri zdravotníckych témach fungujú AI súhrny v podstate ako pohodlný rýchly lekár, ktorému mnohí častokrát dôverujú viac, ako by si jeho zdatnosť zaslúžila. Zdravotnícke organizácie a charitatívne inštitúcie tak žiadajú výraznejšie varovania pri medicínskych dotazoch, transparentné audity chýb a prísnejšie obmedzenia na použitie generatívnych modelov v oblastiach, kde nesprávna rada môže oddialiť návštevu lekára alebo priamo ohroziť život.