Vještačka inteligencija (AI) već sada bolje od čovjeka bira organe donora za transplantaciju i bolje odgovara na neka pitanja o zdravlju pacijenata, ali ona donosi i rizike i “ozbiljne greške”.
Svjetska zdravstvena organizacija sa sjedištem u Ženevi pozdravlja ogromni potencijal vještačke inteligencije koja može biti jako korisna, ali upozorava da uvođenje postupaka liječenja AI-ja u zdravstveni sistem nosi opasnost od “potpuno pogrešne” informacije.
-Nužno je procijeniti opasnosti korištenja alata LLMs (generated large language model tools) kao što je ChatGPT jer oni mogu voditi do teških grešaka u zdravstvu i potkopati povjerenje u AI – saopštila je SZO.
UN-ova agencija za zdravlje oglasila se u vrijeme kada primjena vještačke inteligencije velikom brzinom stiče popularnost. Zabrinutost proističe iz toga što se redovne norme opreza ne primjenjuju na LLMs.
Predlagači korišćenja AI-ja vjeruju da će lekari ubrzo koristiti sistem AI Chat da brže odgovore na pitanja pacijenata o njihovom zdravlju, a koristiće se AI-jem i u dijagnostici.
Međutim, dva chatbota Microsofta i Googlea pokazala su da njihovi odgovori nijesu potpuno pouzdani kad je riječ o činjenicama, a SZO je zabrinuta baš zato što se ti odgovori čine pouzdanim.
-LLMs proizvodi odgovore koji se mogu činiti autoritativnim i vjerodostojnim krajnjem korisniku. Međutim, ti odgovori mogu biti potpuno netačni ili sadržati ozbiljne greške, posebno kad je riječ o odgovorima povezanima sa zdravljem – upozorava SZO.
Te informacije mogu dovesti u zabludu i proizvesti informaciju koja će se činiti jako vjerodostojnom, a koju javnost ne može da razlikuje od pouzdane. SZO zato predlaže da se prije primjene AI-ja u zdravstvu struka pozabavi tim pitanjima i da izvaga korist i štete prije nego što odobri njeno masovno korišćenje.
Hina
Add comment