Če v iskalnik ali v orodja, kot je umetna inteligenca ChatGPT, vtipkamo vprašanja tipa »Kaj je lupus?«, »Koliko časa traja gripa?« ali »Kako zdravimo hemoroide?«, bomo hitro dobili jasen odgovor. Zato ne preseneča, da se število ljudi, ki umetno inteligenco (UI) uporabljajo kot osebnega ‘spletnega zdravnika’, naglo povečuje. Avstralska raziskava iz leta 2024 je pokazala, da že eden od desetih prebivalcev redno išče zdravstvene nasvete prek takšnih modelov, več kot 60 % vprašanj pa spada med tista, ki bi sicer zahtevala strokovni posvet z zdravnikom.
Ali so odgovori umetne inteligence zanesljivi?
Velike jezikovne modele (LLM), kot je ChatGPT, poganja ogromna količina podatkov, pridobljenih z interneta. To pomeni, da so v ozadju tako verodostojni viri, denimo podatki Svetovne zdravstvene organizacije (WHO) ali nacionalnih zdravstvenih sistemov, kot tudi manj zanesljivi iz virov, kot so forumi, nepregledani članki in celo napačne informacije.
Ko so raziskovalci leta 2024 model ChatGPT-3.5 izzvali s 150 primeri bolnikov, je bil rezultat precej povprečen: pravilno diagnozo in načrt zdravljenja je dal v manj kot polovici primerov (49 %). Študija je ugotovila, da model sicer ne daje povsem napačnih odgovorov, a tudi ne dovolj natančnih in zanesljivih, da bi ga lahko uporabljali kot diagnostično orodje.
Novejši modeli, kot je ChatGPT-4, se sicer izboljšujejo in pogosto ponujajo ustreznejše odgovore. A razkorak med hitrim, všečno oblikovanim odgovorom in dejansko klinično točnostjo je še vedno prisoten.
Zakaj umetna inteligenca ni enaka zdravniku
Ključna razlika med umetno in človeško inteligenco je v razumevanju. Človek sklepa, ocenjuje in tehta informacije, UI pa matematično predvideva, katera beseda ali stavek najverjetneje sledi.
Zdravnik bo pri bolniku z zlatenico zaradi žolčnih kamnov razložil, da je zdravljenje nujno za preprečevanje okvare jeter in zapletov. Starejša različica ChatGPT pa je na enako vprašanje odgovorila, da zdravljenje izboljša videz bolnika in s tem njegovo samopodobo, kar sicer lahko drži, a je povsem irelevantno.
UI torej ponavlja najpogostejše informacije in (še) ni zmožna kritične presoje. Če so podatki, na katerih se model uči, pomanjkljivi ali zastareli, bo napačne informacije ponovil enako samozavestno kot pravilne.
Prednosti in pasti
Kljub omejitvam ima umetna inteligenca na področju zdravja svoje prednosti. Kot uporabniki lahko:
- hitro dobimo osnovne informacije o boleznih in simptomih,
- s pomočjo UI razložimo pojme, ki smo jih slišali pri zdravniku.
Pri tem nikakor ne smemo zanemariti pasti:
- pomanjkanje natančnosti lahko vodi v napačne odločitve,
- odsotnost klinične presoje pomeni, da UI ne more oceniti resnosti stanja,
- neznana kakovost virov povečuje tveganje za širjenje napačnih informacij.
Umetna inteligenca je lahko nevarna, če jo uporabljamo za samozdravljenje
Ker UI deluje hitro in prepričljivo, si uporabniki pogosto ne vzamejo časa za preverjanje. Psihološki učinek samozavestnega tona odgovora lahko privede do tega, da ljudje nasvete vzamejo kot dejstvo.
To lahko vodi v prelaganje obiska zdravnika, napačno samozdravljenje ali celo ogrožanje zdravja, če človek zaradi nasveta UI zanemari simptome resne bolezni.
Kako varno uporabljati UI za zdravje
- Za osnovne informacije: UI lahko služi kot prva stopnja razumevanja bolezni ali kot pomoč pri učenju medicinskih pojmov.
- Za pripravo na posvet: če pred obiskom zdravnika zberemo osnovna vprašanja s pomočjo UI, bomo lahko bolj učinkovito izkoristili čas pri specialistu.
- Nikoli kot nadomestilo: ko gre za diagnozo, zdravljenje ali odločanje o terapiji, je strokovno mnenje nepogrešljivo.
- Zdravniki opozarjajo: čeprav UI včasih zadene bistvo, ne zna oceniti konteksta posameznika: njegove anamneze, izvidov, drugih bolezni ali življenjskega sloga. To pa je v medicini ključno.
Umetna inteligenca je izjemno zmogljivo orodje, ki lahko razširi dostop do informacij in olajša razumevanje zdravstvenih tem. A odgovori niso vedno točni in pogosto ne dovolj natančni, da bi se lahko nanje povsem zanesli pri sprejemanju odločitev o svojem zdravju.
Kot je povzel eden od raziskovalcev: “Odgovori umetne inteligence niso povsem napačni, a tudi ne povsem natančni.” Zato naj UI služi kot dopolnilo, nikoli pa kot nadomestilo za obisk zdravnika.
Vir: DW.com
