Autor: Me saame tehisarult meditsiinilist nõu, kuid mitte keegi ei kontrolli seda. Veast või probleemist ei saa keegi lihtsalt teada. Mida teha?
Üha rohkem inimesi pöördub tehisintellekti vestlusrobotite poole, et saada kiiresti ja ööpäev läbi meditsiinilist nõu. Selle praktikaga kaasnevad riskid, mis jäävad suuresti nähtamatuks nii kasutajatele kui ka tervishoiusüsteemile. Uus artikkel uurib, kuidas vestlusrobotite tervisenõuanded ei jäta arstide ega järelevalveasutuste jaoks jälgi, ning kutsub üles rakendama läbipaistvust tagavaid meetmeid inimeste tervise kaitseks.
Binghamtoni Ülikooli, Stanfordi Ülikooli, Texase A&M Ülikooli ja Indiana Ülikooli teadlaste kirjutatud ning ajakirjas Nature Health avaldatud artikkel uurib, mis juhtub siis, kui vestlusrobot annab kellelegi halba tervisenõu. Autorite sõnul on kahju raske tuvastada, sest vestlus jääb tehisintellektiettevõtte platvormile – inimesel pole kohta, kuhu probleemist teatada, ning ettevõttevälised teadlased ei saa kahju mõõta.
„Me saame nendelt vestlusrobotitelt meditsiinilist nõu, kuid mitte keegi – sõna otseses mõttes mitte keegi – ei jälgi seda. Kui tekib viga või probleem, pole inimestel lihtsalt mingit võimalust sellest teada saada,“ ütles Kaicheng Yang, Binghamtoni Ülikooli Thomas J. Watsoni inseneri- ja rakendusteaduste kolledži arvutiteaduse üksuse abiprofessor ja üks artikli autoritest.
Bromiidimürgistuse hallutsinatsioonid tulid, “nõuanne” aga kadus
Teadlased tõid näiteks 60-aastase mehe, kes küsis ChatGPT-lt, kuidas vähendada kloriidi hulka oma toidus, ning asendas lauasoola naatriumbromiidiga. Mees sattus pärast hallutsinatsioonide ja paranoia tekkimist bromiidimürgistusega haiglasse. Artiklis tõstatatud probleem seisneb selles, et kuna mees sai selle nõu vestlusrobotilt ega suutnud vestlust uuesti kätte saada, polnud tema arstidel võimalik täpselt teada, mida talle öeldi. See muutis juhtunu täpse käigu rekonstrueerimise peaaegu võimatuks.
Kuna puudub läbipaistvust tagav süsteem, mis võimaldaks näha tehisintellektiettevõtete loodud tervisenõuandeid patsientidele, väidetakse artiklis, et see süsteemi sisse ehitatud ja süsteemne nähtavuse puudumine on tehisintellekti loodud terviseinfo üks keskseid omadusi, sest see takistab aktiivselt järelevalvet.
„Kahju ei ole üksnes võimalik, vaid on süsteemi ülesehituse tõttu varjatud arstide, teadlaste ja järelevalveasutuste eest, kes saaksid seda muidu avastada ja kõrvaldada,“ märgivad autorid.
AI ja vestlusrobotid võivad eksida ning valet levitada
Artikkel rõhutab ka üht olulist asjaolu terviseküsimustele vastuseid andvate vestlusrobotite puhul: need võivad eksida. Vestlusrobotid võivad anda ekslikke vastuseid enesekindlalt, infot liigselt lihtsustada või tugineda aegunud teabele või valeväidetele. Autorid märgivad siiski, et need riskid võivad jõuda ka inimesteni, kes ise aktiivselt vastuseid ei otsi. Kuna tehisintellekti koostatud kokkuvõtted on otsingumootorites laialt levinud ning tehisintellekt on lõimitud sellistesse sotsiaalmeediaplatvormidesse nagu X ja Meta, ei pea inimene valeinfo saamiseks aktiivselt vastust otsima.
„Mõnikord ei otsi ma isegi terviseinfot, aga lihtsalt oma sotsiaalmeediavooge sirvides on see seal. See lihtsalt ilmub, ja meie arvates võib sellel olla soovimatuid tagajärgi, eriti kui tegemist on meditsiinilise väärinfoga või kui riiklikud osapooled püüavad veebiarutelu manipuleerida,“ ütles Yang.
Olenemata sellest, kas inimene otsib aktiivselt vastuseid või satub neile juhuslikult, väidavad artikli autorid, et kahju jätab harva jälgi, mida arstid, järelevalveasutused või teadlased saavad kontrollida.
Tehisaru-ettevõtete avatust ja vastutust on vaja suurendada
Selle vastu võitlemiseks pakuvad autorid välja mitu võimalust suurendada tehisintellektiettevõtete läbipaistvust ja vastutust. Nad märgivad, et tehisintellektiettevõtted peaksid võimaldama kasutajatele juurdepääsu nende endi terviseteemalistele vestlustele, et kasutajad saaksid seda infot arstidega jagada. Nii saaksid arstid paremini uurida kahjuliku juhtumini viinud sündmuste käiku. Samuti soovitavad autorid neil ettevõtetel välja töötada teavitussüsteemi, mis võimaldaks tervisenõuandeid probleemseks märkida, neist teatada ja neid uurida.
Tehisarufirmadele õiguslik vastutus?
Lisaks soovitavad nad sotsiaalmeediaettevõtetel võtta suurema vastutuse: muuta tehisintellekti loodud tervisesisu märgistus selgemaks ning jätta see sisu avaldamata seni, kuni meditsiinivaldkonna pädevad organid on selle üle kontrollinud. Samamoodi peaksid otsingumootorid kasutama kokkuvõtetes üksnes kontrollitud infot. Autorite hinnangul peaksid poliitikakujundajad laiendama ka arstide ravivigade eest ettenähtud õiguslikku vastutust tehisintellekti vestlusroboteid pakkuvatele ettevõtetele.
„Me ei arva, et selle tegemisel peaks lootma ettevõtetele, sest neid motiveerib alati suurema kasumi teenimine,“ ütles Yang. „Sellise süsteemi loomine läheb selle motiiviga vastuollu. Seega peab meil olema mingisugune kolmanda osapoole seiresüsteem, sõltumatu hindamine.“
Viide uuringule
The invisible risks of AI-generated health information
Loe lisaks
Tehisaru avastas – põlveröntgen näitab, kas sa jood õlut
Rinnapilt võib paljastada varjatud südamehaiguse
Tehisintellekt toob arstidele töörõõmu tagasi