Ali je umetna inteligenca res pametnejša od zdravnic_kov?Nevarnosti uporabe umetne inteligence v zdravstvu

Vsakdanje življenje postaja vse podobnejše prikazom iz filmov s humanoidnimi roboti, obenem pa se ob razvoju tehnologije lahko vprašamo, kaj vse se bo še spremenilo v prihodnosti in katera delovna mesta bo nadomestila umetna inteligenca (UI). Le-ta počasi prodira tudi na področje zdravstva, kjer se uporablja v diagnostiki in zdravljenju. V Sloveniji je Zdravniška zbornica pred kratkim pripravila predavanje na temo uporabe UI, pri čemer so sklenili, da je zaenkrat ta lahko uporabljena le kot izredno koristno orodje, vendar zgolj orodje.

Avtorica: Dora Mališ

Ob brskanju po literaturi, sem naletela na članek, ki je raziskoval, kakšno je zaupanje pacientov do UI. Bila sem prepričana, da je zaupanje v splošni družbi zelo nizko, saj je UI v medijih pogosto prikazana negativno. Presenetljivo rezultati nemške raziskave kažejo, da je kar 94 % udeležencev podpiralo uporabo UI na področju zdravstva, 88 % pa bi jih dovolilo anonimizirano uporabo lastnih podatkov za namene nadaljnjega razvoja programov UI. Tako se mi je porodilo vprašanje, ali je ravno pretirano zaupanje lahko problematično in ali lahko dodatno poveča nevarnost uporabe UI.

O nevarnostih

Z uporabo UI prihaja do pomislekov glede možnih napak in poškodb. UI je namreč tudi zmotljiva. V kolikor napačno prebere krvno sliko, ne odkrije bolezni ali postavi napačno diagnozo, ima slednje pomembne posledice za bolnike. Res je, da do strokovnih napak prihaja tudi sicer, vendar se je pomembno zavedati razlike med človeškimi napakami in napakami povzročenimi s strani UI. V kolikor se v zdravstvenem sistemu razširi en sistem UI, lahko ta povzroči veliko število enakih napak, medtem ko so človeške napake vseeno omejene na manjše število.

Za oblikovanje sistemov in urjenje umetne inteligence je potrebna velika količina podatkov. Zdravstveni podatki pa zaenkrat žal niso zbrani na enem mestu. Vsaka zdravstvena ustanova ima namreč svojo bazo podatkov. Prav tako se sistemi kodiranja razlikujejo, pogosto pa so podatki tudi manjkajoči. Zdravstveni podatki so torej razkropljeni, kar pomeni, da se sistem UI ne bi mogel dobro vzpostaviti, kar ponovno lahko poveča pogostost napak, prav tako pa poveča stroške oblikovanja sistema.

Naslednje vprašanje, ki se nam lahko porodi, je vprašanje varovanja zasebnosti. Kot je bilo prej omenjeno, UI potrebuje veliko količino podatkov, ki so zaupni in strogo varovani. V kolikor bi se odločili za oblikovanje takšnih sistemov, bi bilo potrebno pridobiti soglasja vseh uporabnikov za uporabo njihovih osebnih podatkov.

Z uporabo UI lahko pride tudi do pristranskosti in neenakosti. Dejstvo je, da se prebivalci močno razlikujemo po fizičnih lastnostih, genetskih predispozicijah, življenjskem slogu, socialno-ekonomskem statusu in še mnogo čem. Zato bi model umetne inteligence moral upoštevati vso to raznolikost. Nikoli v resnici ne bi mogli zajeti celotne populacije s podatki za vzpostavljanje sistema UI, prav tako pa bi težko pridobili reprezentativni vzorec. Zato bi UI bolje delovala pri obravnavi pacientov, ki so bolj podobni tistim, na podlagi katerih se je učila. Tako bi prihajalo do neenakosti pri obravnavi bolnikov.

Kaj pa zaposlitve?

UI se zaenkrat uporablja kot pomožna metoda, ki naj bi zdravnikom olajšala delo, vendar jih ne bi nadomestila. Kljub temu se marsikomu poraja skrb, kakšne posledice bo imel razmah UI na delovna mesta določenih zdravstvenih profilov. Pri tem imajo v diskusijah najpogosteje v mislih radiologe. Nekateri so prepričani, da UI ne bo mogla nadomestiti dela radiologov, strinjajo pa se, da bi lahko analizirala manj zahtevne slike, zahtevnejše primere, interpretacijo vseh primerov in komunikacijo z drugimi strokovnjaki in bolniki pa bi še vedno opravljali zdravniki. S tem bi UI v resnici zdravnikom lahko omogočila, da bi več časa namenili vzpostavljanju stika s pacienti in tudi bolj poglobljeno obravnavo zahtevnejših primerov. Kljub temu, da zdravnikov ne rabi skrbeti izguba zaposlitve, pa je dejstvo, da se bodo njihove delovne naloge v veliki meri spremenile. Nove delovne naloge bodo vključevale nadzorovanje dela UI, posredovanje informacije med UI in ljudmi (bolniki in drugimi strokovnjaki), prav tako pa tudi razvoj novih načinov uporabe UI. Specializacija iz radiologije in številnih drugih smeri se bo morala prilagoditi na soobstoj z razvijajočo se tehnologijo.

Sklep

Razvoj in vključevanje UI v različne sfere javnega življenja, med drugim tudi zdravstva, sta neizogibna. V mislih pa moramo imeti pomisleke in možne nevarnosti, ki jih lahko predstavlja uporaba UI. S tem v mislih bi bilo smotrno oblikovati zakonodajo, ki bo uredila to novo razvijajoče se področje in s tem zagotovila varnost vseh pacientov in zdravstvenih delavcev. V prihodnosti bi bilo potrebno nasloviti tudi vprašanje, ali bi pacienti morali imeti pravico do zavrnitve obravnave z UI in zdravniki pravico do avtonomne odločitve o lastni uporabi UI.

Priporočeno nadaljnje branje

Mazurowski, M. A. (2019). Artificial Intelligence may cause a significant disruption to the radiology workforce. Journal of the American College of Radiology, 16(8), 1077–1082. https://doi.org/10.1016/j.jacr.2019.01.026

Jutzi, T. B., Krieghoff-Henning, E. I., Holland-Letz, T., Utikal, J. S., Hauschild, A., Schadendorf, D., Sondermann, W., Fröhling, S., Hekler, A., Schmitt, M., Maron, R. C. in Brinker, T. J. (2020). Artificial Intelligence in skin cancer diagnostics: The patients’ perspective. Frontiers in Medicine, 7. https://doi.org/10.3389/fmed.2020.00233

O avtorici: Dora Mališ je študentka magistrskega študija psihologije na Filozofski fakulteti Univerze v Ljubljani. V psihologiji jo najbolj zanima področje klinične psihologije in zdravstvene psihologije. Zelo rada se ukvarja z glasbo, v prostem času rada igra klavir, od športnih aktivnosti pa jo najbolj pritegnejo joga in sprehodi.

O umetni inteligenci smo že pisali. Več prispevkov najdete tukaj.

Vabljeni, da vpišete svoj elektronski naslov in se naročite na naše objave. Tako boste vedno obveščeni, ko bomo objavili nov prispevek.