Informacijski pooblaščenec (IP) je v mnenju glede uvedbe telefonskega asistenta za vhodne klice v zdravstvenih ustanovah opozoril, da uporaba sistemov umetne inteligence pri komunikaciji s pacienti odpira številna vprašanja varstva osebnih podatkov. 

Pri takšnih rešitvah lahko pride do obdelave osebnih podatkov že ob samem zajemu klica, prepisu pogovora, hrambi podatkov, posredovanju ponudniku sistema ali morebitnem nadaljnjem učenju modela na zbranih podatkih. Ker gre v zdravstvenem okolju pogosto tudi za podatke o zdravstvenem stanju, mora biti poleg ustrezne pravne podlage po 6. členu Splošne uredbe zagotovljena tudi izjema za obdelavo posebnih vrst osebnih podatkov po 9. členu Splošne uredbe. 

IP poudarja, da mora upravljavec jasno določiti namen obdelave, rok hrambe, obseg podatkov in varnostne ukrepe ter posameznike pregledno obvestiti o vseh bistvenih vidikih obdelave. Posebej problematična so lahko komercialna orodja umetne inteligence, zlasti če omogočajo nadaljnje učenje na podatkih, dostop nepooblaščenih oseb ali prenose podatkov v tretje države. IP opozarja tudi na načelo najmanjšega obsega podatkov, saj zbiranje in hramba podatkov »na zalogo« nista dopustna. Zaradi uporabe novih tehnologij in obdelave občutljivih podatkov bo v številnih primerih potrebna tudi ocena učinka v zvezi z varstvom podatkov. 

Če bi sistem opravljal razvrščanje nujnih klicev, triažo pacientov ali podobne naloge, pa lahko pridejo v poštev tudi zahteve Akta o umetni inteligenci za visoko tvegane sisteme, vključno s tehnično dokumentacijo, transparentnostjo in človeškim nadzorom.

Več si lahko preberete tukaj.