V petek, 21. novembra 2025, je začel veljati Zakon o izvajanju uredbe EU o harmoniziranih pravilih o umetni inteligenci (ZIUDHPUI), ki v slovenski pravni red prinaša nov sistem nadzora nad uporabo umetne inteligence.
Informacijski pooblaščenec je postal eden ključnih organov za nadzor trga in je pristojen predvsem za prepovedane ter najbolj tvegane sisteme umetne inteligence, pri katerih je možnost posegov v temeljne pravice posameznikov največja. Med prepovedanimi sistemi, nad katerimi bo izvajal nadzor, so družbeno točkovanje, orodja za napovedovanje izvrševanja kaznivih dejanj ter sistemi za prepoznavanje čustev v delovnem okolju in izobraževanju.
Informacijski pooblaščenec bo spremljal tudi uporabo nekaterih visoko tveganih sistemov, ki so dovoljeni le ob izpolnjevanju strogih pogojev evropske zakonodaje, zlasti na področju biometrije, izobraževanja, izvajanja policijskih nalog, migracij, pravosodja in volitev. Za učinkovito izvajanje novih nalog bo pri Informacijskem pooblaščencu ustanovljen specializirani oddelek za nadzor umetne inteligence, ki bo dopolnjeval obstoječe strukture za varstvo osebnih podatkov in dostop do informacij javnega značaja.
Sistemi UI, ki vključujejo obdelavo osebnih podatkov, bodo tako nadzorovani z dveh vidikov – skladnosti z zakonodajo o varstvu podatkov in izpolnjevanja zahtev Akta o umetni inteligenci. S tem se krepi vloga Informacijskega pooblaščenca kot varuha človekovih pravic pri uporabi naprednih tehnologij.
Slovenija je 23. oktobra 2025 kot ena prvih držav v EU sprejela zakonodajo, ki določa organe nadzora nad sistemi UI, predpisuje kazni za kršitve obveznosti ter ureja regulativne peskovnike za testiranje novih tehnologij. Poleg Informacijskega pooblaščenca bodo nadzor nad umetno inteligenco izvajali še AKOS, Banka Slovenije, Agencija za zavarovalni nadzor in Tržni inšpektorat.
Več si lahko preberete tukaj.
