Pöördumine

Liisa Ly Pakosta Meie 2-13/20_2026 Justiits-ja digiminister Suur-Ameerika tn 1 Tallinn [email protected]

Soovitused tagamaks võrdõiguslikkus Eesti digitaalvaldkonna meetmetes ja -õiguses

Lugupeetud minister Pakosta

Arvestades kui kiirelt võtab Eesti avalik sektor kasutusele erinevaid tehisaru lahendusi, kirjutan Teile, et teha soovitused tagamaks võrdõiguslikkus Eesti digitaalvaldkonna meetmetes ja -õiguses.

Lähtuvalt võrdse kohtlemise seaduse § 16 p 5-6 on soolise võrdõiguslikkuse ja võrdse kohtlemise voliniku pädevuses teha ettepanekuid ja nõustada Vabariigi Valitsust ja valitsusasutusi seoses soolise võrdõiguslikkuse ja võrdse kohtlemise rakendamisega.

Avalikus sektoris kasutatakse üha enam tehisarul ja algoritmidel põhinevaid automatiseeritud otsustussüsteeme, mis võivad oluliselt mõjutada inimeste õigusi ja kohustusi. Kuigi need süsteemid muudavad teenuste osutamise tõhusamaks, kaasnevad nendega riskid, näiteks varjatud kallutatus või diskrimineerimine soo, rahvuse, vanuse või muu kaitstud tunnuse alusel.

Aprillis lõpeb Euroopa Komisjoni poolt rahastatav projekt EquiTech, mille eesmärk on tugevdada Eesti ja Leedu avaliku sektori asutuste ning nende koostööpartnerite suutlikkust neid riske tuvastada, ennetada ja maandada, et toetada seeläbi õiglasemat ja kaasavamat digivalitsemist. Voliniku poolt juhitud projekti koostööpartneriteks olid Tallinna Tehnikaülikool, Justiits- ja Digiministeerium ja Leedu võrdsete võimaluste ombudsman.

Kiriku 4, Tallinn, 10130, +372 5352 5002, [email protected], www.volinik.ee

Projekti tulemusena töötasime partneritega välja soovitused (vt lisa), mis aitaksid tagada, et Eesti digimeetmete ja -õigusraamistiku aluseks oleks võrdõiguslikkus ja võrdne kohtlemine.

Projekti EquiTech raames:

 kaardistasime Eestis avalikus sektoris kasutatavaid automatiseeritud otsustussüsteeme ja nendega seotud võimalikke diskrimineerimisohte

 analüüsisime, kas kehtiv õigusraamistik ja poliitilised suunised võimaldavad piisavalt ennetada diskrimineerimisriske;

 lõime tööriista, mis koosneb küsimustest ja kriteeriumidest, mille abil saab kontrollida, kas tehisaru ja automatiseeritud otsustussüsteem võib olla inimestele negatiivne mõju, eelkõige kallutatus, mis võib viia diskrimineerimiseni;

 valmisid juhendmaterjalid, kuidas turvaliselt, õiglaselt ja vastutustundlikult kasutada automatiseeritud otsustussüsteeme ja tehisaru avalikus sektoris;

 lõime e-kursuse avaliku sektori töötajatele ja tarkvara arendajatele (Digiriigi Akadeemia, kursus „Algoritmilise kallutatusega seotud riskide ennetamine avalikus sektoris“) ning koolitusmaterjalid;

 viisime läbi praktilised koolitused nii riigiametnikele, andmeteadlastele kui ka tarkvara arendajatele (koolitused pealkirjaga „AI-põhine kallutatus, diskrimineerimine ja ADM- praktikad Eesti avalikus sektoris“);

 toimus akadeemiline töötuba valdkonna uurijatele teadmiste jagamiseks, ja rahvusvaheline konverents.

 viisime läbi teavituskampaania “Ole teadlik ja tegutse”, mille eesmärk oli tõsta inimeste teadlikkust, kuidas automatiseeritud otsuseid märgata ning kuhu pöörduda.

Projekti raames koostatud uuringud, tööriistad, õppevahendid ja muu info on kättesaadav: https://www.volinik.ee/equitech-projekt.html.

Juhul, kui soovite antud teemal rohkem mõtteid vahetada ning edasist koostööd arendada, siis palun andke sellest teada.

Lugupidamisega,

Kiriku 4, Tallinn, 10130, +372 5352 5002, [email protected], www.volinik.ee

Christian Veske Soolise võrdõiguslikkuse ja võrdse kohtlemise volinik Allkirjastatud digitaalselt

Lisa: Poliitikasoovitused

Kiriku 4, Tallinn, 10130, +372 5352 5002, [email protected], www.volinik.ee

POLIITIKASOOVITUSED

Avalikus sektoris kasutatakse üha enam tehisarul ja algoritmidel põhinevaid automatiseeritud otsustussüsteeme, mis võivad oluliselt mõjutada inimeste õigusi ja kohustusi. Kuigi need süsteemid muudavad teenuste osutamise tõhusamaks, kaasnevad nendega riskid, näiteks varjatud kallutatus või diskrimineerimine soo, rahvuse, vanuse või muu kaitstud tunnuse alusel.

Soolise võrdõiguslikkuse ja võrdse kohtlemise volinik, koostöös oma partneritega Tallinna Tehnikaülikoolist, Justiits- ja Digiministeeriumist ja Leedu võrdsete võimaluste ombudsmani büroost, on EquiTech projekti raames kaardistanud Eesti avalikus sektoris kasutatavad automatiseeritud otsustussüsteemid ja nendega seotud võimalikud diskrimineerimisohud ning analüüsinud, kas kehtiv õigusraamistik ja poliitilised suunised võimaldavad piisavalt ennetada diskrimineerimisriske.

Võrdõigusvoliniku poolt ellu kutsutud ja Euroopa Liidu CERV programmist rahastatud projekti EquiTech eesmärgiks on tugevdada Eesti ja Leedu avaliku sektori asutuste ning nende koostööpartnerite suutlikkust neid riske tuvastada, ennetada ja maandada, et toetada seeläbi õiglasemat ja kaasavamat digivalitsemist.

Projekti tulemusena töötati partnerite koostöös välja soovitused, mis aitaksid tagada, et Eesti digimeetmete ja -õigusraamistiku aluseks oleks võrdõiguslikkus ja võrdne kohtlemine.

1. Eesti digipoliitikate ning soolise võrdõiguslikkuse ja võrdse kohtlemise poliitikate edasisel väljatöötamisel on vajalik senisest selgem ja strateegilisem tähelepanu pööramine tehnoloogiliste lahenduste positiivsele mõjupotentsiaalile võrdõiguslikkuse edendamisel.

Võrdse ligipääsu tagamiseks avalikele teenustele ning läbipaistvuse suurendamiseks haldusotsustes ja teenuste disainis palun teil edendada meetmeid, mis võimaldavad digitehnoloogiate kasutuselevõttu diskrimineerimisriskide ennetamiseks,. Arvestades tehnoloogiliste tööriistade üha kasvavat rolli avaliku sektori toimimises, on põhjendatud nende arengut suunata koordineeritult ning lõimida võrdse kohtlemise kohustus vastavatesse

1

poliitikaraamistikesse, et tagada tehnoloogia järjekindel rakendamine võrdõiguslikkuse edendamise eesmärgil.

2. Tehisarupõhise diskrimineerimise ärahoidmiseks tuleb laiendada võrdõigusvoliniku pädevust.

Tehisarupõhise diskrimineerimise puhul võib tihti olla tegemist põimdiskrimineerimisega. Kui haldusorganil on ebaselge või üldse puudub juhtumi menetlemise pädevus, mistõttu peab ühte juhtumit lahendama mitu erinevat haldusorganit, võib tekkida olukord, et erineva pädevuse tõttu võib diskrimineeritu jääda riigi abita. Seega tuleks tehisaru ja automatiseeritud otsustuslahendustega seotud võimalike diskrimineerimisjuhtumite tõhusaks käsitlemiseks selgelt määratleda pädevate asutuste rollid, koostöömehhanismid ja menetlusteekond ning selle alusel hinnata, kas ja millisel määral olemasolev pädevusjaotus vajab täpsustamist.

3. Tehisarupõhise diskrimineerimise ennetamise ja tuvastamise tõhustamiseks peavad kõik tehisaru elutsüklis osalejad kokku leppima vastutusjaotuses

Eelkõige tuleb sõnaselgelt määratleda, millised kohustused ja vastutusvaldkonnad lasuvad tehisaru lahenduste loojatel ja arendajatel ning millised vastutusmehhanismid kehtivad lõppkasutajatele, sealhulgas avaliku sektori asutustele, kes neid süsteeme oma tegevuses rakendavad. Need nõuded peaks olema määratletud juba süsteemide ostu- või riigihankeprotsessis, sh diskrimineerimise kahtluse puhul peaks süsteemi omanik tõestama, et diskrimineerimist ei ole toimunud.

Arendajate vastutus peab hõlmama nii algoritmiliste mudelite loomise kui ka andmete kvaliteedi, päritolu ja korrektsuse tagamise, samuti testimise ja riskihindamise protsesside põhjaliku dokumenteerimise. Samuti on oluline, et arendajad tagaksid läbipaistvuse süsteemi toimimise kasutatavate andmete ja võimalike otsustuspõhimõtete osas. See võimaldab asutustel hinnata riske, sealhulgas diskrimineerimisriske, mis võivad tuleneda tehnoloogia ebakorrektsetest või eelarvamuslikest mustritest.

Lõppkasutajate vastutus peab omakorda hõlmama kohustust tagada, et tehisaru lahendusi rakendatakse kooskõlas kehtivate õiguspõhimõtete, sh võrdse kohtlemise põhimõttega, ning et kasutamisel järgitakse asjakohaseid siseprotseduure ja järelevalvemehhanisme. Lõppkasutajal peab olema selge kohustus hinnata, kas kasutatav tehnoloogia on konkreetse ülesande jaoks sobiv, kas selle rakendamine võib kaasa tuua otsese või kaudse

2

diskrimineerimise ning milliseid leevendusmeetmeid tuleb rakendada riskide esinemise korral.

4. Palume analüüsida, millises ulatuses ja milliste mehhanismide kaudu tuleks riigisisese õigusega kehtestada täiendavad riskijuhtimise kohustused, mis hõlmaksid tehisarupõhiste süsteemide väljatöötamist, kasutuselevõttu ja järelevalvet ka nendes sektorites, kus EL tehisintellektimäärus täpseid kohustusi ette ei näe.

Euroopa Liidu tehisintellektimäärus sätestab riskijuhtimise nõuded üksnes piiratud ulatuses ja keskendub eeskätt kõrge riskiga tehisintellektisüsteemidele. Arvestades, et diskrimineerimisriskid võivad avalduda ka madalama riskiklassi või üldotstarbeliste tehisaru lahenduste puhul, ei ole pelgalt määruse miinimumnõuetest lähtumine piisav tagamaks põhiõiguste, sh võrdse kohtlemise põhimõtte, tegelikku kaitset.

Eriti tuleb arvesse võtta Digitaalse Omnibussi (Digital Omnibus) rakendamist Eesti õiguskorda ning selle seoseid tehisaru süsteemide järelevalve ja riskijuhtimisega. Digitaalne Omnibus toob kaasa mitmeid muudatusi andmekaitse- ja digiteenuste raamistikus, mis võivad mõjutada seda, kuidas tehisaru lahenduste läbipaistvus, andmekvaliteet, vastutusahelad ja kasutajaõigused on riigisiseselt tagatud. Seetõttu on oluline hinnata, kas kehtivad ja kavandatavad normid tagavad piisava kooskõla nii EL tehisintellektimääruse kui ka Digitaalse Omnibussi nõuetega ning kas need suudavad ühiselt ennetada diskrimineerimisriske, mis võivad tuleneda tehisaru tehnoloogiate ebapiisavalt reguleeritud kasutamisest.

Lisaks tuleb kaaluda, kas tehisaruga seotud täiendavad riskijuhtimisnõuded peaksid sisaldama eraldi menetlusreegleid diskrimineerimise tuvastamiseks, ennetamiseks ja käsitlemiseks, sealhulgas selgeid nõudeid andmete läbipaistvusele, mõjuanalüüsidele, teenuste kasutajate teavitamisele ning järelevalveasutustele teabe esitamisele.

5. Euroopa Liidu tehisintellektimääruse artiklis 77 sätestatud turujärelevalveasutuste kohustused ning nende koostöömehhanismid teiste pädevate asutustega, sealhulgas soolise võrdõiguslikkuse ja võrdse kohtlemise volinikuga, vajavad täiendavat sisulist analüüsi ning süsteemset korrastamist.

Arvestades, et kõnealune määrus paneb turujärelevalveasutustele olulised ülesanded tehisarusüsteemide vastavushindamise,

3

järelevalve ja riskide tuvastamise valdkonnas, on vajalik selgelt määratleda, millisel viisil toimub infovahetus ja koostöö asutustega, kelle pädevusse kuulub diskrimineerimise jälgimine ja ennetamine.

Samuti tuleb määratleda mehhanismid, mis võimaldavad volinikul saada õigeaegset teavet tehisintellekti rakendamisega seotud riskidest, rikkumistest või süsteemsetest puudujääkidest, mis võivad mõjutada võrdse kohtlemise põhimõtte tagamist.

Vajaduse korral tuleb kaaluda ka eraldi õigusliku regulatsiooni väljatöötamist, mis täpsustaks järelevalveasutuste ülesannete ja volituste ulatust ning looks selge aluse asutuste vaheliseks andmevahetuseks, ühisteks kontrolltoiminguteks ja menetluslike sammude koordineerimiseks.

Sellise regulatiivse ja organisatsioonilise raamistikuga oleks võimalik tagada, et tehisintellekti rakendamine toimub läbipaistvalt, õiguspäraselt ning diskrimineerimisriske järjekindlalt ennetaval viisil, tugevdades ühtlasi avaliku sektori suutlikkust kaitsta isikute põhiõigusi ning edendada võrdset kohtlemist kõigis tehisarupõhistes protsessides.

6. Oluline on tagada avaliku sektori ametnike järjepidev ja süsteemne koolitamine, et suurendada nende suutlikkust tehisaru- ja algoritmipõhiste süsteemide toimimise mõistmisel.

Oluline on läbi koolituste tagada, et ametnikud mõistaksid võrdse kohtlemise seaduse § 14 sätestatud kohustust edendada võrdset kohtlemist. Koolituste eesmärk peab olema ametnike teadmiste ja oskuste arendamine viisil, mis võimaldab neil mõista algoritmide loogikat, kasutatavate andmete mõju otsuste kujunemisele ning võimalikke riske, sealhulgas kaudse või otsese diskrimineerimise võimalikkust.

Samavõrd oluline on ametnike valmisolek hinnata tehisaru süsteemi poolt genereeritud tulemuste põhjendatust ja korrektsust ning vajadusel võtta kasutusele meetmeid otsuste täiendavaks kontrollimiseks või vaidlustamiseks. Ametnikud peavad olema võimelised tuvastama olukordi, kus süsteemi toimimise aluseks olevad eeldused võivad olla puudulikud või kus kasutatud algoritmilised mudelid ei pruugi arvestada kõigi asjaoludega. Seetõttu peab koolitus hõlmama nii tehnilist baasteadmist kui ka õiguslikke ja eetilisi aspekte, mis puudutavad tehisarupõhise otsustamise läbipaistvust, õiguspärasust ja vastavust võrdse kohtlemise põhimõtetele.

4

7. Enne tehisaru- või automatiseeritud otsustuslahenduste kasutuselevõttu, mis võivad oluliselt mõjutada isikute õigusi, kohustusi või teenustele ligipääsu, tuleb teha riskipõhine eel- ja mõjuhinnang.

Mõjuhinnangu eesmärk peab olema tagada, et tehisaru kasutuselevõtt oleks kooskõlas õiguspõhimõtete, sh proportsionaalsuse, õiguspärasuse ja võrdse kohtlemise põhimõtetega, ning et võimalikud negatiivsed tagajärjed, sealhulgas diskrimineerimisriski realiseerumine, oleksid tuvastatud ja asjakohaste meetmetega ennetatud.

Eelhindamine peab hõlmama muu hulgas riskide esialgset kaardistamist, süsteemi kasutusotstarbe analüüsi ning hinnangut sellele, kas kavandatav lahendus võib tuua kaasa märkimisväärseid tagajärgi isiku õigustele või avaliku halduse otsustusprotsessidele.

Kui eelanalüüsi tulemusena tuvastatakse kõrgendatud risk, tuleb läbi viia põhjalik mõjuhinnang, mis käsitleb nii tehnilisi kui ka õiguslikke ja sotsiaalseid aspekte.

Samuti tuleb kavandada ja kirjeldada riskide leevendusmeetmeid – näiteks lisakontrollimehhanismid, inimjärelevalve taseme tõstmine, otsuste auditivõimekuse tagamine või alternatiivsete menetlusviiside pakkumine isikutele, kelle õigusi tehnoloogiline lahendus võib oluliselt mõjutada.

8. Tagada vahendid võrdõigusvolinikule tehisarupõhise diskrimineerimise seireks.

Võrdse kohtlemise seaduse § 16 kohaselt jälgib volinik selle seaduse ja soolise võrdõiguslikkuse seaduse nõuete täitmist, avaldab aruandeid soolise võrdõiguslikkuse ja võrdse kohtlemise põhimõtte rakendamise kohta ning võtab tarvitusele meetmed võrdse kohtlemise ja soolise võrdõiguslikkuse edendamiseks. Tehisarupõhise diskrimineerimise tuvastamine ja järelevalve nõuab suuremat tööjõuressurssi ning kaasaegsete tehnoloogiliste lahenduste rakendamist, mis tähendab täiendavaid rahalisi vahendeid. Seetõttu on vajalik eraldada võrdõigusvolinikule täiendavaid rahalisi vahendeid tehisarupõhise diskrimineerimise seireks.

5

Liisa Ly Pakosta Meie 2-13/20_2026 Justiits-ja digiminister Suur-Ameerika tn 1 Tallinn [email protected]

Soovitused tagamaks võrdõiguslikkus Eesti digitaalvaldkonna meetmetes ja -õiguses

Lugupeetud minister Pakosta

Arvestades kui kiirelt võtab Eesti avalik sektor kasutusele erinevaid tehisaru lahendusi, kirjutan Teile, et teha soovitused tagamaks võrdõiguslikkus Eesti digitaalvaldkonna meetmetes ja -õiguses.

Lähtuvalt võrdse kohtlemise seaduse § 16 p 5-6 on soolise võrdõiguslikkuse ja võrdse kohtlemise voliniku pädevuses teha ettepanekuid ja nõustada Vabariigi Valitsust ja valitsusasutusi seoses soolise võrdõiguslikkuse ja võrdse kohtlemise rakendamisega.

Avalikus sektoris kasutatakse üha enam tehisarul ja algoritmidel põhinevaid automatiseeritud otsustussüsteeme, mis võivad oluliselt mõjutada inimeste õigusi ja kohustusi. Kuigi need süsteemid muudavad teenuste osutamise tõhusamaks, kaasnevad nendega riskid, näiteks varjatud kallutatus või diskrimineerimine soo, rahvuse, vanuse või muu kaitstud tunnuse alusel.

Aprillis lõpeb Euroopa Komisjoni poolt rahastatav projekt EquiTech, mille eesmärk on tugevdada Eesti ja Leedu avaliku sektori asutuste ning nende koostööpartnerite suutlikkust neid riske tuvastada, ennetada ja maandada, et toetada seeläbi õiglasemat ja kaasavamat digivalitsemist. Voliniku poolt juhitud projekti koostööpartneriteks olid Tallinna Tehnikaülikool, Justiits- ja Digiministeerium ja Leedu võrdsete võimaluste ombudsman.

Kiriku 4, Tallinn, 10130, +372 5352 5002, [email protected], www.volinik.ee

Projekti tulemusena töötasime partneritega välja soovitused (vt lisa), mis aitaksid tagada, et Eesti digimeetmete ja -õigusraamistiku aluseks oleks võrdõiguslikkus ja võrdne kohtlemine.

Projekti EquiTech raames:

 kaardistasime Eestis avalikus sektoris kasutatavaid automatiseeritud otsustussüsteeme ja nendega seotud võimalikke diskrimineerimisohte

 analüüsisime, kas kehtiv õigusraamistik ja poliitilised suunised võimaldavad piisavalt ennetada diskrimineerimisriske;

 lõime tööriista, mis koosneb küsimustest ja kriteeriumidest, mille abil saab kontrollida, kas tehisaru ja automatiseeritud otsustussüsteem võib olla inimestele negatiivne mõju, eelkõige kallutatus, mis võib viia diskrimineerimiseni;

 valmisid juhendmaterjalid, kuidas turvaliselt, õiglaselt ja vastutustundlikult kasutada automatiseeritud otsustussüsteeme ja tehisaru avalikus sektoris;

 lõime e-kursuse avaliku sektori töötajatele ja tarkvara arendajatele (Digiriigi Akadeemia, kursus „Algoritmilise kallutatusega seotud riskide ennetamine avalikus sektoris“) ning koolitusmaterjalid;

 viisime läbi praktilised koolitused nii riigiametnikele, andmeteadlastele kui ka tarkvara arendajatele (koolitused pealkirjaga „AI-põhine kallutatus, diskrimineerimine ja ADM- praktikad Eesti avalikus sektoris“);

 toimus akadeemiline töötuba valdkonna uurijatele teadmiste jagamiseks, ja rahvusvaheline konverents.

 viisime läbi teavituskampaania “Ole teadlik ja tegutse”, mille eesmärk oli tõsta inimeste teadlikkust, kuidas automatiseeritud otsuseid märgata ning kuhu pöörduda.

Projekti raames koostatud uuringud, tööriistad, õppevahendid ja muu info on kättesaadav: https://www.volinik.ee/equitech-projekt.html.

Juhul, kui soovite antud teemal rohkem mõtteid vahetada ning edasist koostööd arendada, siis palun andke sellest teada.

Lugupidamisega,

Kiriku 4, Tallinn, 10130, +372 5352 5002, [email protected], www.volinik.ee

Christian Veske Soolise võrdõiguslikkuse ja võrdse kohtlemise volinik Allkirjastatud digitaalselt

Lisa: Poliitikasoovitused

Kiriku 4, Tallinn, 10130, +372 5352 5002, [email protected], www.volinik.ee

POLIITIKASOOVITUSED

Avalikus sektoris kasutatakse üha enam tehisarul ja algoritmidel põhinevaid automatiseeritud otsustussüsteeme, mis võivad oluliselt mõjutada inimeste õigusi ja kohustusi. Kuigi need süsteemid muudavad teenuste osutamise tõhusamaks, kaasnevad nendega riskid, näiteks varjatud kallutatus või diskrimineerimine soo, rahvuse, vanuse või muu kaitstud tunnuse alusel.

Soolise võrdõiguslikkuse ja võrdse kohtlemise volinik, koostöös oma partneritega Tallinna Tehnikaülikoolist, Justiits- ja Digiministeeriumist ja Leedu võrdsete võimaluste ombudsmani büroost, on EquiTech projekti raames kaardistanud Eesti avalikus sektoris kasutatavad automatiseeritud otsustussüsteemid ja nendega seotud võimalikud diskrimineerimisohud ning analüüsinud, kas kehtiv õigusraamistik ja poliitilised suunised võimaldavad piisavalt ennetada diskrimineerimisriske.

Võrdõigusvoliniku poolt ellu kutsutud ja Euroopa Liidu CERV programmist rahastatud projekti EquiTech eesmärgiks on tugevdada Eesti ja Leedu avaliku sektori asutuste ning nende koostööpartnerite suutlikkust neid riske tuvastada, ennetada ja maandada, et toetada seeläbi õiglasemat ja kaasavamat digivalitsemist.

Projekti tulemusena töötati partnerite koostöös välja soovitused, mis aitaksid tagada, et Eesti digimeetmete ja -õigusraamistiku aluseks oleks võrdõiguslikkus ja võrdne kohtlemine.

1. Eesti digipoliitikate ning soolise võrdõiguslikkuse ja võrdse kohtlemise poliitikate edasisel väljatöötamisel on vajalik senisest selgem ja strateegilisem tähelepanu pööramine tehnoloogiliste lahenduste positiivsele mõjupotentsiaalile võrdõiguslikkuse edendamisel.

Võrdse ligipääsu tagamiseks avalikele teenustele ning läbipaistvuse suurendamiseks haldusotsustes ja teenuste disainis palun teil edendada meetmeid, mis võimaldavad digitehnoloogiate kasutuselevõttu diskrimineerimisriskide ennetamiseks,. Arvestades tehnoloogiliste tööriistade üha kasvavat rolli avaliku sektori toimimises, on põhjendatud nende arengut suunata koordineeritult ning lõimida võrdse kohtlemise kohustus vastavatesse

1

poliitikaraamistikesse, et tagada tehnoloogia järjekindel rakendamine võrdõiguslikkuse edendamise eesmärgil.

2. Tehisarupõhise diskrimineerimise ärahoidmiseks tuleb laiendada võrdõigusvoliniku pädevust.

Tehisarupõhise diskrimineerimise puhul võib tihti olla tegemist põimdiskrimineerimisega. Kui haldusorganil on ebaselge või üldse puudub juhtumi menetlemise pädevus, mistõttu peab ühte juhtumit lahendama mitu erinevat haldusorganit, võib tekkida olukord, et erineva pädevuse tõttu võib diskrimineeritu jääda riigi abita. Seega tuleks tehisaru ja automatiseeritud otsustuslahendustega seotud võimalike diskrimineerimisjuhtumite tõhusaks käsitlemiseks selgelt määratleda pädevate asutuste rollid, koostöömehhanismid ja menetlusteekond ning selle alusel hinnata, kas ja millisel määral olemasolev pädevusjaotus vajab täpsustamist.

3. Tehisarupõhise diskrimineerimise ennetamise ja tuvastamise tõhustamiseks peavad kõik tehisaru elutsüklis osalejad kokku leppima vastutusjaotuses

Eelkõige tuleb sõnaselgelt määratleda, millised kohustused ja vastutusvaldkonnad lasuvad tehisaru lahenduste loojatel ja arendajatel ning millised vastutusmehhanismid kehtivad lõppkasutajatele, sealhulgas avaliku sektori asutustele, kes neid süsteeme oma tegevuses rakendavad. Need nõuded peaks olema määratletud juba süsteemide ostu- või riigihankeprotsessis, sh diskrimineerimise kahtluse puhul peaks süsteemi omanik tõestama, et diskrimineerimist ei ole toimunud.

Arendajate vastutus peab hõlmama nii algoritmiliste mudelite loomise kui ka andmete kvaliteedi, päritolu ja korrektsuse tagamise, samuti testimise ja riskihindamise protsesside põhjaliku dokumenteerimise. Samuti on oluline, et arendajad tagaksid läbipaistvuse süsteemi toimimise kasutatavate andmete ja võimalike otsustuspõhimõtete osas. See võimaldab asutustel hinnata riske, sealhulgas diskrimineerimisriske, mis võivad tuleneda tehnoloogia ebakorrektsetest või eelarvamuslikest mustritest.

Lõppkasutajate vastutus peab omakorda hõlmama kohustust tagada, et tehisaru lahendusi rakendatakse kooskõlas kehtivate õiguspõhimõtete, sh võrdse kohtlemise põhimõttega, ning et kasutamisel järgitakse asjakohaseid siseprotseduure ja järelevalvemehhanisme. Lõppkasutajal peab olema selge kohustus hinnata, kas kasutatav tehnoloogia on konkreetse ülesande jaoks sobiv, kas selle rakendamine võib kaasa tuua otsese või kaudse

2

diskrimineerimise ning milliseid leevendusmeetmeid tuleb rakendada riskide esinemise korral.

4. Palume analüüsida, millises ulatuses ja milliste mehhanismide kaudu tuleks riigisisese õigusega kehtestada täiendavad riskijuhtimise kohustused, mis hõlmaksid tehisarupõhiste süsteemide väljatöötamist, kasutuselevõttu ja järelevalvet ka nendes sektorites, kus EL tehisintellektimäärus täpseid kohustusi ette ei näe.

Euroopa Liidu tehisintellektimäärus sätestab riskijuhtimise nõuded üksnes piiratud ulatuses ja keskendub eeskätt kõrge riskiga tehisintellektisüsteemidele. Arvestades, et diskrimineerimisriskid võivad avalduda ka madalama riskiklassi või üldotstarbeliste tehisaru lahenduste puhul, ei ole pelgalt määruse miinimumnõuetest lähtumine piisav tagamaks põhiõiguste, sh võrdse kohtlemise põhimõtte, tegelikku kaitset.

Eriti tuleb arvesse võtta Digitaalse Omnibussi (Digital Omnibus) rakendamist Eesti õiguskorda ning selle seoseid tehisaru süsteemide järelevalve ja riskijuhtimisega. Digitaalne Omnibus toob kaasa mitmeid muudatusi andmekaitse- ja digiteenuste raamistikus, mis võivad mõjutada seda, kuidas tehisaru lahenduste läbipaistvus, andmekvaliteet, vastutusahelad ja kasutajaõigused on riigisiseselt tagatud. Seetõttu on oluline hinnata, kas kehtivad ja kavandatavad normid tagavad piisava kooskõla nii EL tehisintellektimääruse kui ka Digitaalse Omnibussi nõuetega ning kas need suudavad ühiselt ennetada diskrimineerimisriske, mis võivad tuleneda tehisaru tehnoloogiate ebapiisavalt reguleeritud kasutamisest.

Lisaks tuleb kaaluda, kas tehisaruga seotud täiendavad riskijuhtimisnõuded peaksid sisaldama eraldi menetlusreegleid diskrimineerimise tuvastamiseks, ennetamiseks ja käsitlemiseks, sealhulgas selgeid nõudeid andmete läbipaistvusele, mõjuanalüüsidele, teenuste kasutajate teavitamisele ning järelevalveasutustele teabe esitamisele.

5. Euroopa Liidu tehisintellektimääruse artiklis 77 sätestatud turujärelevalveasutuste kohustused ning nende koostöömehhanismid teiste pädevate asutustega, sealhulgas soolise võrdõiguslikkuse ja võrdse kohtlemise volinikuga, vajavad täiendavat sisulist analüüsi ning süsteemset korrastamist.

Arvestades, et kõnealune määrus paneb turujärelevalveasutustele olulised ülesanded tehisarusüsteemide vastavushindamise,

3

järelevalve ja riskide tuvastamise valdkonnas, on vajalik selgelt määratleda, millisel viisil toimub infovahetus ja koostöö asutustega, kelle pädevusse kuulub diskrimineerimise jälgimine ja ennetamine.

Samuti tuleb määratleda mehhanismid, mis võimaldavad volinikul saada õigeaegset teavet tehisintellekti rakendamisega seotud riskidest, rikkumistest või süsteemsetest puudujääkidest, mis võivad mõjutada võrdse kohtlemise põhimõtte tagamist.

Vajaduse korral tuleb kaaluda ka eraldi õigusliku regulatsiooni väljatöötamist, mis täpsustaks järelevalveasutuste ülesannete ja volituste ulatust ning looks selge aluse asutuste vaheliseks andmevahetuseks, ühisteks kontrolltoiminguteks ja menetluslike sammude koordineerimiseks.

Sellise regulatiivse ja organisatsioonilise raamistikuga oleks võimalik tagada, et tehisintellekti rakendamine toimub läbipaistvalt, õiguspäraselt ning diskrimineerimisriske järjekindlalt ennetaval viisil, tugevdades ühtlasi avaliku sektori suutlikkust kaitsta isikute põhiõigusi ning edendada võrdset kohtlemist kõigis tehisarupõhistes protsessides.

6. Oluline on tagada avaliku sektori ametnike järjepidev ja süsteemne koolitamine, et suurendada nende suutlikkust tehisaru- ja algoritmipõhiste süsteemide toimimise mõistmisel.

Oluline on läbi koolituste tagada, et ametnikud mõistaksid võrdse kohtlemise seaduse § 14 sätestatud kohustust edendada võrdset kohtlemist. Koolituste eesmärk peab olema ametnike teadmiste ja oskuste arendamine viisil, mis võimaldab neil mõista algoritmide loogikat, kasutatavate andmete mõju otsuste kujunemisele ning võimalikke riske, sealhulgas kaudse või otsese diskrimineerimise võimalikkust.

Samavõrd oluline on ametnike valmisolek hinnata tehisaru süsteemi poolt genereeritud tulemuste põhjendatust ja korrektsust ning vajadusel võtta kasutusele meetmeid otsuste täiendavaks kontrollimiseks või vaidlustamiseks. Ametnikud peavad olema võimelised tuvastama olukordi, kus süsteemi toimimise aluseks olevad eeldused võivad olla puudulikud või kus kasutatud algoritmilised mudelid ei pruugi arvestada kõigi asjaoludega. Seetõttu peab koolitus hõlmama nii tehnilist baasteadmist kui ka õiguslikke ja eetilisi aspekte, mis puudutavad tehisarupõhise otsustamise läbipaistvust, õiguspärasust ja vastavust võrdse kohtlemise põhimõtetele.

4

7. Enne tehisaru- või automatiseeritud otsustuslahenduste kasutuselevõttu, mis võivad oluliselt mõjutada isikute õigusi, kohustusi või teenustele ligipääsu, tuleb teha riskipõhine eel- ja mõjuhinnang.

Mõjuhinnangu eesmärk peab olema tagada, et tehisaru kasutuselevõtt oleks kooskõlas õiguspõhimõtete, sh proportsionaalsuse, õiguspärasuse ja võrdse kohtlemise põhimõtetega, ning et võimalikud negatiivsed tagajärjed, sealhulgas diskrimineerimisriski realiseerumine, oleksid tuvastatud ja asjakohaste meetmetega ennetatud.

Eelhindamine peab hõlmama muu hulgas riskide esialgset kaardistamist, süsteemi kasutusotstarbe analüüsi ning hinnangut sellele, kas kavandatav lahendus võib tuua kaasa märkimisväärseid tagajärgi isiku õigustele või avaliku halduse otsustusprotsessidele.

Kui eelanalüüsi tulemusena tuvastatakse kõrgendatud risk, tuleb läbi viia põhjalik mõjuhinnang, mis käsitleb nii tehnilisi kui ka õiguslikke ja sotsiaalseid aspekte.

Samuti tuleb kavandada ja kirjeldada riskide leevendusmeetmeid – näiteks lisakontrollimehhanismid, inimjärelevalve taseme tõstmine, otsuste auditivõimekuse tagamine või alternatiivsete menetlusviiside pakkumine isikutele, kelle õigusi tehnoloogiline lahendus võib oluliselt mõjutada.

8. Tagada vahendid võrdõigusvolinikule tehisarupõhise diskrimineerimise seireks.

Võrdse kohtlemise seaduse § 16 kohaselt jälgib volinik selle seaduse ja soolise võrdõiguslikkuse seaduse nõuete täitmist, avaldab aruandeid soolise võrdõiguslikkuse ja võrdse kohtlemise põhimõtte rakendamise kohta ning võtab tarvitusele meetmed võrdse kohtlemise ja soolise võrdõiguslikkuse edendamiseks. Tehisarupõhise diskrimineerimise tuvastamine ja järelevalve nõuab suuremat tööjõuressurssi ning kaasaegsete tehnoloogiliste lahenduste rakendamist, mis tähendab täiendavaid rahalisi vahendeid. Seetõttu on vajalik eraldada võrdõigusvolinikule täiendavaid rahalisi vahendeid tehisarupõhise diskrimineerimise seireks.

5