Algoritmi kasutuse ülevaade
Detsember 2024
Millega on tegemist: antud dokument on mõeldud kaardistamaks avaliku sektori asutustes tehisintellekti ja teiste algoritmiliste lahenduste kasutust, sh koondamaks infot millisel eesmärgil ning kuidas selliseid süsteeme asutuse otsustes, menetlustes ning olulistes taustategevustes rakendatakse. Antud dokumendis kajastatav info avalikustatakse www.kratid.ee kasutuslood lehel, millest lähitulevikus kujundatakse terviklik avaliku sektori algoritmide register.
Eesmärk: luua avalikkuse jaoks läbipaistvus algoritmiliste süsteemide kasutamise kohta avalikus sektoris, edendades üldsuse kontrolli ja järelevalvet selliste süsteemide kasutamise kohta. Seekaudu tagada suurem ühiskonna usaldus tehisintellekti ja algoritmiliste lahenduste kasutamise vastu ning aidata vähendada vigu ja õigusrikkumisi. Seejuures märgime, et nii Eesti digiühiskond 2030 arengukava, andmete ja tehisintellekti valge raamat 2024-2030 kui ka tehisintellekti tegevuskava sätestavad olulise eesmärgina luua läbipaistev algoritmide kasutus avalikus sektoris.
Teise eesmärgina pakub see dokument täiendava läbipaistvuse ka asutuse enda jaoks, võimaldades asutuse eri rollides olevatele inimestele süsteemsema ülevaate kasutatavatest algoritmidest, nende eesmärgist ja ülesehitusest. Samuti edendab täiendav läbipaistvus võimalusi asutustevaheliseks koostööks ja algoritmide taaskasutuseks.
• Milliste algoritmide osas tuleks see dokument täita: Palume täita eraldi dokumendi iga kasutusel oleva algoritmilise lahenduse ja/ või algoritmi osas, mis vastab järgmistele nõuetele, olenemata sellest, kas tegemist on asutusesiseselt arendatud, tellitud või sisse ostetud lahendusega. Edaspidi tuleks see jooksvalt esitada ka uute algoritmiliste lahenduste ja algoritmide kasutuselevõtmisel.
• Milline asutuse töötaja peaks selle dokumendi täitma: algoritmi arendamise või kasutamise eest vastutava üksuse juht või liige. Asjakohasel juhul võib olla vajalik kaasata arendaja, andmeteadlane või jurist. Oleme hoidnud dokumendi küsimustiku nii lühikese ja lihtsana kui võimalik, seega dokumendi täitmine peaks võtma kuni ühe tunni.
• Mis ajaks ootame teie vastuseid juba kasutusel olevate algoritmide osas: Täidetud „Algoritmi kasutuse ülevaate“ vorme palume edastada meilile
[email protected] hiljemalt 14.02.2025.
• Mida me teeme selle dokumendiga edasi: Koondame täidetud vormid kokku ja avalikustame https://www.kratid.ee/kasutuslood-kratid koos teiste asutuste algoritmi kasutuse ülevaadetega.
PS! Kui teil on küsimusi dokumendi täitmise osas või soovite abi mõne vastuse sisustamisel, siis aitame! Palun kirjutage
[email protected].
Üldinfo
Atribuudi
nimi
Selgitus
Vastus
1
Lahenduse nimi
Sisesta algoritmilise lahenduse nimi
2
Asutus
Sisesta lahendust kasutava asutuse nimi
3
Kasutuse staatus
Millises faasis lahendus praegu on?
Valige sobiv variant pakutud vastustest, mis kirjeldab kõige täpsemalt algoritmilise lahenduse praegust arendus- või kasutusfaasi.
☐ Idee
☐ Kavandamisel
☐ Arenduses
☐ Beeta/piloot faasis
☐ Kasutusel alates …. (pp.kk.aaaa)
☐ Kasutuselt kõrvaldatud
4
Kategooria
Millisesse kategooriasse kuulub algoritmiline lahendus?
Valige sobivam variant või täiendage variant „muu“.
☐ Otsustussüsteem
☐ Otsustustoe süsteem
☐ Avalikkusele suunatud informatsiooni või teenuse edastamine
☐ Avalike ressursside haldamine või optimeerimine
☐ Asutusesisene kasutus (ilma otsese mõjuta väljapoole)
☐ Muu: ……
5
Valdkond
Millise valdkonnaga on teie algoritmiline lahendus seotud?
Valige sobivam variant või täiendage variant „muu“.
☐ Avalik haldus
☐ Haridus
☐ Keskkond
☐ Kommunikatsioon
☐ Kultuur
☐ Majandus
☐ Teadus ja tehnoloogia
☐ Tervis
☐ Õigus
☐ Muu: ….
6
Lühikirjeldus
Esitage algoritmilise lahenduse lühikirjeldus, mis mahub umbes 500 tähemärgi piiresse. Lühikirjelduse eesmärk on anda lugejale esmane arusaam sellest, mida algoritm teeb.
Näiteks: „Bürokratt on avaliku sektori asutuste veebilehtedel olevate juturobotite koosvõimeline võrgustik, mis võimaldab inimesel asutustelt vestlusakna kaudu kõnekeelse suhtlusega infot saada. Ta on inimese ehk kasutaja jaoks võimalus virtuaalsete assistentide abil kõnekeelse suhtlusega avalikke otseseid ja infoteenuseid kasutada.“
NB! Hilisemate küsimuste juures on teil võimalus lahendust põhjalikumalt kirjeldada.
7
Vastutava üksuse kontakt
Sisestage algoritmi kasutamise eest vastutava üksuse e-posti aadress (või kui see puudub, siis lisage asutuse e-maili aadress, millelt saab lahenduse kasutamist juhtivate isikute kontaktid).
Soovitame kasutada üldist üksuse e-posti aadressi, et tagada järjepidevus, vältides konkreetse töötaja aadressi kasutamist.
8
Algoritmilise lahenduse looja või arenduspartnerid
Juhul, kui rakendatakse kolmanda osapoole loodud lahendust või kui lahenduse arendamisse olid kaasatud välised osapooled, siis palun nimetage neid.
Ei ole vaja loetleda kõiki partnereid, vaid üksnes need, kellel on lahenduse väljatöötamisel võtmeroll.
Soovi korral võib lisada tellimuse aluseks olnud hanke RHR-i viitenumber.
Algoritmi eesmärk ja kasutusala
9
Millisel eesmärgil lahendust kasutatakse
Eelkõige selgitage:
• mis on lahenduse peamine eesmärk,
• millist peamist probleemi või vajadust see lahendab.
10
Mis on lahenduse funktsionaalsus ja kes on kasutajad
Eelkõige selgitage:
• mis on lahenduse peamised funktsioonid,
kes on peamised kasutajad ja kui palju neid on.
Võimalusel tooge näiteid konkreetsetest kasutusjuhtudest.
Näiteks: „Bürokratt on virtuaalne assistent/ juturoboti tarkvara, mis on mõeldud kasutamiseks mistahes Eesti avaliku sektori asutusele või kohalikule omavalitsusele. Bürokrati kasutaja ehk klient on asutus või kohalik omavalitsus ning Bürokrati lõppkasutajateks on eelkõige Eesti kodanikud ja elanikud, kuid ka kõik teised, kellel selleks huvi võiks olla.
Bürokrati eesmärk on pakkuda lõppkasutajatele ühte kanalit, mille kaudu nad saavad vastused oma küsimustele, mis puudutavad erinevate asutuste vastutusvaldkondi. Samuti on Bürokrati eesmärgiks, et lõppkasutaja saaks läbi vestlusroboti tarbida ka digiteenuseid. Selleks võivad olla erinevad andmebaasipäringud, näiteks dokumendi olek/staatus, avalduste esitamine, enda kohta käivate andmete pärimine jne.
Hetkel on Bürokratt kasutusel 11 erineva asutuse juures, sh Politsei- ja Piirivalveamet, Kaitseressursside amet, Tarbijakaitse ja Tehnilise Järelevalve Amet jt.“
11
Kuidas lahendus toimib
Eelkõige selgitage:
• kuidas lahendus töötab, st kirjeldage kokkuvõtlikult ja lühidalt selle peamist toimimisloogikat,
• kui regulaarselt lahendust asutuses kasutatakse.
Näiteks: „Lõppkasutaja leiab avaliku sektori asutuse veebilehelt vestlusroboti akna ning saab sealt küsida asutust puudutavaid küsimusi. Kui robot jääb küsimustele vastamisega hätta, saab vestluse üle võtta päris inimene ehk klienditeenindaja. Lisaks on vajaduse korral võimalik autentida lõppkasutaja ning pakkuda talle isiklikke andmeid puudutavat teavet.
Järgmiste sammudena tagatakse Bürokrati klientidele (asutustele) võimalus esmalt suunata vestlus teise asutuse juurde, kui lõppkasutaja küsimus ei käi nende endi valdkonna alla ning pärast seda tagatakse võimalus lõppkasutaja automaatseks suunamiseks korrektse asutuseni. Tekib olukord, kus lõppkasutaja ei pea teadma, millise asutuse või kohaliku omavalitsuse juurde ta oma küsimusega pöörduma peab. Lisaks arendatakse tehisintellekti abil antavate personaalsete soovituste süsteemi. Selle arenduse tulemusena tagatakse võimalus pakkuda personaliseeritud soovituste teenust, kus lõppkasutaja saab leida omale vajalikud vastused lähtuvalt just teda puudutavatest andmetest.
Lahendus on asutuste veebilehtedel kasutatav lähtuvalt asutuste endi soovist ja ärilistest vajadustest. Selleks võib olla kas asutuse lahtiolekuaeg, kuid tagatud on võimalus hoida lahendus kasutatavana 24/7.“
12
Mis on lahenduse mõjud
Eelkõige selgitage:
• milline on algoritmilise lahendusega kaasnev kasu nende jaoks keda see mõjutab (ametnik või töötaja, asutus, haldusmenetluse adressaat, teised riigiasutused vm).
• kas/millised on lahendusega kaasnevad muud mõjud.
Kui on olemas, lisage mõõdetavad tulemused – näiteks aja- või kulusääst, täpsuse paranemine, töövoo efektiivsus või muud kvantitatiivsed näitajad, mis näitavad lahenduse mõju.
Andmed
13
Milliseid andmeid algoritmiline lahendus kasutab
Eelkõige selgitage:
• mis andmeid algoritm töötleb (sh nii andmed, mis antakse sisendandmetena kui sellised, mida algoritm automaatselt pärib andmekogust),
• asjakohasel juhul, milliseid andmeid kasutati algoritmi loomiseks/treenimiseks,
• millistest allikatest nimetatud andmed pärit.
Võimalusel lisage viited konkreetsetele andmekogudele või andmestikele.
Riskid ja nende leevendusmeetmed
14
Algoritmi täpsus, töökindlus ja kuritarvitamine
Selgitage, kas ning milline negatiivne mõju kaasneks, kui:
• algoritmi väljund on ekslik või ebatäpne,
• algoritm lakkaks töötamast,
• algoritmi kasutatakse kogemata valesti või tahtlikult kuritarvitatakse.
Näiteks, kas esineb oht, kus algoritmilise lahenduse kasutamine tooks kaasa vea asutuse haldusotsuses või toimingus, mis mõjutaks negatiivselt inimese õigusi, võimalusi või kohustusi või põhjustaks mõne ühiskonnagrupi ebavõrdse kohtlemise.
Lisaks hinnake, kas tuvastatud negatiivse mõju realiseerumine on madal, keskmine, kõrge.
15
Muud riskid
Kas lisaks eelmisele vastustele olete tuvastanud algoritmilise lahenduse arendamise või kasutuse käigus muid ohte, mille maandamine on olnud vajalik?
Näiteks seoses andmete kvaliteedi, privaatsuse, läbipaistvuse, küberturvalisuse või väljundi usaldusväärsusega.
16
Riskijuhtimine
Selgitage:
• Kas olete rakendanud (või plaanite rakendada) riskijuhtimise meetmeid eelkirjeldatud võimalike negatiivsete mõjude ärahoidmiseks?
• Kui jah, siis kirjeldage olulisemaid meetmeid tagamaks, et algoritm toimiks usaldusväärselt ja vastaks oodatud kvaliteedile (nt riskikaardistuse tegemine süsteemi arendamisel, testimine, auditeerimine, inimjärelevalve vm).
17
Inimjärelevalve
Selgitage:
• Kuidas on tagatud inimjärelevalve algoritmilise lahenduse kasutamise üle? Eelkõige kirjeldage, kas ja millal inimesed sekkuvad süsteemi väljundite hindamisel või ülevaatamisel.
• Kas isiku jaoks, kes algoritmilise lahenduse väljundit vahetult kasutab (ametnik, töötaja vm isik) on arusaadav või kontrollitav, miks algoritmiline lahendus sellise väljundi genereeris?
18
Andmekaitsealane mõjuhinnang
Kas olete teinud andmekaitsealase mõjuhinnangu?
Jah-vastuse puhul viidake mõjuhinnangu dokumendile juhul, kui see on avaldatud.
☐ Jah, viide …
☐ Ei
19
Andmejälgija
Kas andmetöötluse läbipaistvuse tagamiseks on rakendatud andmejälgijat?
☐ Jah
☐ Ei
Algoritmi kasutamine otsustes (käesolev jaotis rakendub algoritmile, mis ei ole üksnes sisemine tööriist, vaid mida kasutatakse asutuse otsustes)
20
Algoritmilise lahenduse roll otsustusprotsessis
Juhul, kui algoritmilist lahendust kasutatakse asutuses haldusotsuste tegemisel, siis palun selgitage:
• mis on algoritmi roll otsustusprotsessis?
Eelkõige tooge välja, millises etapis ja millisel viisil algoritmiline lahendus toetab otsuste tegemist ning millist mõju see omab otsustusprotsessi tulemustele.
21
Puudutatud inimese teavitamine algoritmi kasutusest
Kui algoritmi kasutatakse haldusakti andmisel, järelevalve teostamisel või haldustoimingu sooritamisel, kas inimest teavitatakse algoritmilise lahenduse kasutamisest? Kui te täna ei teavita, siis kas plaanite hakata tulevikus teavitama?
Märkige vastuses, kui see küsimus pole teie algoritmi osas relevantne.
Lisainfo (vabatahtlik)
22
Õiguslik alus
Juhul, kui algoritmi kasutamiseks on õigusaktis sätestatud eraldi õiguslik alus, lisage viide vastavale sättele.
Juhul, kui algoritmi osas pole seaduses eraldi õiguslikku alust sätestatud, aga seda kasutatakse haldusakti andmisel või muu haldusmenetluse protsessi käigus, siis lisage viide, millise õigusaktist tuleneva ülesande täitmiseks algoritmi kasutatakse (viidates vastavale sättele).
23
Veebilehe URL
Sisestage veebilehe aadress, kust leiab lisateavet lahenduse ja selle kasutamise kohta.
Näiteks võib see olla link teie asutuse veebilehele, uudisartiklile, videole, teadusuuringule või muu allikale, mis pakub täiendavat teavet lahenduse kohta.
24
Koodihoidla URL
Sisestage koodihoidla veebilehe aadress (URL), kust leiab lahenduse lähtekoodi.
Näiteks võib see olla link GitHubi hoidlale või mõnele muu platvormile, kus on kood ja dokumentatsioon avalikult kättesaadav.
25
Täiendav info
Lisage siia muu täiendav info, mida sooviksite üldsusega jagada ja mis aitab paremini mõista algoritmi olemust või annab täiendavat konteksti dokumendi mõnes teises jaotises esitatud teabe osas.
Sh nt algoritmi puudutavad uuringud, meedias avaldatud artiklid jms.
Milliste süsteemide osas tuleks see dokument täita
Algoritmi kasutuse ülevaade tuleks täita selliste algoritmiliste lahenduste osas, mille kasutamine võib mõjutada inimeste õiguseid, vabadusi või kohustusi. Eelkõige hõlmab see järgmiseid juhtumeid:
• Algoritmid, millega automatiseeritakse haldusakti andmine. Näiteks juhtudel, kus süsteem automaatselt väljastab haldusakti ilma inimese otsese sekkumiseta, nagu raieloa automaatne väljastamine või sotsiaaltoetuste automaatne määramine.
• Algoritmid, mida kasutatakse automaatseks faktituvastuseks enne haldusakti andmist. Näiteks masinnägemise kasutamine kiiruskaamera kuvatõmmiselt auto numbrimärgi automaatseks tuvastamiseks liiklustrahvi tegemisel.
• Otsustustoe süsteemid, millel võib olla mõju inimest vahetult mõjutavale lõppotsusele. Näiteks ohuhinnangu süsteemid.
• Algoritmid, mida kasutatakse inimeste kategoriseerimiseks või profileerimiseks. Näiteks järelevalve teostamisel kasutatav riskihindamisalgoritm, mis tuvastab võimalikke õigusrikkujaid või annab soovitusi, kelle suhtes järelevalvet teostada. Samuti süsteemid, mis teostavad inimese profileerimist ja mis mõjutavad tema ligipääsu avalikule teenustele või muule hüvele.
• Algoritmid, millega automatiseeritakse konkreetne haldustoiming. Näiteks kohtuistungi automaatne transkribeerimine või anonümiseerija kasutamine dokumendist isikuandmete kõrvaldamiseks.
• Spetsiifiliselt tehisintellektil põhinevad inimesega vahetult suhtlevad süsteemid. Eelkõige Bürokratt jm vestlusrobotid, mille kaudu saab inimene asutuse infoportaalis isikustatud teavet või ligipääsu asutuste teenustele.
• Spetsiifiliselt tehisintellektil põhinevad lahendused, mida süsteemselt juurutatakse ametniku või töötaja teatud tööprotsesside automatiseerimiseks. Näiteks keelemudelite kasutamine memode või analüüside koostamisel.
Kui teie lahenduses kasutatakse rohkem kui ühe algoritmi, palume hinnata, kas algoritmid täiendavad üksteist ühe ja sama eesmärgi saavutamisel või tegutsevad erinevate eesmärkide nimel. Kui algoritmid täidavad erinevaid eesmärke, palume vormis esitada teave kõigi kasutatud algoritmide kohta, kuid need võivad olla kirjeldatud sama vormi sees.
Kui teil tekib küsimus, kas või kuidas vastava algoritmilise lahenduse osas tuleks dokument täida, palun kirjutage
[email protected].