Versioon: 12.10.2023
Teadus-, uurimis- ja arendustööd Riigi Infosüsteemi Ameti riigihankes „Sündmusteenuste analüüsi- ja arendushange“ (viitenumber 241499)
Sündmusteenuste mõju hindamise meetod ja valideerimine
Mihkel Solvak, Andres Võrk
TÜ CITIS
Sisukord
1. Lähteülesanne 1
2. Mõju dimensioonid ja võimalikud indikaatorid 2
2.1 Majanduslik mõju 2
2.2. Sotsiaalne mõju 3
2.3. Keskkonnamõju 3
2.4. Mittemateriaalsed mõjud 3
3. Indikaatorite andmeallikate määramine ja väärtuste leidmine 4
4. Koondhinnangu arvutamise meetod 4
5. Valideerimine kahe sündmusteenusega 4
7. Dokumenteerimine ja võimalik mõju kalkulaator 5
8. Töö tulemid 6
9. Tegevusplaan, töömaht ja eelarve. 6
1. Lähteülesanne
Konkreetsete sündmusteenuste arendamise prioriteetide valimiseks on vajalik saada võimalikult täpne eelhinnang, milline on antud teenuse või teenuste mõju. Mõistlik on arendada teenuseid, mille koondmõju on võimalikult suur ja mille sündmusteenuse kujul ühtlustamine on saavutatav mõistliku aja- ja ressursikuluga. Hetkel on MKMi tellimusel PWC poolt 2020 aastal läbiviidud sündmusteenuste analüüsis välja toodud võimalikud teenuste kvaliteedi indikaatorid, mis sisaldavad endas ka mõju ja tõhususe indikaatoreid. Samas on need siiski eelkõige tulevase teenuse kvaliteedi võrdlevaks hindamiseks ja ei ütle ülemäära palju teenuse laiema sotsiaalmajandusliku mõju kohta. Lisaks ei ole indikaatorid sellisel kujul reaalsete andmetega valideeritud.
Antud analüüsi eesmärk on minna tehtud tööga edasi ja luua reaalselt kasutatav numbrilisi väärtusi omav sündmusteenuse mõju hinnang koos viisiga selle replitseerimiseks teiste teenuste puhul. Selleks tuleb läbi viia järgmised tegevused:
1. sündmusteenuste majandusliku, sotsiaalse, keskkonna- ja mittemateriaalse mõju hindamise indikaatorite valik;
2. indikaatorite andmeallikate määramine ja väärtuste leidmine;
3. koondhinnangu arvutamise meetodi valik;
4. punkti 1-3 valideerimine kahe sündmusteenuse mõju hindamise läbi;
5. tulemuste raportid ja sisend võimaliku kalkulaatori loomiseks.
2. Mõju dimensioonid ja võimalikud indikaatorid
Mõju hindamisel võetakse aluseks PWC poolt koostatud sündmusteenuste analüüsi indikaatorid, kuid täiendatakse seda olulisel määral uute dimensioonidega. Esialgne dimensioonide valik on majanduslik, sotsiaalne, keskkonna ja mittemateriaalsed mõjud. Lõplik valik tehakse koos tellijaga pärast esialgse indikaatorite kogumi ja andmeallikatega olemasolu hinnangu järel kuna indikaatorite valiku juures on tõenäoline leida veel erinevate muude dimensioonide jaoks sobivate indikaatorite lähendeid või otsustada ümber indikaatorite dimensioonidesse liigitamine.
2.1 Majanduslik mõju
Majanduslikku mõju hindamisel valitakse indikaatorid, mis lubaksid hinnata majanduslikku mõju eelkõige läbi teenuse osutamise ja ka kliendipoolse teenuse tarbimise kulude tulevase kokkuhoiu. Selleks on vaja leida:
1. alamteenuste osutamise hinnanguline kulu hetkel ja sealt arvutatud ühikuhinna lähend;
2. teenuse tarbija hinnanguline kulu standardkulu mudeli abil, mis võtab arvesse ka tarbija töö- ja vabaaja väärtust eurodes.
Kuna teenuseid sellisel kujul realiseeritud ei ole, on mõju numbrilise väärtuse hindamiseks vaja nn kontrafaktuaalse stsenaariumi loomine, mille vastu hinnates on võimalik aru saada, kas antud teenuste sündmusteenuseks arendamine on suure majandusliku mõjuga.
Näiteks teenuse tarbija puhul tähendaks see reeglina arvutust kujul: . Kontrafaktuaal oleks kulu kokkuhoid x ühiku võrra. Samas on võimalik osateenuste tegelike tarbimisnumbrite alusel võtta arvesse tarbijate ja neid iseloomustavate parameetrite jaotusi (vanus, sugu, regioon jne) ning vastavalt sellele opereerida nominaalse kogutarbijate arvu asemel jaotustega, kelle puhul on kulude kokkuhoid omakord sõltuv sellest, millises jaotuse osas nad on. Näiteks on standardkulu mudeli alusel palgatööl oleva inimese aja kokkuhoiul suurem rahaline väärtus kui pensionäril või ülalpeetaval (näiteks lapsel). Teades tarbijate jaotusi saame nii arvutada täpsema kulude kokkuhoiu isegi eeldusel, et kõikidel tuleb tõesti vaid x ühikuline kokkuhoid.
Teenuse osutaja vaatepunktist tuleks alamteenuste kulud hinnata ja liita. Kontrafaktuaaliks oleks võimalikud teenuse osutamise kulude kokkuhoiud, kas töölõikude kadumise, töötajate arvu vähenemise või teenuse osutamise muutusest tulenevate struktuuride muutusest (klienditeenindaja kulu asenduks osaliselt IT kuluga jne).
2.2. Sotsiaalne mõju
Sotsiaalse mõju puhul hinnatakse eelkõige:
1. teenuse kättesaadavuse lävendite esinemist;
2. lävendite iseloomu ja kõrgust;
3. sihtgrupi võimekust lävendite ületamiseks.
Üheks lävendi indikaatoriks on alamteenuste hulk ja nende kättesaamise tehnilisus hetkel. Olenevalt teenuse sihtgruppide sotsiodemograafilisest jaotusest on ka siin võimalik vastava sotsiaalse kulu koguhinnang täpsustada kui on olemas tarbijaprofiili pilt või jaotused erinevate parameetrite lõikes.
Parim viis sotsiaalse mõju hindamiseks oleks teenuse sihtgrupis kasutuse määra tõus, veel rakendamata teenuse puhul oleks sellisel juhul vajalik hinnata kuivõrd sündmusteenuse kujul realiseeritud teenus suurendaks kasutust x protsendi võrra.
2.3. Keskkonnamõju
Digitaliseerimise keskkonnamõju hindamine on küll veel kasvav eriala, samas on siin võimalik katsetada indikaatoreid, mida muudes riikides ilmselt nii lihtne kasutada pole. Keskkonnamõju hinnatakse kaheti:
1. otsene teenuse digitaalse komponendi poolt tekitatavat energiakulu – näiteks x-tee sõnumite arvu, sõnumi keskmine suurus ja teenuse osutamiseks vajalike andmete hoiustamise kulu – leides antud kulu lähendi teatud riistvara parameetrite puhul;
2. teenuse osutamise ja tarbimisega seotud kaudsed keskkonnakulud – eelkõige transpordikulud.
Näiteks osateenuste osutamisega seotud x-tee päringute arvu ja mahu hindamine on teoreetiliselt võimalik x-tee logide alusel, kus on näha ka sõnumi maht. Kontrafaktuaaliks siin on sündmusteenus, milles on sel juhul kas osade sõnumite vahetamine mittevajalik või teenuse osutamisel tekkiv digitaalse komponendi kulu kontsentreerumine vähemate osapoolte peale, mis annab mastaabiefekte, mis vähendavad kogu keskkkonnakulu kuigi teenuse teatud osapoolte puhul üksikult kulu suureneb.
2.4. Mittemateriaalsed mõjud
Mittemateriaalsete mõjude all hinnatakse eelkõige teoreetilist potentsiaali need saavutada. Näiteks riigi rahvusvahelise maine tõus teatud valdkonnas olulise mõjuga sündmusteenuse realiseerumine annab mainekasvu vaid sellega seotud kommunikatsioonitegevuste kaudu või juhul kui see panustab otseselt mingisse dimensiooni, mille alusel mõõdetakse erinevaid digitaliseerituse tasemeid. Selleks hinnatakse:
1. kas sündmusteenus mõjutab mõnda indikaatorit, mille alusel mõõdetakse Eesti digitaliseerituse taset rahvusvahelistes indeksites;
2. kas sündmusteenuse realiseerimine mõjutaks baasindikaatori väärtust positiivselt või negatiivselt;
3. kas sündmusteenuse valdkond või realiseerimise viis kattub Eesti digitaalse mainekujunduse kommunikatsiooni kesksete põhimõtetega.
Kuivõrd maine kasv sõltub otseselt teenuse arendamisega mitteseotud tegevustest, on selle hinnangu puhul tegemist tugevalt kvalitatiivse teoreetilise mainekasvu potentsiaali hinnanguga, mille realiseerimine sõltub muudest asjaoludest.
3. Indikaatorite andmeallikate määramine ja väärtuste leidmine
Dimensioonide all defineeritakse vaid indikaatorid, mis vastavad ühele allolevatest tingimustest:
1. arvuline väärtus on otseselt leitav avalikust statistikast;
2. päritav alamteenuse omanikult või muult andmete omanikult korrataval kujul, mis ei riku teenuse tarbija privaatsust või andmete konfidentsiaalsust (näiteks jaotused, mitte toorandmed juba olemasolevatest andmetest);
3. leitav perioodiliselt korratavast avalikust uuringust või andmekogust;
4. vaadeldav ja mõõdetav ilma olulise halduskoormuseta alamteenuse omaniku või ka välise osapoole poolt
Eesmärk on minimeerida mõju hindamisel tehtavate eelduste hulk ja usaldusväärsus. Indikaatorite väärtuste leidmine peab asuma kuskil kahe äärmuse vahel, millest üheks on puhtalt teoreetiliselt põhjendatud numbriline väärtus ja teine on näiteks kogu kasutajagrupi individuaalsete väärtuste andmetabel. Esimene on liialt lai ja ebatõene eeldus, teine rikub privaatsust ja on ebaproportsionaalne andmekasutus võrreldes kasutamise eesmärgiga.
4. Koondhinnangu arvutamise meetod
Igal alamdimensioonil antakse indikaatoritele eraldi otsene arvuline väärtus. Arvutatakse ka mõju koondhinnang, kuna madala majandusliku mõjuga teenus võib olla suure sotsiaalse mõjuga ja vastupidi. Koondhinnang leitakse kahel võimalikul viisil:
1. standardiseeritud kujul koondhinnang, kus kõik alamkomponendid on võrdse kaaluga;
2. erinevate kaaludega koondhinnag, kus kaalude leidmise viis determineeritakse kas eksperthinnanguga või muul sobival viisil.
Veel ehitamata teenuse puhul on tegemist nn ex ante mõju hindamisega. Sellest tulenevalt tuleb iga dimensiooni suhtes leida kas mingi sihttase, millega võrreldes saab teenuse mõju kvantifitseerida või täpsem kontrafaktuaal, mis antud juhul on realiseeritud sündmusteenus mis mõjutab siis vastavat dimensiooni ja selle alamindikaatori väärtust mingis suunas. Kontrafaktuaalid või sihttasemed defineeritakse koos tellija ja alamteenuste omanikega.
5. Valideerimine kahe sündmusteenusega
Valitud meetodi valideerimiseks viiakse kahe sündmusteenuse kandidaadi puhul läbi ülal defineeritud mõju hindamine ehk käiakse läbi kõik numbrilise hinnangu arvutamiseks vajalikud sammud, leitakse igas valitud dimensioonis alamindikaatorite ja dimensiooni koguindikaatori väärtus ning agregeeritakse see koondhinnangu arvutamise meetodi alusel kokku. Hindamisel saadud õppetunnid dokumenteeritakse ning hinnangu adekvaatsus valideeritakse omakorda tellija ning osapoolte esindajatega.
Valitud kaheks sündmusteenuseks on:
1. abiellumise sündmusteenus;
2. Eestis kohanemise sündmusteenus.
Antud sündmusteenuste puhul tehakse järgmist:
1. hinnatakse hetkel nende osateenuste mõju valitud dimensioonides numbriliselt;
2. luuakse planeeritava sündmusteenuse protsessi ja tehnilise ülesehituse plaanide alusel kontrafaktuaalid;
3. arvutatakse kontrafaktuaalidest tulenevalt erinevate kontrafaktuaalide parameetrite juures hinnatava sündmusteenuse realiseerimise kogumõju.
7. Dokumenteerimine ja võimalik mõju kalkulaator
Analüüsi tulemused dokumenteeritakse ja esitatakse tellijale vaheraportite ja lõppraportina. Töö käigus esitatakse vahetulemusi dünaamiliste HMTL dokumentidena, mis sisaldavad endas:
1. vajalikku tekstilist osa (definitsioonid, kirjeldused jne);
2. osateenuste andmete alusel arvutatud mõjusid ning nende visualiseeringuid graafide ja tabelite kujul, mida klient saab antud dokumendis eraldi vaadata ja teatud ulatuses soovi korral töödelda (aktiveerida ja deaktiveerida filtreid jne) nägemaks muutusi;
3. lingitud andmekogusid, mis on mõju hindamise arvutuste aluseks.
Dokumenteerimiseks kasutataks R Markdown tarkvara, mis võimaldab antud dokumentidest genereerida ka staatilisi PDF formaadis dokumente vastavalt kliendi soovile ja tulemuste laiemaks jagamiseks.
Sellisel viisil dokumenteerimise eeliseks on võimalik mõju hindamise kalkulaatorile sisendi genereerimisel. Kuna dokumendi aluseks on juba andmetöötlus skript R tarkvaras lisatakse sinna ka mõju arvutuste skriptid, mida saab soovi korral hiljem otse kalkulaatori loomiseks kasutada.
Mõju kalkulaatori vajalikkus ja tehniline realisatsioon otsustatakse selle töö tulemusena ja ei sisaldu otse antud projektis. Tuleviku kasu huvides hinnatakse väljatöötatud mõju hindamise meetodi realiseerimist prototüübi tasemel kalkulaatorina. Kalkulaatori mõte oleks:
1. asendada staatilise mõju hinnangu raport, milles ei saa arvväärtusi uuendada ega täpsustada;
2. võimaldada kasutajal lisada eri dimensioonides kulu arvutamise alusväärtuste tabeleid või konstante;
3. võimaldada kasutajal muuta kontrafaktuaalse stsenaariumi sisendparameetreid, nägemaks milliste väärtuste juures muutuks sündmusteenuse arendamine kulutõhusamaks;
4. näha mõju dimensioonides koos ning visualiseerida milliste teenuste juures domineerivad millised dimensioonid lõpphinnangus rohkem;
5. automatiseerida kogumõju arvutmine tasemele, kus teatud dimensioonide indikaatorite puudumisel antud teenuse puhul skaleeritakse mõju arvutamine automaatselt ümber ilma kasutaja sekkumiseta.
8. Töö tulemid
Mõju hindamise töö tulemid on järgmised:
1. sündmusteenuse mõju definitsioonid eri dimensioonides ja selle dokumentatsioon;
2. mõju hindamise indikaatorite ja nende andemallikate kogu lühikirjeldus ja selle dokumentatsioon;
3. kogumõju hindamise meetod ja selle dokumentatsioon;
4. kahe sündmusteenuse läbiviidud ja dokumenteeritud mõju hinnang;
5. hinnang kalkulaatori loomise mõistlikkusele koos võimaliku tehnilisele ülesehituse variantidega;
6. tulemuste vaheraportid ja lõppraport .html ja .pdf formaadis.