Korkean riskin tekoäly: mitä käyttöönottajan pitää tehdä ennen joulukuuta 2027

Tekoälyasetuksen 26 ja 27 artikla: ihmisvalvonta, lokit, työntekijöille kertominen ja julkishallinnon perusoikeusarviointi. Velvoitteet alkavat 2.12.2027 ja 2.8.2028.

· 5 min lukuaika

Lyhyesti

Tekoälyasetus luokittelee osan tekoälyjärjestelmistä korkean riskin järjestelmiksi käyttötarkoituksen perusteella. Asetuksen 26 artikla asettaa niiden käyttöönottajille omat velvoitteensa: käyttö ohjeiden mukaan, ihmisvalvonta, syöttötietojen laatu, seuranta ja ilmoitukset, lokien säilytys, työntekijöille ja päätösten kohteille kertominen sekä rekisteröinti viranomaisille. Julkishallinnon ja julkisia palveluja tarjoavien on lisäksi tehtävä 27 artiklan perusoikeusvaikutusten arviointi ennen ensimmäistä käyttöä. Tämä ei koske kriittisen infrastruktuurin järjestelmiä. Koontiasetus (EU) 2026/1744 siirsi näiden velvoitteiden soveltamisen alun päivämääriin 2.12.2027 ja 2.8.2028. Aika on tarkoitettu valmistautumiseen, ei odottamiseen.

Mikä tekee järjestelmästä korkean riskin

Riskiluokka määräytyy käyttötarkoituksen mukaan. Tekoälyasetuksen 6 artikla jakaa korkean riskin järjestelmät kahteen joukkoon. Ensimmäiseen kuuluvat järjestelmät, jotka ovat liitteen I tuotelainsäädännön alaisen tuotteen turvakomponentti tai itse sellainen tuote. Esimerkkejä ovat koneet ja lääkinnälliset laitteet. Lisäksi kyseisen lainsäädännön on vaadittava kolmannen osapuolen tekemä vaatimustenmukaisuuden arviointi. Molempien ehtojen on täytyttävä. Toiseen joukkoon kuuluvat liitteen III käyttöalat. Kunnan, hyvinvointialueen ja tavallisen työnantajan kannalta merkittävimmät ovat koulutukseen pääsy ja oppimisen arviointi, rekrytointi, työnjohto ja työsuhteen päätökset, välttämättömien julkisten palvelujen ja etuuksien saannin arviointi sekä lainvalvonta ja oikeudenkäyttö.

Liitteen III luettelo ei ole ehdoton. Asetuksen 6 artiklan 3 kohdan mukaan liitteessä tarkoitettu järjestelmä ei ole korkean riskin järjestelmä, jos se ei aiheuta merkittävää riskiä terveydelle, turvallisuudelle tai perusoikeuksille eikä vaikuta olennaisesti päätöksenteon tulokseen. Näin voi olla esimerkiksi silloin, kun järjestelmä tekee vain suppean menettelyllisen tehtävän, parantaa ihmisen aiemmin tekemän työn tulosta, havaitsee päätöksentekomalleja tai poikkeamia ihmisen arvioinnin tueksi tai tekee valmistelevan tehtävän. Luonnollisten henkilöiden profilointi on kuitenkin aina korkean riskin käyttöä. Tarjoajan, joka vetoaa poikkeukseen, on kirjattava arviointinsa ennen markkinoille saattamista.

Sama tekniikka on siis eri asia eri käytössä. Kielimalli, joka tiivistää kokousmuistioita, ei ole korkean riskin järjestelmä. Sama malli on korkean riskin järjestelmä, jos se pisteyttää työhakemuksia tai ehdottaa, kenen toimeentulotukihakemus tarkistetaan ensin. Tämä erottelu on taitokatalogimme tason 1 vaatimus jokaiselle. Jokaisen on tiedettävä, että osa järjestelmistä vaatii erityisiä toimenpiteitä ennen käyttöä.

Käyttöönottajan velvoitteet 26 artiklassa

Artikla 26 on kirjoitettu käyttöönottajalle eli organisaatiolle, joka käyttää järjestelmää omassa toiminnassaan. Käytännössä sen kohdat muodostavat tarkistuslistan.

Kohta Velvoite Mitä se tarkoittaa käytännössä
26(1) Tekniset ja organisatoriset toimenpiteet, joilla varmistetaan, että järjestelmää käytetään käyttöohjeiden mukaisesti Tarjoajan ohjeet luetaan, ja niiden noudattaminen järjestetään. Ohjeiden vastainen käyttö siirtää vastuuta käyttöönottajalle
26(2) Ihmisvalvonta annetaan henkilöille, joilla on pätevyys, koulutus ja valtuudet, ja heille annetaan tuki Nimetyt ihmiset, joilla on oikeus ohittaa järjestelmän tulos, ja heidän koulutuksensa
26(4) Syöttötiedot ovat merkityksellisiä ja riittävän edustavia siltä osin kuin käyttöönottaja niitä hallitsee Mitä järjestelmälle syötetään ja mistä tieto tulee
26(5) Toimintaa seurataan; riskistä ilmoitetaan tarjoajalle ja markkinavalvontaviranomaiselle ja käyttö keskeytetään; vakavasta vaaratilanteesta ilmoitetaan välittömästi Seurannan omistaja ja ilmoitusreitti
26(6) Automaattisesti tuotetut lokit säilytetään käyttötarkoitukseen nähden asianmukaisen ajan, vähintään kuusi kuukautta, jollei unionin tai kansallinen laki, erityisesti tietosuojalainsäädäntö, toisin säädä Lokien säilytys ja siitä sopiminen tarjoajan kanssa
26(7) Työnantaja kertoo työntekijöiden edustajille ja asianomaisille työntekijöille ennen käyttöönottoa, että heihin sovelletaan korkean riskin järjestelmää Yhteistoiminta ennen käyttöä, ei sen jälkeen
26(8) Viranomainen rekisteröi käytön EU:n tietokantaan eikä saa käyttää järjestelmää, jota ei ole rekisteröity Tarkistus hankinnassa
26(9) Tarjoajan 13 artiklan mukaisia tietoja käytetään tietosuojaa koskevassa vaikutustenarvioinnissa Tekoäly osaksi vaikutustenarviointia, ei erilliseksi
26(11) Ihmisille kerrotaan, että heihin sovelletaan korkean riskin järjestelmää, kun se tekee tai auttaa tekemään heitä koskevia päätöksiä Ilmoitus asiakkaalle, hakijalle, oppilaalle
26(12) Yhteistyö toimivaltaisten viranomaisten kanssa

Luettelosta näkyy, että suurin osa velvoitteista koskee organisointia, ei tekniikkaa. Keskeistä on, kuka valvoo, kuka seuraa, kenelle kerrotaan ja missä lokit ovat. Taitokatalogimme tasolla 3 vastuualueen vetäjä toteuttaa nämä omalla alueellaan. Tämä koskee ihmisvalvontaa, lokitusta ja käyttäjille tiedottamista. Tasolla 4 tekoälyvastaava vastaa vaatimustenmukaisuudesta kokonaisuutena.

Perusoikeusvaikutusten arviointi julkishallinnossa

27 artikla lisää julkiselle sektorille yhden velvoitteen. Käyttöönottajan on tehtävä arviointi järjestelmän käytön mahdollisista perusoikeusvaikutuksista ennen liitteen III mukaisen korkean riskin järjestelmän käyttöönottoa. Tämä koskee käyttöönottajia, jotka ovat julkisoikeudellisia laitoksia tai julkisia palveluja tarjoavia yksityisiä yhteisöjä. Se koskee myös käyttöönottajia, joiden järjestelmät arvioivat luottokelpoisuutta tai henki- ja sairausvakuutuksen riskiä. Velvoite ei koske liitteen III 2 kohdan kriittisen infrastruktuurin järjestelmiä. Tällaisia ovat esimerkiksi vesi- tai energiahuollon turvakomponentit.

Arvioinnissa kuvataan prosessit, joissa järjestelmää käytetään. Lisäksi kuvataan käyttöaika ja käyttötiheys sekä niiden ihmisten ja ryhmien luokat, joihin käyttö todennäköisesti vaikuttaa. Arvioinnissa käsitellään myös näihin ihmisiin ja ryhmiin kohdistuvat haitan riskit tarjoajan antamien tietojen perusteella. Lisäksi siinä kuvataan ihmisvalvonnan toteutus ja toimenpiteet riskien toteutuessa. Toimenpiteisiin kuuluvat sisäinen hallinto ja valitusmekanismit. Velvoite koskee ensimmäistä käyttökertaa. Samanlaisissa tapauksissa voi tukeutua aiempaan arviointiin. Arviointi päivitetään, kun jokin sen osa muuttuu. Tulokset ilmoitetaan markkinavalvontaviranomaiselle tekoälytoimiston laatimalla lomakkeella.

Artiklan 4 kohta liittää arvioinnin tietosuojaan. Jos jokin velvoite on jo täytetty tietosuojaa koskevassa vaikutustenarvioinnissa, perusoikeusvaikutusten arviointi täydentää sitä. Käytännössä kunnan tekoälyhankinta kulkee siis yhden arviointiprosessin läpi. Siinä tietosuojavastaava ja tekoälyvastaava tekevät kumpikin oman osuutensa.

Mitä koontiasetus siirsi

Alkuperäisessä tekoälyasetuksessa korkean riskin velvoitteiden piti koskea liitteen III järjestelmiä 2.8.2026 alkaen ja liitteen I järjestelmiä 2.8.2027 alkaen. Koontiasetus (EU) 2026/1744 perustelee määräaikojen siirtoa standardien, yhteisten eritelmien ja kansallisten viranomaisten viivästymisellä. Se vahvistaa uudet päivämäärät: liitteen III mukaisiin järjestelmiin III luvun 1, 2 ja 3 jaksoa sovelletaan 2.12.2027 alkaen ja liitteen I mukaisiin 2.8.2028 alkaen.

111 artiklan siirtymäsäännös sanoo lisäksi, että ennen soveltamispäivää markkinoille saatettuihin tai käyttöön otettuihin korkean riskin järjestelmiin asetusta sovelletaan vain, jos niiden rakenteessa tapahtuu merkittäviä muutoksia. Viranomaisten käyttöön tarkoitettujen järjestelmien tarjoajien ja käyttöönottajien on kuitenkin täytettävä vaatimukset viimeistään 2.8.2030. Julkishallinnolle vanha järjestelmä ei siis ole pysyvä poikkeus, vaan määräaika.

Mitä siirto ei muuttanut: 4 artiklan tekoälylukutaito, 5 artiklan kielletyt käytännöt ja 50 artiklan avoimuusvelvoitteet ovat voimassa. Niistä kerrotaan artikkeleissa Tekoälyasetuksen 4 artikla ja Tekoälyasetuksen 50 artikla.

Mitä kannattaa tehdä nyt

Siirtymäaika antaa käyttöönottajalle aikaa kolmeen asiaan. Ensin tarvitaan inventaario: mitkä käytössä tai hankinnassa olevat järjestelmät osuvat liitteen III aloille. Rekrytoinnin seulontatyökalu, oppimisanalytiikka ja etuuskäsittelyn priorisointi ovat tavallisimmat löydöt. Sitten määritellään vastuut: kuka on ihmisvalvoja, kuka seuraa käyttöä, missä lokit säilyvät ja miten työntekijöille ja asiakkaille kerrotaan. Lopuksi tehdään arviointi: julkishallinnossa perusoikeusvaikutusten arviointi tulee tietosuojaa koskevan vaikutustenarvioinnin rinnalle.

Näistä mikään ei edellytä joulukuun 2027 odottamista. Ne kuitenkin edellyttävät, että organisaatiossa on henkilö, joka osaa nämä asiat. Tämä on taitokatalogimme tason 4 kuvaus: vastaa vaatimustenmukaisuudesta, tekee perusoikeusvaikutusten arvioinnin ja dokumentoi sen. Tekoälyvastaavan roolista kokonaisuutena kerrotaan artikkelissa Kuka organisaatiossa vastaa tekoälyn käytöstä?.

Usein kysyttyä

Mikä on korkean riskin tekoälyjärjestelmä?

Korkean riskin tekoälyjärjestelmä on järjestelmä, joka kuuluu tekoälyasetuksen liitteen III käyttöaloihin. Näitä ovat esimerkiksi koulutukseen pääsy ja arviointi, rekrytointi ja työnjohto, välttämättömien julkisten palvelujen ja etuuksien saanti sekä lainvalvonta. Korkean riskin järjestelmä on myös järjestelmä, joka on liitteen I tuotelainsäädännön alaisen tuotteen turvakomponentti tai itse sellainen tuote. Lisäksi saman lainsäädännön on vaadittava sille kolmannen osapuolen vaatimustenmukaisuuden arviointia. Ratkaiseva on käyttötarkoitus, ei tekniikka: sama kielimalli on korkean riskin järjestelmä, kun sillä seulotaan työhakemuksia. Se ei ole korkean riskin järjestelmä, kun sillä tiivistetään kokousmuistioita. Liitteen III järjestelmä ei kuitenkaan ole korkean riskin järjestelmä, jos se ei aiheuta merkittävää vahingon riskiä. Näin voi olla esimerkiksi silloin, kun se hoitaa vain suppean menettelyllisen tai valmistelevan tehtävän. Luonnollisten henkilöiden profilointi on aina korkean riskin käyttöä. Poikkeukseen vetoavan tarjoajan on dokumentoitava arvionsa.

Mitä käyttöönottajan on tehtävä?

Käyttöönottaja käyttää järjestelmää käyttöohjeiden mukaan. Se antaa ihmisvalvonnan päteville ja koulutetuille henkilöille. Se varmistaa syöttötietojen merkityksellisyyden siltä osin kuin se hallitsee niitä. Se seuraa järjestelmän toimintaa ja ilmoittaa riskeistä ja vakavista vaaratilanteista tarjoajalle ja viranomaiselle. Se säilyttää lokit vähintään kuusi kuukautta, jollei laki toisin säädä. Se kertoo työntekijöille ja heidän edustajilleen ennen käyttöä työpaikalla. Se kertoo myös ihmisille, joita koskevia päätöksiä järjestelmä tekee tai auttaa tekemään. Viranomaisena se rekisteröi käytön EU:n tietokantaan.

Mikä on perusoikeusvaikutusten arviointi ja ketä se koskee?

Tekoälyasetuksen 27 artiklan mukaisen arvioinnin tekevät julkisoikeudelliset laitokset, julkisia palveluja tarjoavat yksityiset yhteisöt sekä luottokelpoisuutta ja vakuutusriskiä arvioivien järjestelmien käyttöönottajat. Arviointi tehdään ennen liitteen III mukaisen korkean riskin järjestelmän ensimmäistä käyttöä. Tämä ei koske liitteen III 2 kohdan kriittisen infrastruktuurin järjestelmiä. Arvioinnissa kuvataan käyttöprosessit, käytön kesto ja tiheys, ihmisryhmät, joihin järjestelmä vaikuttaa, haittariskit, ihmisvalvonnan toteutus ja toimet riskien toteutuessa. Tulokset ilmoitetaan markkinavalvontaviranomaiselle.

Milloin velvoitteita aletaan soveltaa?

Koontiasetus (EU) 2026/1744 siirsi soveltamisen alkua. Liitteen III mukaisiin korkean riskin järjestelmiin velvoitteita sovelletaan 2.12.2027 alkaen. Liitteen I mukaisiin järjestelmiin niitä sovelletaan 2.8.2028 alkaen. Ennen soveltamispäivää käyttöön otettuihin järjestelmiin tekoälyasetusta sovelletaan vain, jos niiden rakenne muuttuu merkittävästi. Viranomaisten käyttöön tarkoitettujen järjestelmien on kuitenkin täytettävä vaatimukset viimeistään 2.8.2030.

Lähteet