Tekoälyasetuksen kielletyt käytännöt: kahdeksan asiaa, joita ei saa tehdä lainkaan
Tekoälyasetuksen 5 artikla kieltää manipuloinnin, haavoittuvuuksien hyväksikäytön, sosiaalisen pisteytyksen ja tunteentunnistuksen työpaikalla. Kielto on voimassa 2.2.2025 alkaen.
· 4 min lukuaika
Lyhyesti
Tekoälyasetus ei sääntele kaikkea tekoälyä samalla tavalla. Suurin osa käytöstä on vapaata. Osa on korkean riskin käyttöä, johon liittyy velvoitteita. Pieni joukko käytäntöjä on kokonaan kielletty. Kiellot ovat 5 artiklassa. Niitä on kahdeksan, ja niitä on sovellettu 2.2.2025 alkaen ensimmäisinä koko asetuksesta. Ne koskevat manipulointia, haavoittuvien ryhmien hyväksikäyttöä, sosiaalista pisteytystä, rikosriskin ennustamista profiloinnilla, kasvokuvien haravointia, tunteentunnistusta työpaikalla ja oppilaitoksissa, biometristä luokittelua ja reaaliaikaista biometristä etätunnistusta. Tavalliselle organisaatiolle luettelo on lyhyt tarkistuslista, mutta se on käytävä läpi. Valmis tuote ei poista kieltoa.
Kahdeksan kieltoa
Tekoälyasetuksen 5 artiklan 1 kohta kieltää seuraavien tekoälyjärjestelmien markkinoille saattamisen, käyttöönoton ja käytön.
| Kohta | Kielletty käytäntö | Mitä se tarkoittaa käytännössä |
|---|---|---|
| a | Subliminaaliset, tarkoituksellisesti manipuloivat tai harhaanjohtavat tekniikat, jotka olennaisesti vääristävät käyttäytymistä heikentäen kykyä tietoiseen päätökseen ja aiheuttavat merkittävää haittaa | Käyttöliittymä tai sisältö, joka ohjaa päätökseen, jota henkilö ei muuten tekisi, tavalla, jota hän ei havaitse |
| b | Iän, vamman tai erityisen sosiaalisen tai taloudellisen tilanteen haavoittuvuuksien hyväksikäyttö käyttäytymisen vääristämiseksi merkittävää haittaa aiheuttaen | Lapsille, vanhuksille tai velkaantuneille kohdistettu järjestelmä, joka käyttää heidän tilannettaan heitä vastaan |
| c | Sosiaalinen pisteytys sosiaalisen käyttäytymisen tai henkilökohtaisten ominaisuuksien perusteella, kun se johtaa haitalliseen kohteluun asiayhteydestä irrotettuna tai suhteettomasti | Pisteytys, jossa käyttäytyminen yhdessä palvelussa heikentää kohtelua toisessa |
| d | Rikosriskin arviointi tai ennustaminen yksinomaan profiloinnin tai persoonallisuuspiirteiden perusteella | Ei koske ihmisen arvioinnin tukemista, kun arvio perustuu objektiivisiin ja todennettaviin tosiseikkoihin |
| e | Kasvojentunnistustietokantojen luominen tai laajentaminen haravoimalla kasvokuvia kohdentamattomasti internetistä tai valvontakamerakuvista | Palvelu, joka on rakennettu kerätyistä kasvokuvista ilman kohdennusta |
| f | Tunteiden päättely työpaikalla ja oppilaitoksissa | Poikkeus vain lääketieteellisiin ja turvallisuuteen liittyviin tarkoituksiin |
| g | Biometrinen luokittelu rodun, poliittisten mielipiteiden, ammattiliiton jäsenyyden, uskonnollisen tai filosofisen vakaumuksen, seksuaalisen käyttäytymisen tai suuntautumisen päättelemiseksi | Ei koske laillisesti hankittujen aineistojen merkitsemistä lainvalvonnassa |
| h | Reaaliaikainen biometrinen etätunnistus julkisissa tiloissa lainvalvontatarkoituksessa | Sallittu vain ehdottoman välttämättömissä, luetelluissa tapauksissa ennakkoluvalla |
Kieltojen a–c yhteinen piirre on, että ne vaativat merkittävää haittaa tai perusteetonta kohtelua. Ne eivät kiellä suostuttelua tai personointia sinänsä. Kiellot e–h koskevat biometriaa. Niistä f ja g ovat ne, jotka tavallinen työnantaja voi kohdata hankinnassa.
Tunteentunnistus työpaikalla
Kielto, joka todennäköisimmin koskee tavallista organisaatiota, on f alakohta: tekoälyjärjestelmää ei saa käyttää luonnollisen henkilön tunteiden päättelemiseen työpaikoilla ja oppilaitoksissa. Kielto ei koske käyttöä, joka on tarkoitettu lääketieteellisiin tai turvallisuuteen liittyviin tarkoituksiin.
Markkinoilla on tuotteita, jotka tekevät juuri tätä toisella nimellä: asiakaspalvelupuhelujen tunneanalyysi, joka mittaa myös työntekijän ääntä; videopalaverien keskittymis- tai sitoutumismittari; rekrytointihaastattelun ilmeanalyysi; oppimisalustan tarkkaavaisuuden seuranta. Jos järjestelmä päättelee työntekijän tai oppilaan tunnetilaa, se kuuluu kiellon piiriin. Näin on riippumatta siitä, kutsutaanko käyttöä hyvinvoinniksi tai palautteeksi. Turvallisuuspoikkeuksen raja on kapea: kuljettajan väsymyksen tunnistus on turvallisuutta, työntekijän tyytymättömyyden tunnistus ei.
Jos järjestelmää saa käyttää, esimerkiksi asiakkaaseen kohdistuvana muualla kuin työpaikalla, 50 artiklan 3 kohta velvoittaa kertomaan sen toiminnasta niille, joihin se kohdistuu. Tästä kerrotaan artikkelissa Tekoälyasetuksen 50 artikla.
Kielletty, korkea riski, muu
Kielto on riskiluokituksen ylin porras. Sen alla ovat korkean riskin järjestelmät, joita saa käyttää velvoitteiden mukaisesti. Niiden alla on kaikki muu. Sama käyttötarkoitus voi olla eri portaalla yksityiskohdasta riippuen. Työhakemusten seulonta on liitteen III mukaista korkean riskin käyttöä. Jos sama järjestelmä päättelee hakijan tunteita videohaastattelusta, käyttö on kiellettyä. Rikosriskin arviointi on kiellettyä, kun se perustuu yksinomaan profilointiin. Se on korkean riskin käyttöä, kun se tukee ihmisen arviointia todennettavien tosiseikkojen perusteella.
Siksi taitokatalogimme käsittelee riskiluokitusta ja kieltoja yhtenä taitona. Tasolla 1 jokainen tietää, että osa käyttötavoista on kielletty. Tasolla 3 tekoälyvastaava tekee oman organisaation järjestelmille riskiluokitusarvion ja kieltotarkistuksen. Tasolla 4 hän ratkaisee rajatapaukset ja roolit. Korkean riskin velvoitteista kerrotaan artikkelissa Korkean riskin tekoäly.
Päivät ja seuraamukset
Asetuksen 113 artiklan mukaan I ja II lukua on sovellettu 2.2.2025 alkaen. 5 artikla kuuluu näihin lukuihin. Koontiasetus (EU) 2026/1744 siirsi korkean riskin velvoitteita mutta ei kieltoja. Se lisäsi 5 artiklan 1 kohtaan uusia alakohtia ja artiklaan uusia kohtia. Niitä sovelletaan 2.12.2026 alkaen. Niiden sisältö on luettava koontiasetuksesta itsestään. Tekoälyvastaavan kieltotarkistus päivitetään, kun ne tulevat sovellettaviksi.
Seuraamukset ovat asetuksen ankarimmat. Asetuksen 99 artiklan mukaan 5 artiklan kieltojen noudattamatta jättämisestä voidaan määrätä hallinnollinen sakko. Sakko on enintään 35 miljoonaa euroa tai 7 prosenttia edellisen tilikauden maailmanlaajuisesta vuosiliikevaihdosta sen mukaan, kumpi on suurempi. Pk-yrityksiin ja startup-yrityksiin sovelletaan 99 artiklan 6 kohdan mukaan näistä pienempää. Julkisella sektorilla jäsenvaltiot säätävät viranomaisiin sovellettavista seuraamuksista.
Mitä kiellot eivät koske
Kiellot eivät koske personointia, suosittelua tai markkinointia sinänsä. Ne koskevat tekniikoita, jotka vääristävät käyttäytymistä olennaisesti ja aiheuttavat merkittävää haittaa. Ne eivät koske asiakastyytyväisyyden mittaamista kyselyllä. Ne koskevat tunteiden päättelyä tekoälyllä työpaikalla. Ne eivät kiellä kasvojentunnistusta kaikissa tilanteissa. Ne kieltävät kohdentamattoman haravoinnin sekä reaaliaikaisen etätunnistuksen julkisissa tiloissa lainvalvontatarkoituksessa. Lisäksi 5 artiklan 8 kohta muistuttaa, että artikla ei vaikuta muusta unionin oikeudesta tuleviin kieltoihin. Yleinen tietosuoja-asetus ja syrjintäkiellot pysyvät voimassa tekoälyasetuksen rinnalla.
Kiellettyjen käytäntöjen tarkistus on tekoälyvastaavan ensimmäinen tehtävä ja käyttöpolitiikan ensimmäinen rivi. Tekoälyvastaavan roolista kerrotaan artikkelissa Kuka organisaatiossa vastaa tekoälyn käytöstä?. Käyttöpolitiikasta kerrotaan artikkelissa Tekoälyn käyttöpolitiikka työpaikalle.
Usein kysyttyä
Mitkä tekoälykäytännöt on kielletty kokonaan?
Tekoälyasetuksen 5 artiklan 1 kohta kieltää kahdeksan käytäntöä. Kiellettyjä ovat alitajuntaan vaikuttavat tai tarkoituksellisesti manipuloivat tekniikat, jotka vääristävät käyttäytymistä ja aiheuttavat merkittävää haittaa; iästä, vammasta tai sosiaalisesta tai taloudellisesta tilanteesta johtuvien haavoittuvuuksien hyväksikäyttö; sosiaalinen pisteytys, joka johtaa perusteettomaan tai asiayhteydestä irrotettuun haitalliseen kohteluun; rikosriskin ennustaminen pelkän profiloinnin perusteella; kasvojentunnistustietokantojen kohdentamaton haravointi; tunteiden päättely työpaikalla ja oppilaitoksissa; biometrinen luokittelu arkaluonteisten ominaisuuksien perusteella; sekä reaaliaikainen biometrinen etätunnistus julkisissa tiloissa lainvalvontatarkoituksessa, tiukkoja poikkeuksia lukuun ottamatta.
Saako työpaikalla käyttää tekoälyä, joka tunnistaa työntekijöiden tunteita?
Ei. Tekoälyjärjestelmän käyttö ihmisen tunteiden päättelemiseen työpaikalla tai oppilaitoksessa on 5 artiklan 1 kohdan f alakohdan mukaan kielletty käytäntö. Poikkeus koskee vain lääketieteellisiä ja turvallisuuteen liittyviä tarkoituksia. Asiakaspalvelun puhelujen tunneanalyysi, joka kohdistuu työntekijän ääneen, sekä videopalaverin keskittymismittari kuuluvat kiellon piiriin, vaikka niitä myytäisiin hyvinvointityökaluina.
Mistä päivästä kiellot ovat voimassa ja mitä rikkomisesta seuraa?
Asetuksen I ja II lukua, kiellot mukaan lukien, on sovellettu 2.2.2025 alkaen. Koontiasetus (EU) 2026/1744 ei siirtänyt tätä aikataulua. Se lisäsi 5 artiklaan uusia kohtia, joita sovelletaan 2.12.2026 alkaen. Jos kiellettyjä käytäntöjä rikotaan, 99 artiklan mukaan voidaan määrätä hallinnollinen sakko. Se on enintään 35 miljoonaa euroa tai 7 prosenttia maailmanlaajuisesta vuosiliikevaihdosta sen mukaan, kumpi on suurempi. Pk-yrityksiin, startup-yritykset mukaan lukien, sovelletaan näistä pienempää.
Mitä organisaation pitää tehdä kieltojen vuoksi?
Organisaatio käy läpi käytössä ja hankinnassa olevat tekoälyjärjestelmät kieltoluettelon perusteella ja kirjaa tuloksen. Useimmissa organisaatioissa yksikään järjestelmä ei kuulu kieltoihin. Tarkistus on silti tehtävä, koska kielletty käytäntö ei muutu sallituksi, vaikka se olisi ostettu valmiina tuotteena. Riskialttiimpia ovat henkilöstöhallinnon ja asiakaspalvelun työkalut, jotka analysoivat ääntä, ilmeitä tai käyttäytymistä.