Mitkä tekoälykäytännöt on kielletty kokonaan?

Tekoälyasetuksen 5 artiklan 1 kohta kieltää kahdeksan käytäntöä: subliminaaliset tai tarkoituksellisesti manipuloivat tekniikat, jotka vääristävät käyttäytymistä ja aiheuttavat merkittävää haittaa; iän, vamman tai sosiaalisen tai taloudellisen tilanteen haavoittuvuuksien hyväksikäytön; sosiaalisen pisteytyksen, joka johtaa perusteettomaan tai asiayhteydestä irrotettuun haitalliseen kohteluun; rikosriskin ennustamisen pelkän profiloinnin perusteella; kasvojentunnistustietokantojen kohdentamattoman haravoinnin; tunteiden päättelyn työpaikalla ja oppilaitoksissa; biometrisen luokittelun arkaluonteisten ominaisuuksien perusteella; ja reaaliaikaisen biometrisen etätunnistuksen julkisissa tiloissa lainvalvontatarkoituksessa tiukkoja poikkeuksia lukuun ottamatta.

Saako työpaikalla käyttää tekoälyä, joka tunnistaa työntekijöiden tunteita?

Ei. Tekoälyjärjestelmän käyttö luonnollisen henkilön tunteiden päättelemiseksi työpaikalla tai oppilaitoksessa on 5 artiklan 1 kohdan f alakohdan mukaan kielletty käytäntö. Poikkeus koskee vain lääketieteellisiä ja turvallisuuteen liittyviä tarkoituksia. Asiakaspalvelun puhelujen tunneanalyysi, joka kohdistuu työntekijän ääneen, tai videopalaverin keskittymismittari ovat kiellon piirissä, vaikka ne myytäisiin hyvinvointityökaluina.

Mistä päivästä kiellot ovat voimassa ja mitä rikkomisesta seuraa?

Asetuksen I ja II luku, kiellot mukaan lukien, ovat olleet sovellettavia 2.2.2025 alkaen, ja koontiasetus (EU) 2026/1744 ei siirtänyt niitä; se lisäsi 5 artiklaan uusia kohtia, joita sovelletaan 2.12.2026 alkaen. Kiellettyjen käytäntöjen rikkomisesta voidaan 99 artiklan mukaan määrätä enintään 35 miljoonan euron tai 7 prosentin maailmanlaajuisesta vuosiliikevaihdosta suuruinen hallinnollinen sakko sen mukaan, kumpi on suurempi. Pk-yrityksille, startup-yritykset mukaan lukien, sovelletaan näistä pienempää.

Mitä organisaation pitää tehdä kieltojen vuoksi?

Käydä läpi käytössä ja hankinnassa olevat tekoälyjärjestelmät kieltoluetteloa vasten ja kirjata tulos. Useimmissa organisaatioissa yksikään järjestelmä ei osu kieltoihin, mutta tarkistus on tehtävä, koska kielletty käytäntö ei lakkaa olemasta kielletty siksi, että se on ostettu valmiina tuotteena. Riskialttiimmat löydöt ovat HR:n ja asiakaspalvelun työkalut, jotka analysoivat ääntä, ilmeitä tai käyttäytymistä.

Tekoälyasetuksen kielletyt käytännöt: kahdeksan asiaa, joita ei saa tehdä lainkaan

Tekoälyasetuksen 5 artikla kieltää manipuloinnin, haavoittuvuuksien hyväksikäytön, sosiaalisen pisteytyksen ja tunteentunnistuksen työpaikalla. Voimassa 2.2.2025 alkaen.

Lyhyesti

Tekoälyasetus ei sääntele kaikkea tekoälyä samalla tavalla. Suurin osa käytöstä on vapaata, osa on korkean riskin käyttöä velvoitteineen, ja pieni joukko käytäntöjä on kielletty kokonaan. Kiellot ovat 5 artiklassa, niitä on kahdeksan, ja ne ovat olleet sovellettavia 2.2.2025 alkaen, ensimmäisinä koko asetuksesta. Ne koskevat manipulointia, haavoittuvien ryhmien hyväksikäyttöä, sosiaalista pisteytystä, rikosriskin ennustamista profiloinnilla, kasvokuvien haravointia, tunteentunnistusta työpaikalla ja oppilaitoksissa, biometristä luokittelua ja reaaliaikaista biometristä etätunnistusta. Tavalliselle organisaatiolle luettelo on lyhyt tarkistus, mutta se on tehtävä: kieltoa ei voi ostaa pois valmiina tuotteena.

Kahdeksan kieltoa

Asetuksen 5 artiklan 1 kohta kieltää seuraavien tekoälyjärjestelmien markkinoille saattamisen, käyttöönoton ja käytön.

Kohta	Kielletty käytäntö	Mitä se tarkoittaa käytännössä
a	Subliminaaliset, tarkoituksellisesti manipuloivat tai harhaanjohtavat tekniikat, jotka olennaisesti vääristävät käyttäytymistä heikentäen kykyä tietoiseen päätökseen ja aiheuttavat merkittävää haittaa	Käyttöliittymä tai sisältö, joka ohjaa päätökseen, jota henkilö ei muuten tekisi, tavalla, jota hän ei havaitse
b	Iän, vamman tai erityisen sosiaalisen tai taloudellisen tilanteen haavoittuvuuksien hyväksikäyttö käyttäytymisen vääristämiseksi merkittävää haittaa aiheuttaen	Lapsille, vanhuksille tai velkaantuneille kohdistettu järjestelmä, joka käyttää heidän tilannettaan heitä vastaan
c	Sosiaalinen pisteytys sosiaalisen käyttäytymisen tai henkilökohtaisten ominaisuuksien perusteella, kun se johtaa haitalliseen kohteluun asiayhteydestä irrotettuna tai suhteettomasti	Pisteytys, jossa käyttäytyminen yhdessä palvelussa heikentää kohtelua toisessa
d	Rikosriskin arviointi tai ennustaminen yksinomaan profiloinnin tai persoonallisuuspiirteiden perusteella	Ei koske ihmisen arvioinnin tukemista, kun arvio perustuu objektiivisiin ja todennettaviin tosiseikkoihin
e	Kasvojentunnistustietokantojen luominen tai laajentaminen haravoimalla kasvokuvia kohdentamattomasti internetistä tai valvontakamerakuvista	Palvelu, joka on rakennettu kerätyistä kasvokuvista ilman kohdennusta
f	Tunteiden päättely työpaikalla ja oppilaitoksissa	Poikkeus vain lääketieteellisiin ja turvallisuuteen liittyviin tarkoituksiin
g	Biometrinen luokittelu rodun, poliittisten mielipiteiden, ammattiliiton jäsenyyden, uskonnollisen tai filosofisen vakaumuksen, seksuaalisen käyttäytymisen tai suuntautumisen päättelemiseksi	Ei koske laillisesti hankittujen aineistojen merkitsemistä lainvalvonnassa
h	Reaaliaikainen biometrinen etätunnistus julkisissa tiloissa lainvalvontatarkoituksessa	Sallittu vain ehdottoman välttämättömissä, luetelluissa tapauksissa ennakkoluvalla

Kieltojen a–c yhteinen piirre on, että ne vaativat merkittävää haittaa tai perusteetonta kohtelua; ne eivät kiellä suostuttelua tai personointia sinänsä. Kiellot e–h koskevat biometriaa, ja niistä f ja g ovat ne, jotka tavallinen työnantaja voi kohdata hankinnassa.

Tunteentunnistus työpaikalla

Kielto, joka osuu tavalliseen organisaatioon todennäköisimmin, on f alakohta: tekoälyjärjestelmän käyttö luonnollisen henkilön tunteiden päättelemiseksi työpaikalla ja oppilaitoksissa on kielletty, paitsi jos käyttö on tarkoitettu lääketieteellisiin tai turvallisuuteen liittyviin tarkoituksiin.

Markkinoilla on tuotteita, jotka tekevät juuri tätä toisella nimellä: asiakaspalvelupuhelujen tunneanalyysi, joka mittaa myös työntekijän äänen; videopalaverien keskittymis- tai sitoutumismittari; rekrytointihaastattelun ilmeanalyysi; oppimisalustan tarkkaavaisuuden seuranta. Jos järjestelmä päättelee työntekijän tai oppilaan tunnetilaa, se on kiellon piirissä riippumatta siitä, kutsutaanko sitä hyvinvoinniksi tai palautteeksi. Rajanveto turvallisuuspoikkeukseen on kapea: kuljettajan väsymyksen tunnistus on turvallisuutta, työntekijän tyytymättömyyden tunnistus ei.

Jos järjestelmää saa käyttää, esimerkiksi asiakkaaseen kohdistuvana muualla kuin työpaikalla, 50 artiklan 3 kohta velvoittaa kertomaan sen toiminnasta niille, joihin se kohdistuu. Siitä kerrotaan artikkelissa Tekoälyasetuksen 50 artikla.

Kielletty, korkea riski, muu

Kielto on riskiluokituksen ylin porras. Sen alla ovat korkean riskin järjestelmät, joita saa käyttää velvoitteilla, ja niiden alla kaikki muu. Sama käyttötarkoitus voi olla eri portaalla yksityiskohdasta riippuen: työhakemusten seulonta on liitteen III mukaista korkean riskin käyttöä, mutta jos sama järjestelmä päättelee hakijan tunteita videohaastattelusta, se on kielletty. Rikosriskin arviointi on kielletty, kun se perustuu yksinomaan profilointiin, ja korkean riskin käyttöä, kun se tukee ihmisen arviointia todennettavien tosiseikkojen perusteella.

Siksi taitokatalogimme pitää riskiluokitusta ja kieltoja yhtenä taitona. Tasolla 1 jokainen tietää, että osa käytöistä on kielletty. Tasolla 3 tekoälyvastaava tekee oman organisaation järjestelmille riskiluokitusarvion ja kieltotarkistuksen, ja tasolla 4 hän ratkaisee rajatapaukset ja roolit. Korkean riskin velvoitteista kerrotaan artikkelissa Korkean riskin tekoäly.

Päivät ja seuraamukset

Asetuksen 113 artiklan mukaan I ja II luku, joihin 5 artikla kuuluu, ovat olleet sovellettavia 2.2.2025 alkaen. Koontiasetus (EU) 2026/1744 siirsi korkean riskin velvoitteita mutta ei kieltoja; se lisäsi 5 artiklan 1 kohtaan uusia alakohtia ja artiklaan uusia kohtia, joita sovelletaan 2.12.2026 alkaen. Niiden sisältö on luettava koontiasetuksesta itsestään, ja tekoälyvastaavan kieltotarkistus päivitetään, kun ne tulevat sovellettaviksi.

Seuraamukset ovat asetuksen ankarimmat. Asetuksen 99 artiklan mukaan 5 artiklan kieltojen noudattamatta jättämisestä voidaan määrätä hallinnollinen sakko, joka on enintään 35 miljoonaa euroa tai 7 prosenttia edellisen tilikauden maailmanlaajuisesta vuosiliikevaihdosta sen mukaan, kumpi on suurempi; pk-yrityksille ja startup-yrityksille sovelletaan 99 artiklan 6 kohdan mukaan näistä pienempää. Julkisen sektorin osalta jäsenvaltiot säätävät viranomaisiin sovellettavista seuraamuksista.

Mitä kiellot eivät koske

Kiellot eivät koske personointia, suosittelua tai markkinointia sinänsä, vaan vasta tekniikoita, jotka vääristävät käyttäytymistä olennaisesti ja aiheuttavat merkittävää haittaa. Ne eivät koske asiakastyytyväisyyden mittaamista kyselyllä, vaan tunteiden päättelyä tekoälyllä työpaikalla. Ne eivät kiellä kasvojentunnistusta kaikissa tilanteissa, vaan kohdentamattoman haravoinnin ja reaaliaikaisen etätunnistuksen julkisissa tiloissa lainvalvontatarkoituksessa. Ja 5 artiklan 8 kohta muistuttaa, että artikla ei vaikuta kieltoihin, jotka tulevat muusta unionin oikeudesta: tietosuoja-asetus ja syrjintäkiellot pysyvät voimassa sen rinnalla.

Kieltotarkistus on tekoälyvastaavan ensimmäinen tehtävä ja käyttöpolitiikan ensimmäinen rivi. Tekoälyvastaavan roolista kerrotaan artikkelissa Kuka organisaatiossa vastaa tekoälyn käytöstä? ja käyttöpolitiikasta artikkelissa Tekoälyn käyttöpolitiikka työpaikalle.