Tekoälyn vinoumat rekrytoinnissa ja HR:ssä: mistä syrjintä tulee ja mitä laki vaatii

Tekoäly oppii datasta, jossa näkyvät menneet valinnat. Mitä tekoälyasetuksen 10 artikla vaatii datasta, yleisen tietosuoja-asetuksen 22 artikla päätöksistä ja työnantajan keinot.

· 4 min lukuaika

Lyhyesti

Tekoäly ei syrji tahallaan. Se oppii syrjimään datasta, joka kantaa menneisyyden valintoja. Rekrytoinnissa, työnjohdossa ja etuuksien käsittelyssä tämä koskee sekä tekoälyasetusta että syrjintälainsäädäntöä.

Tekoälyasetus luokittelee rekrytoinnin ja työnjohdon järjestelmät korkean riskin järjestelmiksi. Sen 10 artikla vaatii tarjoajalta datan hallintaa. Siihen kuuluu vinoumien selvittäminen ja lieventäminen. Yleisen tietosuoja-asetuksen 22 artikla rajoittaa pelkästään automaattisia merkittäviä päätöksiä. Yhdenvertaisuuslaki ja tasa-arvolaki kieltävät syrjinnän työelämässä. Kielto koskee valintaa riippumatta siitä, tekikö sen ihminen vai malli. Työnantaja, joka ostaa järjestelmän valmiina, ei osta vastuuta pois.

Mistä vinouma tulee

Kielimalli ja luokittelumalli oppivat esimerkeistä. Jos rekrytointimalli koulutetaan organisaation aiemmilla hakemuksilla ja niiden lopputuloksilla, se oppii ennustamaan, kenet olisi aiemmin valittu. Samalla se oppii kaiken, mikä aiempiin valintoihin vaikutti: alan sukupuolijakauman, iän, nimen tuttuuden ja koulutuksen arvostuksen. Näitä ei tarvitse antaa mallille suoraan. Ne näkyvät välillisesti harrastuksissa, työhistorian aukoissa, sanavalinnoissa ja oppilaitosten nimissä, ja malli löytää ne, koska ne ennustavat lopputulosta.

Toinen vinouman lähde on tavoite. Jos mallin tavoite on "menestyy tehtävässä", se mittaa menestystä sillä, mitä aineistossa on: ehkä pysyvyyttä, ehkä esihenkilön arvioita, ehkä ylennyksiä. Jokainen näistä mittareista sisältää omat vinoumansa. Kolmas lähde on edustavuus: jos jostakin ryhmästä on vähän esimerkkejä, malli ennustaa heitä huonommin, ja huono ennuste näyttää hylkäykseltä.

Vinouma ei siis ole virhe, joka korjataan kerran. Se on ominaisuus, joka havaitaan mittaamalla tuloksia ryhmittäin ja jota hallitaan jatkuvasti. Siksi laki puhuu datan hallinnasta eikä vinoumattomuudesta.

Mitä tekoälyasetus vaatii

Rekrytointi, valinta, työnjohdon päätökset ja työsuorituksen arviointi ovat liitteen III mukaisia korkean riskin käyttöaloja. Näiden järjestelmien tarjoajaa sitoo 10 artikla, joka koskee dataa ja datanhallintaa. Sen 2 kohdan mukaan koulutus-, validointi- ja testausdatajoukkoihin on sovellettava käyttötarkoitukseen sopivia hallintakäytäntöjä. Niihin kuuluvat muun muassa datan keruuprosessit ja alkuperä sekä oletukset siitä, mitä datan on tarkoitus mitata. Erityisesti f ja g alakohdan mukaan niihin kuuluvat myös mahdollisten vinoumien selvittäminen sekä toimet niiden havaitsemiseksi, ehkäisemiseksi ja lieventämiseksi. Tämä koskee vinoumia, jotka todennäköisesti vaikuttavat terveyteen, turvallisuuteen tai perusoikeuksiin taikka johtavat unionin oikeudessa kiellettyyn syrjintään. Artiklan 3 kohdan mukaan datan on oltava merkityksellistä, riittävän edustavaa ja mahdollisimman virheetöntä ja täydellistä. Tarvittaessa tämän on toteuduttava myös niiden henkilöryhmien osalta, joihin järjestelmää on tarkoitus käyttää.

Artiklan 5 kohta sallii tarjoajan poikkeuksellisesti käsitellä erityisiä henkilötietoryhmiä, kuten etnistä alkuperää, vinoumien havaitsemiseksi ja korjaamiseksi. Ehdot ovat tiukat. Käsittely on sallittua vain, jos sama ei onnistu muulla datalla. Data on käsiteltävä pseudonymisoituna, pääsyä valvoen ja luovuttamatta sitä eteenpäin. Tiedot on poistettava, kun vinouma on korjattu. Tämä on tärkeä yksityiskohta: vinoumaa ei voi mitata, jos ryhmää ei saa tunnistaa. Asetus ratkaisee ristiriidan sallimalla mittauksen rajatusti.

Käyttöönottajan eli työnantajan velvoitteet ovat 26 artiklassa. Järjestelmää on käytettävä ohjeiden mukaan. Ihmisvalvonta on annettava päteville ja koulutetuille henkilöille. Syöttötietojen on oltava merkityksellisiä siltä osin kuin käyttöönottaja niitä hallitsee. Toimintaa on seurattava, ja työntekijöille on kerrottava käytöstä etukäteen. Siitä kerrotaan artikkelissa Korkean riskin tekoäly. Velvoitteita sovelletaan liitteen III järjestelmiin 2.12.2027 alkaen, mutta syrjintäkiellot ovat voimassa nyt.

Mitä tietosuoja-asetus vaatii

Yleisen tietosuoja-asetuksen 22 artiklan 1 kohta antaa rekisteröidylle oikeuden olla joutumatta päätöksen kohteeksi, kun päätös perustuu pelkästään automaattiseen käsittelyyn, kuten profilointiin. Oikeus koskee päätöstä, jolla on rekisteröityä koskevia oikeusvaikutuksia tai joka vaikuttaa häneen vastaavalla tavalla merkittävästi. Rekrytointipäätös, irtisanominen ja etuuspäätös ovat tällaisia.

Artiklan 2 kohdan poikkeukset ovat välttämättömyys sopimuksen tekemiseksi tai täytäntöönpanemiseksi, suojatoimista säätävä laki ja nimenomainen suostumus. Kun poikkeus perustuu sopimukseen tai suostumukseen, 3 kohta vaatii asianmukaiset toimenpiteet. Niitä ovat vähintään oikeus vaatia, että ihminen käsittelee tiedot, oikeus esittää oma kanta ja oikeus riitauttaa päätös. Kun poikkeus perustuu lakiin, suojatoimet vahvistetaan siinä laissa, joka sallii päätöksen. Artiklan 4 kohta kieltää tällaiset päätökset erityisten henkilötietoryhmien perusteella lähes kokonaan.

Rekrytoinnissa, jota mikään laki ei erikseen salli automatisoitavaksi, tämä tarkoittaa, että tekoäly saa seuloa, järjestää ja ehdottaa. Päätöksen tekee kuitenkin ihminen, ja ihmisen on arvioitava asia aidosti. Valvoja, joka hyväksyy jokaisen suosituksen tarkistamatta, ei ole ihmisvalvontaa vaan kumileimasin. Silloin päätös on tosiasiassa pelkästään automaattinen. Rekisteröidyn oikeuksista kokonaisuutena kerrotaan artikkelissa Rekisteröidyn oikeudet.

Syrjintäkielto ei katso, kuka päätti

Yhdenvertaisuuslaki (1325/2014) kieltää syrjinnän muun muassa iän, alkuperän, kielen, uskonnon, vakaumuksen, terveydentilan ja vammaisuuden perusteella. Kielto koskee myös työhönottoa. Tasa-arvolaki (609/1986) kieltää sukupuoleen perustuvan syrjinnän työelämässä. Molemmat lait sitovat työnantajaa riippumatta siitä, tekikö valinnan ihminen, taulukko vai malli. Välillinen syrjintä tarkoittaa tilannetta, jossa näennäisesti neutraali peruste asettaa jonkin ryhmän epäedulliseen asemaan ilman hyväksyttävää syytä. Juuri tällaista syrjintää vinoutunut malli voi tuottaa.

Työnantaja ei voi vedota siihen, ettei se tiennyt, miten malli teki päätöksen. Siksi tekoälyasetuksen 13 artiklan mukaiset tarjoajan käyttöohjeet ja tiedot suorituskyvystä eri ryhmissä ovat työnantajalle tärkeitä. Niiden avulla työnantaja voi osoittaa arvioineensa järjestelmää ennen käyttöä.

Mitä työnantaja tekee

Vaihe Toimenpide Peruste
Ennen hankintaa Pyydetään tarjoajalta 13 artiklan käyttöohjeet, tiedot koulutusdatasta ja testatusta suorituskyvystä ryhmittäin Tekoälyasetus 10, 13 art.
Ennen käyttöä Testataan omalla aineistolla: eroavatko tulokset sukupuolen, iän tai kielen mukaan Yhdenvertaisuuslaki, tasa-arvolaki
Ennen käyttöä Tietosuojan vaikutustenarviointi ja julkishallinnossa perusoikeusvaikutusten arviointi Tietosuoja-asetus 35 art., tekoälyasetus 27 art.
Ennen käyttöä Kerrotaan työntekijöiden edustajille ja hakijoille Tekoälyasetus 26(7), 26(11) art.
Käytössä Ihmisvalvonta, jolla on aikaa, osaaminen ja valtuus ohittaa suositus Tekoälyasetus 26(2), tietosuoja-asetus 22(3) art.
Käytössä Seurataan tuloksia ryhmittäin ja kirjataan poikkeamat Tekoälyasetus 26(5) art.

Taitokatalogimme määrittelee tekoälyn vinoumat ja syrjimättömyyden tekoälyvastaavan tason 3 taidoksi. Se on yksi Tekoälyvastaavan osaaminen -opintopolun vaatimuksista. Tekoälyvastaavan roolia käsitellään artikkelissa Kuka organisaatiossa vastaa tekoälyn käytöstä?. Rekrytoinnin tekoäly on myös se kohta, jossa käyttöpolitiikan raja "mitä ei saa tehdä ilman erillistä arviointia" tulee vastaan ensimmäisenä. Politiikkaa käsitellään artikkelissa Tekoälyn käyttöpolitiikka työpaikalle.

Usein kysyttyä

Mistä tekoälyn vinouma tulee?

Vinouma syntyy datasta, jolla malli on koulutettu, ja tavoitteesta, johon se on viritetty. Jos rekrytointimalli oppii aiemmista valinnoista, se oppii myös aiemmat valintaperusteet. Niihin voivat kuulua sukupuoli, ikä ja nimi, vaikka niitä ei annettaisi mallille suoraan. Ne näkyvät välillisesti harrastuksissa, työhistorian aukoissa ja sanavalinnoissa. Vinouma ei siis ole mallin virhe vaan sen ominaisuus. Se havaitaan vain mittaamalla tuloksia ryhmittäin.

Mitä tekoälyasetus vaatii vinoumien osalta?

Korkean riskin järjestelmiin kuuluvat rekrytoinnin ja työnjohdon järjestelmät. Tekoälyasetuksen 10 artiklan mukaan niiden tarjoajan on sovellettava hallintakäytäntöjä koulutus-, validointi- ja testausdataan. Käytäntöihin kuuluu mahdollisten vinoumien selvittäminen. Tämä koskee erityisesti vinoumia, jotka johtavat unionin oikeudessa kiellettyyn syrjintään. Tarjoajan on myös tehtävä toimia, joilla vinoumia havaitaan, ehkäistään ja lievennetään. Datan on oltava käyttötarkoitukseen nähden merkityksellistä, edustavaa ja mahdollisimman virheetöntä. Tekoälyasetuksen 26 artiklan mukaan käyttöönottajan on varmistettava, että sen omat syöttötiedot ovat merkityksellisiä. Käyttöönottajan on myös järjestettävä ihmisvalvonta.

Saako rekrytointipäätöksen tehdä kokonaan tekoälyllä?

Yleisen tietosuoja-asetuksen 22 artiklan mukaan henkilöllä on oikeus olla joutumatta päätöksen kohteeksi, jos päätös perustuu pelkästään automaattiseen käsittelyyn ja vaikuttaa häneen merkittävästi. Rekrytointipäätös on tällainen päätös. Poikkeuksia ovat sopimuksen tekemisen välttämättömyys, nimenomainen suostumus ja laki. Kun perusteena on sopimus tai suostumus, henkilöllä on oltava vähintään oikeus vaatia ihmisen osallistumista, esittää kantansa ja riitauttaa päätös. Kun perusteena on laki, suojatoimet säädetään kyseisessä laissa. Käytännössä tekoäly voi seuloa ja ehdottaa, mutta ihminen tekee päätöksen. Hänen on arvioitava asia oikeasti eikä vain hyväksyttävä tekoälyn ehdotusta.

Mitä työnantaja voi tehdä, kun järjestelmä on ostettu valmiina?

Työnantaja pyytää tarjoajalta 13 artiklan mukaiset käyttöohjeet sekä tiedot aineistosta ja eri ryhmissä testatusta suorituskyvystä. Se testaa järjestelmän omalla aineistollaan ennen käyttöä. Se mittaa, eroavatko tulokset sukupuolen, iän tai kielen mukaan. Se järjestää ihmisvalvonnan niin, että valvoja voi ja osaa ohittaa suosituksen. Työnantaja seuraa tuloksia käytön aikana ryhmittäin ja kertoo hakijoille, että järjestelmää käytetään. Syrjintäkiellot sitovat työnantajaa riippumatta siitä, kuka mallin teki.

Lähteet