Euroopan parlamentti äänestää tällä viikolla omasta näkemyksestään tekoälyn sääntelyyn. Kyseessä on viimeinen etappi ennen EU:n kolmikantaneuvotteluja, joissa komissio, neuvosto ja parlamentti muodostavat yhdessä EU:n lopullisen kannan tekoälyn sääntelyyn.
EU:n tekoälyasetusta on sorvattu jo yli kaksi vuotta. Tekoälyasetuksen käsittelyssä alusta lähtien mukana ollut työ- ja elinkeinoministeriön asiantuntija Kristine Alanko arvioi, että asetuksen yksityiskohdat muuttuvat vielä, mutta sääntelyn suuntaviivat ovat tiedossa.
Näistä suuntaviivoista piirtyy riskiperustainen ja käyttötapauskohtainen lähestymistapa tekoälyn käyttöön ja kehittämiseen. Asetus jakaa tekoälyjärjestelmät neljään riskiluokkaan, joiden kautta jokaista käyttötapaa arvioidaan.
Tässä jaottelussa kiellettyjä käyttötapoja ovat todennäköisesti esimerkiksi ihmisten manipulointi, sosiaalinen pisteyttäminen tai biometrinen valvonta eli ihmisten koneellinen tunnistaminen. Äärimmäisen vakavien rikosten kohdalla biometriseen tunnistamiseen saatetaan kuitenkin tehdä poikkeuksia. Kaikki on vielä auki.
Korkean riskin luokkaan kuuluvat puolestaan vaikkapa opiskelupaikan myöntämiseen tai työnhakijan arviointiin käytettävät järjestelmät. Tällaisilta järjestelmiltä asetus vaatisi suurempaa läpinäkyvyyttä.
– EU haluaa keskittyä erityisesti tapauksiin, joissa tekoäly voi aiheuttaa merkittävää haittaa ihmisten terveydelle, turvallisuudelle tai perusoikeuksien toteutumiselle, Alanko kertoo.
Riskiluokituksen alimmat tasot muodostuvat rajoitetun ja vähäisen riskin luokista, joissa järjestelmien kehittäjille ja käyttäjille suunnatut velvoitteet ja vaatimukset ovat kevyempiä.
Kaiken taustalla on tavoite luoda Eurooppaan ympäristö, jossa kukoistavat niin tekoälyyn liittyvät kaupalliset tavoitteet kuin kansalaisten ihmisoikeudet.
Teknologinen kehitys on synnyttänyt sääntelyvelkaa
EU on viimeisen kymmenen vuoden aikana profiloitunut teknologian sääntelijänä. Vuonna 2016 voimaan tullut EU:n yleinen tietosuoja-asetus GDPR sai tänä vuonna seuraa EU:n digimarkkinasäädöksestä ja digipalvelusäädöksestä.
Tekoälyn yhteiskunnallisia ja oikeudellisia vaikutuksia tutkiva apulaisprofessori Riikka Koulu Helsingin yliopiston oikeustieteellisestä ja valtiotieteellisestä tiedekunnasta sijoittaa EU:n tekoälyasetuksen luontevasti tämän kehityksen jatkeeksi.
Tekoälyasetuksessa onkin Koulun mukaan kyse laajemmin yhteiskunnan digitalisoitumisesta. Nopeasti edennyt teknologinen kehitys on jättänyt niin sanottua sääntelyvelkaa.
– Iso ongelma on, että meillä ei ole yleistä tietojärjestelmäsääntelyä. Meiltä puuttuu tapa hahmottaa oikeudellisesti tietojärjestelmä kokonaisuutena, Koulu toteaa.
Tähän asti tietojärjestelmien eri osia on säännelty monella eri tavalla. Esimerkiksi algoritmien toimintaan on puututtu sektorikohtaisella lainsäädännöllä verkkokaupassa, julkisissa palveluissa sekä liikenne- ja energiasektoreilla. Lisäksi myös tietosuoja ja perusoikeudet määrittävät algoritmien toimintaa, mutta vain osittain.
Nyt EU pyrkii korjaamaan tätä tilannetta tekoälyasetuksella, jonka tarkoituksena on luoda sektorikohtaisen sääntelyn sijaan yleislainsäädäntö, joita noudatetaan alalla kuin alalla. Jotta tämä lähestymistapa voi toimia, lainsäätäjien on kyettävä määrittelemään tarkasti, mitä he tarkoittavat tekoälyllä.
Ja tässä tullaan yhteen lakiesityksen kiistellyimpään kohtaan. Tekoälytutkijat katsovat asiaa oman alansa kehityksen kautta. Tästä vinkkelistä tekoäly karkaa aina määritelmältä. Tekoälyä on kaikki, mikä ei vielä toimi. Kun se toimii, siitä tulee esimerkiksi roskapostifiltteri tai kasvojentunnistusohjelmisto.
– Mutta lainsäätäjällä on intressi, että lainsoveltamisala on selkeärajainen. Joku määritelmä siellä pitää olla, jotta eri toimijat tietävät soveltuuko tämä heidän toimintaansa vai ei, Koulu huomauttaa.
Koulu kehottaa tutkijoita lukemaan tekoälyn määritelmän osana kokonaisuutta, johon kuuluvat riskit ja käyttötavat. Tällöin määritelmäkysymys ei hänen mukaansa ole sääntelykehikossa enää niin ongelmallinen.
Tekoälyasetuksen laajuus huolestuttaa tekoälytutkijaa
Kaikki eivät ole valmiita ohittamaan määrittelyä kokonaisuuden puolesta. Helsingin yliopiston tietojenkäsittelytieteen professori ja Suomen tekoälykeskus FCAI:n varajohtaja Petri Myllymäki sanoo, että EU:n lähtökohta luoda sääntely tekoälyn määrittelyn varaan on väärä.
Myllymäki huomauttaa, että shakkia pelaavan, kasvoja tunnistavan, autoa ohjaavan, verkkohakuja tekevän tai tekstiä tuottavan tekoälyn taustalla on eri teknologioita, puhumattakaan tulevaisuuden sovelluksista.
– Joka vuosikymmen eri menetelmät ovat suosiossa. EU:n tekoälyasetuksen perimmäinen valuvika on se, että yritetään eksplisiittisesti määrittää, mitä tämä teknologia on, Myllymäki toteaa.
Yleisesti Myllymäki pitää hyvänä, että tekoälyjärjestelmien kehitykseen ja käyttöön luodaan säännöt. Nykyinen toimintaympäristö muistuttaa liikaa villiä länttä.
Hän kuitenkin toivoo, että sääntelyä olisi lähdetty laatimaan enemmän sektorikohtaisesti ja teknologiariippumattomasti. Yksinkertaistettuna veitsen määrittämisen sijaan kiellettäisiin puukottaminen.
– Jos tekoälyasetuksessa kielletään jonkin asian tekeminen tekoälyllä, niin herää kysymys, että onko tämä sallittu, jos se tehdään jollain muulla tavalla, Myllymäki pohtii.
Myllymäki myöntää, että tekoälyjärjestelmillä on kykyjä, joita ihmiskunnalla ei ole aikaisemmin ollut. Uusien kykyjen mukana tulee myös uusia riskejä ja tekoälyjärjestelmien myötä nämä riskit levittäytyvät laajalle alalle.
Kaikkien ongelmien taklaaminen yhdellä lainsäädännöllä on Myllymäen mielestä kuitenkin haastavaa. Tämä näkyy myös prosessissa.
– Tässä [parlamentin esityksessä] on nyt 150 sivua tekstiä ja se on aika hankalasti luettavaa. Ja muutoksia tullut yli kahden vuoden aikana ymmärtääkseni yli 3 000 ja ne ei kaikki vie aina eteenpäin, Myllymäki sanoo.
– Voidaan kysyä, että onkohan tästä tulossa sellainen selkeä pelikenttä, jota EU tavoittelee.
Suomessa tekoäly on laskenut verokortteja jo vuosikymmeniä
EU:n kunnianhimoisen lainsäädännön kehitys on ollut mutkikasta ja poukkoilevaa. Valmistelutyön aikana tekoälysovellukset ja niiden pohjalla oleva teknologia ovat ottaneet valtavia harppauksia, mikä on pakottanut EU-päättäjät ottamaan reaktiivisen lähestymistavan säädäntötyöhön.
Kun amerikkalaisen tekoäly-yhtiö OpenAI:n Chat GPT -sovellus avautui suurelle yleisölle vuoden vaihteessa, lainsäätäjät huomasivat, etteivät yleiskäyttöiset tekoälyjärjestelmät istuneet tiettyyn käyttötarkoitukseen kohdistuvaan riskiajatteluun.
Chat GPT:n ilmestyminen sai Euroopan neuvoston lisäämään omaan esitykseenä maininnan yleiskäyttöisistä tekoälyjärjestelmistä, joihin kohdistuisi läpinäkyyys- ja dokumentaatiovaatimuksia. Parlamentti puolestaan lisäsi omaan esitykseensä määritelmän perustamalleista.
Tekoälyn määritelmä laajeni taas hieman.
Määritelmä on elänyt prosessin aikana myös toiseen suuntaan. Komission esityksessä sääntelyn piiriin sisältyivät automatisoidussa päätöksenteossa käytetyt järjestelmät.
Suomessa julkisessa hallinnossa on käytetty automaattista päätöksentekoa vuosikymmeniä. Esimerkiksi suomalaisten verokortit on laskettu automaattisesti 1980-luvulta lähtien. Tosin ilman asianmukaista lainsäädäntöä. Lainsäädäntö automaattisesta päätöksenteosta vahvistettiin Suomessa kolme kuukautta sitten.
Suomi on toivonut, että automatisoitu päätöksenteko jätettäisiin asetuksen ulkopuolelle. Jäsenmaista muodostuvan Euroopan neuvoston kannassa näin olikin, mutta nyt Euroopan parlamentti on sisällyttänyt menetelmän uudelleen tekstiin.
– Tekoälyn määritelmä tuntuu elävän prosessissa niin, että siitä tehdään niin lavea, että tekoälyä on kaikki, Myllymäki sanoo.
Jos parlamentin kanta toteutuu, EU:n tekoälyasetus ajaa Suomen kansallisen lain yli. Tämä ei tarkoita sitä, etteikö verottaja voisi enää laskea automaattisesti verokortteja, mutta velvollisuuksien määrä kasvaisi.
Epätietoisuus hidastaa investointeja ja varjostaa tutkimusta
Pitkä ja poukkoileva prosessi on luonut epävarmuutta eurooppalaisten tekoäly-yritysten keskuudessa, sanoo suomalaisen tekoäly-yritys Silo AI:n toimitusjohtaja Peter Sarlin. Hän pitää tekoälyn sääntelyä erittäin tervetulleena, mutta yritysten maksama hinta epätietoisuudesta alkaa olla kova.
– Olemme olleet useita vuosia tilassa, jossa emme tiedä, minkä puitteissa me teemme esimerkiksi isoja investointipäätöksiä. Se ei ole järkevää, Sarlin sanoo.
Päällimmäisenä huolena tällä hetkellä on perustamallien kohta. Nämä laajoilla data-aineistoilla koulutetut koneoppimismallit luovat pohjan esimerkiksi Chat GPT:n kaltaisille sovelluksille.
– Suuret mallit tuovat täysin uusia ulottuvuuksia keskusteluun ja tämä on juuri se pelko, joka monella yrityksellä on, että miten viime kädessä esimerkiksi näitä suuria kielimalleja tullaan käsittelemään, Sarlin toteaa.
Saman pelko vallitsee myös tutkijoiden keskuudessa. Turun yliopiston tietotekniikan laitoksen yliopistotutkija Sampo Pyysalo pitää erittäin huolestuttavana ajatusta, että perustamallit päätyisivät sellaisenaan korkean riskin luokkaan.
Pyysalo on mukana Turku NLP -tutkimusryhmässä, joka keväällä loi suurimman suomenkielisen Fin GTP -kielimallin.
– Meidän tarkoitus on edistää avoimien mallien avulla suomenkielisen tekoälyn kehitystä. Tämä toimintatapa muuttuisi mahdottomaksi, jos pitäisi mennä sertifiointiprosessin läpi ja sulkea mallit ohjelmointirajapinnan taakse, Pyysalo pohtii EU:ssa kaavailtuja vaatimuksia.
Pyysalo pitää kuitenkin tekoälyn sääntelyä tarpeellisena.
– Tällä hetkellä me toivomme, että meidän työtä ei tehtäisi mahdottomaksi.
Amerikkalaiset teknologiajätit uhkaavat jättää Euroopan
Jos eurooppalaisten yritysten ja tutkijoiden työ hankaloituu liikaa, vaarana on, että muu maailma karkaa lopullisesti teknologisessa kilpajuoksussa. Juuri tästä syystä EU:n tekoälyasetuksen pitäisi tukea mahdollisimman paljon omien mallien ja järjestelmien kehittämistä, sanovat Pyysalo ja Sarlin.
Tällä hetkellä Eurooppa on riippuvainen amerikkalaisista teknologiayrityksistä.
OpenAI:n toimitusjohtaja Sam Altman on vihjaillut, että yhtiö voi vetää palvelunsa pois EU-alueelta, jos EU:n tekoälyasetus asettaa sille epämieluisia vaatimuksia. Teknologiayhtiö Google jätti puolestaan EU:n suoraan oman Bard-teköälysovelluksen ulkopuolelle keväällä.
– Kyllähän tämä nostaa eurooppalaisen suvereniteetin esille. Eli että meillä on omia kielimalleja, joita voidaan Euroopassa hyödyntää ja että Euroopassa kehitetään myös omaa teknologiaa näihin liittyen, Sarlin sanoo.
Helsingin yliopiston apulaisprofessori Riikka Koulu muistuttaa, että geopolitiikalla on iso rooli, kun puhutaan innovaatiopolitiikasta ja teknologiasääntelystä. Tämä näkyy parlamentin luonnoksessa mainintoina kilpajuoksusta Kiinan ja Yhdysvaltojen kanssa.
– Globaalissa keskustelussa EU yrittää nyt brändätä itseään niin, että täällä digitalisaatiota edistetään perusoikeuksia kunnioittavalla ja luotettavalla tavalla, toisin kuin muualla, Koulu sanoo.
Brändityö näkyy siinä, että tuotesääntelynä alkanutta asetusta myydään kansalaisille perusoikeuksien suojana. Tämä ei Koulun mukaan ole aivan ristiriidatonta.
– Minkä verran ohjelmistotuotteiden sertifioinneilla voidaan oikeasti puolustaa näitä perusoikeuksia?
Katso Ylen aamun keskustelu EU:n tekoälyasetuksesta: