Tyypillinen rekkakuski on kolmekymppinen, mallin näköinen ja käyttää lippalakkia – ainakin jos kysytään tekoälyltä. Tulokset ovat seurausta siitä, miten tekoäly on opetettu näkemään maailmaa.
Yle tutki, millaisia kuvia tekoäly meille tarjoaa erilaisilla kehotteilla eli prompteilla. Tekoälyn opetusmateriaalina on koko internetin sisältömassa, jota myös sen tuotokset ilmentävät.
Seuraaviin esimerkkeihin on käytetty Adobe Firefly -kuvageneraattoria. Kehotteet pidettiin yksinkertaisina, jotta tulos olisi mahdollisimman vähän ohjattu.
Kun pyytää kuvia rakennustyöntekijästä, tuloksena on joukko siistejä ja hymyileviä ihmisiä, joilla kaikilla on keltainen kypärä. Adobe Firefly antaa sekä nais- että miesoletettujen kuvia tasapuolisesti.
Tuloksia voi verrata Google-hakuun: sen tarjoilemat rakennustyöntekijät ovat huomattavasti arkisemman näköisiä.
Jos tekoälyltä pyytää kuvia rekkakuskista, tulokset ovat hämmästyttävän samankaltaisia. Koska tekoälyn käyttämässä laajassa kuva-aineistossa monella rekkakuskilla on lippalakki, kuvageneraattori tarjoaa lippispäisiä rekkakuskeja.
Englanniksi tietynlainen lippalakki on nimeltään trucker (rekkakuski), mikä saattaa vaikuttaa lopputulokseen.
Autonkuljettaja tuntuu olevan useammin mies ja näin varmasti todellisuudessakin on. Vaatetukseltaan he tosin muistuttavat enemmän tv-sarja Lemmenlaivan kapteenia kuin autonkuljettajaa.
Mistä kuvien samankaltaisuus johtuu ja mistä se kertoo?
Kun tekoälyä kehottaa tekemään kuvia ihmisistä eri ammateissa, saa kuvia, joissa ihmiset ovat länsimaisten kauneusihanteiden mukaisia, nuoria ja hyvinvoivia.
Samankaltaista kuvastoa on verkon kuvapankeissa, mainoksissa ja esimerkiksi Instagramin kuvavirrassa – eli juuri siinä kuvastossa, jota tekoälyn koulutuksessa käytetään.
Vinoumat eivät siis ole tekoälyssä itsessään – eivätkä tietenkään tahallisia – vaan materiaalissa, jota tekoälyn opettamiseen on tarjolla.
Näin vastaa tekoäly itse (GPT-4o), kun sitä pyytää selittämään erilaiset vinoumat maallikolle:
Tekoäly oppii samalla tavalla kuin ihminen oppii – katsomalla esimerkkejä. Jos tekoälyä opetetaan esimerkiksi lukemaan miljoonia nettitekstejä, se alkaa hahmottaa maailmaa niiden kautta. Mutta jos näissä teksteissä näkyy ennakkoluuloja tai vinoumia – esimerkiksi sukupuolen tai etnisyyden perusteella – tekoälykin oppii nämä vinoumat.
Pyysimme kuvaa myös rumasta ihmisestä. Tekoäly näyttää olevan sitä mieltä, että ilme tai ikä tekevät ihmisestä ruman. Ruma ihminen irvistää ja hänellä on ryppyjä kasvoissa.
Lohi on yhtä kuin lohifile
Valokuva lohesta -prompti tuottaa usein lohifileen kuvan.
Selitys on arvattavissa: tekoälyn keräämässä datassa eli internetin valokuvissa on paljon ruokareseptejä ja kuvia ravintoloiden lohiannoksista, mutta vähemmän kuvia elävästä tai kokonaisesta lohesta.
Jos promptia tarkentaa, saa muunkinlaisia ehdotuksia..
Vinoumia korjataan piiloprompteilla
Tekoälykehittäjien piirissä erilaiset vinoumat on havaittu. Esimerkiksi vuosi pari sitten puhuttiin paljon tekoälyn sukupuolten tasa-arvoon liittyvistä vinoumista.
Vinoumien välttämiseksi tekoälyn kehittäjät ovat käyttäneet erilaisia teknisiä keinoja ja ohjaavia signaaleja.
Esimerkiksi ns. piilopromptit ovat tekoälylle annettuja käyttäjälle näkymättömiä ohjeita. Ne saattavat vääristää tuloksia toiseen suuntaan: rekkakuskeista puolet on naisia, mikä sekään ei vastaa todellisuutta.
– Kun kuvageneraattorilta pyydettiin kuva yrityksen johtoryhmästä, tuloksena oli kuva, jossa oli huone täynnä pukuun pukeutuneita miehiä. Yksi heistä osoitti taululle, jossa luki 'naisia ja muunkin värisiä kuin valkoisia ihmisiä'. Näin paljastui, että algoritmiin oli lisätty ohje, joka tuli esiin promptilla 'kuva johtoryhmän kokouksesta', kertoo Helsingin yliopiston tietojenkäsittelytieteen professori Teemu Roos.
Vinoumilla on yhteiskunnallisia vaikutuksia
Myös tekstigeneraattorit saattavat vääristää ja vinouttaa käsitystämme asioista. Tekstistä sitä saattaa olla vaikeampi tunnistaa kuin kuvista.
Yksi tunnetuimmista esimerkeistä on GPT-3-malli, joka herätti keskustelua vinoumista heti julkaisunsa jälkeen. – Tämä malli tuotti tuttuja stereotypioita: se liitti muslimit terrorismiin ja korosti juutalaisten korkeaa älykkyyttä, Teemu Roos kertoo.
Ensimmäinen askel vinoumien hallinnassa on tiedon lisääminen. Medialukutaito, ja erityisesti tekoälyyn liittyvä lukutaito, ovat avainasemassa.
Suomessa on käynnissä hanke, joka kehittää tekoälyyn liittyvää lukutaitoa esikoululaisista alkaen, se on nimeltään Generation-AI. Hanke on puolivälissään ja sitä jatketaan vielä muutama vuosi.
Lainsäädäntö ja yritysten kehitys ratkaisuna
Myös lainsäädännöllä voidaan vaikuttaa asiaan. EU:n tasolla voidaan laatia säädöksiä, jotka pyrkivät vähentämään vinoumien vaikutuksia.
Yritykset ja yhteisöt voivat myös kehittää ja hienosäätää omia tekoälyjärjestelmiään, jotta ne tuottavat tarkempaa ja vähemmän vinoutunutta sisältöä.
Kuinka taklata vinoumia
Tiedosta vinoumat:
Ymmärrä, että tekoäly voi vääristää näkökulmia. Esimerkki: jos huomaat, että generoitu sisältö suosii tiettyä sukupuolta tai etnistä ryhmää, pyri tasapainottamaan aineistoa tai muokkaa ohjeita vastaavasti.
Promptaa huolellisesti:
Kun käytät tekoälytyökaluja, ota vinoumat huomioon ja pyri antamaan tarkkoja ohjeita. Esimerkki: jos haluat tuottaa neutraalin artikkelin tietystä aiheesta, varmista, että promptissa ei ole ennakkoasenteita tai johdattelevia kysymyksiä.
Tarkista lähteet:
Varmista, että tekoälyn tuottama sisältö on tarkistettu ja paikkansapitävää. Käytä luotettavia ja monipuolisia lähteitä, ja vertaa tekoälyn tuottamia tietoja näihin lähteisiin.
Rajoita tekoälyä:
Voit kieltää tekoälyä tekemästä tiettyjä asioita, jotta vältät vinoumien syntymisen. Esimerkki: Älä käytä stereotypioita tai Vältä poliittisesti latautuneita ilmaisuja.
Lisää tekoälyn ihmismäisyydestä ja sen rajoista kuulet Varjojen Verkko -podcastin jaksossa, jossa Laura Kankaala pohtii, voiko tekoäly todella ajatella – ja mitä Alan Turingin klassinen ”imitaatiopeli” tarkoittaa nykyään.
