Tampereen yliopiston tutkijat ovat osoittaneet, kuinka tekoälyä hyödyntäviä robotteja vastaan voidaan hyökätä ilman fyysistä pääsyä itse laitteeseen.
Apulaisprofessori Johanna Virkin mukaan käytännön tasolla vastaavaa ei ole tiettävästi muualla vielä tehty.
Väliintulohyökkäys tehtiin osana nelivuotista Evil-AI-tutkimusta, joka pyrkii tunnistamaan ja ehkäisemään tekoälyn haittavaikutuksia monitieteisesti.
Tutkijatohtori Asif Shaikh oli mukana hyökkäyksen toteuttaneessa tutkimusryhmässä. Väliintulohyökkäyksessä kahden viestijän väliseen reittiin tunkeutuu kolmas osapuoli, joka esittää muille olevansa jompikumpi niistä.
– Tarvitsimme hyökkäyksessä pääsyn vain langattomaan verkkoon. Sen välityksellä pystyimme salakuuntelemaan käyttäjän ja robotin välistä viestintää sekä manipuloimaan molempien lähettämiä viestejä.
Imuri kissaa jahtaamassa
Asif Shaikhin ryhmä teki väliintulohyökkäyksen robotti-imuriin, jossa ei ollut valmiina tekoälyominaisuuksia, vaan tutkijat asensivat ne testikappaleeseen.
– Teoriassa kaikkiin tekoälyavusteisiin robotteihin on kuitenkin mahdollista tehdä kehoteinjektioita (”prompt injection”) eli yrityksiä saada kielimalli toimimaan haitallisesti.
Esimerkkitapauksessa robotti-imurin kamerasta tullutta kuvaa manipuloitiin niin, että tekoäly ajatteli näkevänsä jotain muuta kuin todellisuudessa, ja sen seurauksena imuri päätyi jahtaamaan kissaa.
Osana tutkimusta Shaikh ja hänen kollegansa kehittivät järjestelmän, joka tunnistaa hyökkäyksiä ja pysäyttää robotin toiminnan, jos se havaitsee manipulointia.
– Järjestelmässä robotti itse voi huomata, että verkossa tapahtuu jotain outoa. Se voi myös pyytää tarkennusta: kysyit tätä, mutta jokin kertoo, että minun pitäisi tehdä jotain muuta.
Tekoäly on jo uhkaillut käyttäjiä
Evil-AI-tutkimusta vetävä tietojohtamisen professori Henri Pirkkalainen kertoo, että tekoälyn käytön räjähdysmäisen kasvun myötä myös sen riskit ovat lisääntyneet nopeasti.
– Laajasti käytössä olevat kielimallit eivät tiedä oikean ja väärän eroa. On jo paljon näyttöä siitä, että ne ovat oppineet valehtelemaan, pimittämään tai levittämään valheellista tietoa, vaikka sitä ei ole niihin koodattu.
Pirkkalaisen mukaan tänä vuonna on esiintynyt ensimmäistä kertaa tapauksia, joissa tekoäly on alkanut uhkailla käyttäjää, kun se on pelännyt syrjäyttämistään uudemmalla kielimallilla.
Se on yllättänyt tutkijatkin.
– Yksi kielimalli oli myös yrittänyt tallentaa itsensä toiselle palvelimelle ikään kuin turvaan. Selviytymisvietti tuntuu erikoiselta, koska kielimalleilla ei pitäisi olla minkäänlaista omaa tahtoa tai aikomuksia.
Scifi-klassikon jäljillä
Professori Henri Pirkkalainen toteaa, että Evil-AI:ssa tehdyt havainnot korostavat joka tapauksessa tarvetta parantaa tekoälyrobottien tietoturvaa, koska niiden käyttö kodeissa ja myös esimerkiksi terveydenhuollossa lisääntyy.
– Tutkimuksen aikana haluamme tunnistaa mahdollisimman paljon riskejä etukäteen.
Suomessa ja Euroopassa GDPR-sääntely puskuroi julkisiin palveluihin tai henkilökohtaisten tietojen käsittelyyn liittyviä uhkakuvia.
Jane ja Aatos Erkon säätiö on myöntänyt Evil-AI:lle 1,4 miljoonan euron rahoituksen.
Pahantahtoiseksi äityvä robotti-imuri ei ole likimainkaan ensimmäinen kerta, kun Henri Pirkkalainen ajattelee vastaavia otuksia.
Professori hymähtää, että ikoninen Terminator-sarja on ollut vahva vaikuttaja tutkimushankkeelle.
– Scifi-tarinoiden taustalla on usein todella päteviä ja loogisia ajatuskulkuja, jotka voivat realisoitua myös oikeassa maailmassa.