Generatiivinen tekoäly löi toden teolla läpi 2023, kun Chat GPT ja monet kuva- ja äänityökalut tulivat lähes kenen tahansa ulottuville. Tämä tarkoitti myös tekoälyllä tuotetun disinformaation räjähdysmäistä kasvua. Tätä tulikin povattua jo edellisessä Valheenpaljastaja-sarjan vuosikoosteessa 2022, eikä ole vaikea arvata, että sama kehitys jatkuu myös vuonna 2024. Deepfake-videoiden ja uskottavan synteettisen äänen tekemisestä tulee jatkossa entistäkin helpompaa ja tuloksista huomattavan aidon kaltaisia.
1. Teksti: Valeuutissivustojen paluu
Chat GPT:n kaltaiset tekstigeneraattorit ovat tehneet suhteellisen sujuvan ja loogiselta vaikuttavan tekstin tuottamisesta niin helppoa ja nopeaa, että se on aiheuttanut valeuutissivustojen ja muiden huijaussaittien uuden tulemisen.
Valeuutisten kulta-aika nähtiin vuosina 2015–16, kun verkkoon ilmaantui suuri määrä sivustoja, jotka imitoivat journalismia, mutta jättivät tyystin noudattamatta sen etiikkaa. Ne yhdistelivät usein tosiasioita sepitteeseen tai voimakkaan mielipiteelliseen sisältöön. Suomessa ja monissa muissa Euroopan maissa nämä sivustot olivat usein räikeän rasistisia ja maahanmuuttovastaisia.
Laaja julkinen keskustelu valeuutisista johti siihen, että ihmiset alkoivat suhtautua kriittisemmin sosiaalisessa mediassa kohtaamiinsa linkkeihin. Sivustot menettivät suosiotaan myös siksi, että someyhtiöt alkoivat rajoittaa niiden näkyvyyttä ja lisätä linkkien yhteyteen faktantarkistajien varmistamaa tietoa.
Nyt tilanne on taas muuttunut. Vaikka esimerkiksi Chat GPT:n käyttöä on pyritty rajoittamaan siten, että sitä ei voitaisi käyttää salaliittoteoria- tai propagandakoneena, monenlaisen harhaanjohtavan sisällön luominen on silti mahdollista. AI-pohjaista disinformaatiota kartoittavan News Guardin mukaan kymmenet sivustot ovat keksineet syöttää tekstigeneraattoreille todellisia uutisia, ja ovat sitten julkaisseet uuden tekoälyversion välittämättä sen enempää faktojen pitävyydestä kuin tekijänoikeuksistakaan.
News Guard oli joulukuuhun 2023 mennessä löytänyt yli 600 uutta valeuutissivustoa, joissa kaikki tai osa sisällöstä oli tuotettu generatiivisen tekoälyn avulla. Yritys seuraa tekoälyvaleuutisia 15 eri kielellä. Jotkut sivustoista ovat julkaisseet satoja artikkeleita, joiden tarkoitus on huijata lukijaa uskomaan, että kyse on aidosta uutisesta. Sivustot on tyypillisesti nimetty siten, että ne kuulostavat uutissivustoilta, kuten iBusiness Day tai Ireland Top News. Ne tekevät rahaa mainosnäytöillä, mutta osalla on poliittiset motiivit.
Jotkut sivustot julkaisevat rinnakkain tekoälyn generoimia sepitteitä ja todellisia uutisia tai todellisten ihmisten kirjoittamia mielipidetekstejä. Tällainen sekoittaminen lisää tekoälyartikkeleiden uskottavuutta.
2. Kuvat: Feikkivalokuvien luominen on helpompaa kuin koskaan
Räjähdys Pentagonissa, paavi Balenciagan toppatakissa, Trumpin pidätys, Ranskan presidentti Emmanuel Macron mielenosoittajien kourissa… Tässä muutamia esimerkkejä viraaleista kuvista, jotka vaikuttivat varsin aidoilta. Kaikki oli tehty tekoälytyökaluilla.
Esimerkiksi paavin takkikuvan tekijä postasi kuvan alun perin Facebook-ryhmään, jonka nimi on AI Art Universe. Hän ei siis yrittänytkään väittää kuvaa aidoksi. Trumpin ja Macronin kuvia taas loihti disinformaation paljastamisesta tunnetun Bellingcatin perustaja Eliot Higgins, joka halusi osoittaa, miten helposti Midjourneya pystyisi käyttämään väärän tiedon levittämiseen. Tästäkin huolimatta kaikkia näitä kuvia levitettiin myös ilman alkuperäistä kontekstia.
Ei tarvitse kuin kirjoittaa tarpeeksi tarkka ohjeistus, ja valmiina on uutiskuva tilanteesta, jota ei koskaan tapahtunut.
Midjourneyn ja Dall-E:n kaltaiset kuvatyökalut löivät läpi vuoden 2023 aikana. Niillä pystyy luomaan ennennäkemättömän uskottavia kuvia, jotka menevät monelle läpi aidosta valokuvasta. Ei tarvitse kuin kirjoittaa tarpeeksi tarkka ohjeistus, ja valmiina on uutiskuva tilanteesta, jota ei koskaan tapahtunut.
Deepfake-videoiden kehityksessä ei vielä ole tapahtunut vastaavaa läpimurtoa kuin tekoälykuvissa. Uskottavan oloisia deepfake-videoita on kyllä jo täysin mahdollista tehdä, mutta Midjourneyn kaltaisia ilmaisia ja laadukasta jälkeä tekeviä palveluita ei vielä ole aivan kaikkien ulottuvissa.
Kun tekoälykuvia katsoo hieman tarkemmin, niistä pystyy useimmiten päättelemään, että kuva ei ole aito valokuva. Harva kuitenkaan pysähtyy kuvien äärelle internetin loppumattomassa sisältövirrassa.
Tekoälykuvat näyttävät usein liioitellun täydellisiltä ja siloitelluilta, mutta ihmisten ilmeet ovat usein outoja.
Kuvatyökalut esimerkiksi tekevät edelleen paljon virheitä yksityiskohdissa, kuten kuvien taustoista löytyvissä esineissä tai missä tahansa, jossa näkyy tekstiä. Vaikkapa mielenosoitusbanderollien teksti saattaa olla silkkaa siansaksaa. Kannattaa myös katsoa hahmojen käsiä: tekoäly saattaa vääntää niitä outoihin asentoihin tai lisätä sormia. Käsien tekemistä on tosin parannettu työkalujen tuoreemmissa versioissa.
Kannattaa myös opetella tunnistamaan tietty “tekoäly-estetiikka”. Tekoälykuvat näyttävät usein liioitellun täydellisiltä ja siloitelluilta, mutta ihmisten ilmeet saattavat olla outoja. Tämä näkyy esimerkiksi suomenkielisessä X:ssä (entinen Twitter) levinneissä kuvissa, joissa avustustyöntekijät syöttävät puuroa turvapaikanhakijamiehille.
Toinen kotimainen esimerkki löytyy entisen perussuomalaisten kansanedustajan Reijo Tossavaisen X-tililtä. Tossavaisen jakamassa kuvassa on suuri joukko miehiä polkupyörien kanssa Suomen “rajapuomin takana”. Kuva herätti välittömästi muiden X-palvelun käyttäjien epäilyt.
3. Audio: Kenen tahansa äänen voi nyt varastaa
Synteettisen äänen läpilyöntiä on veikkailtu jo pitkään, mutta 2023 se näyttää viimein tapahtuneen.
Tekoälyn nopea kehitys on tuonut uusia yrittäjiä myös audiomarkkinoille. Tällainen firma on esimerkiksi Elevenlabs, jonka työkaluilla tuotettiin viraalia feikkiääntä esimerkiksi Tiktokiin.
News Guardin syyskuussa julkaisema raportti kuvailee 17 tilin verkostoa, joka on tuottanut tuhansia salaliittoteoriavideoita Tiktokiin. Videot ovat keränneet yhteensä yli 336 miljoonaa näyttöä ja 14,5 miljoonaa tykkäystä. Osassa videoista on käytetty AI-versiota tunnettujen ihmisten, kuten Barack Obaman, äänestä. Tällaisella videolla feikki-Obama kommentoi kokkinsa kuolemaa. Videolla väitetään, että entisellä presidentillä olisi jotain tekemistä kokin menehtymisen kanssa.
Tiktokin omien sääntöjen mukaan aidolta vaikuttavat tekoälysisällöt täytyy merkitä näkyvästi, mutta näissä videoissa ei merkintää ollut. Onkin epätodennäköistä, että tarkoituksellisesti disinformaatiota levittävät tahot alkaisivat merkitä sisältöään feikiksi, joten Tiktok kokeilee myös työkaluja, jotka tunnistaisivat ja merkitsisivät tekoälysisältöä automaattisesti.
Elevenlabsin ilmaisen työkalun ilmeinen disinformaatiopotentiaali tajuttiin myös 4chan-foorumilla, jonka käyttäjät laittoivat näyttelijä Emma Watsonin AI-äänen lukemaan otteita Adolf Hitlerin kirjasta Taisteluni.
Suomestakin löytyy esimerkki synteettisen äänen käytöstä. Verkossa liikkuu presidenttiehdokas Mika Aaltolasta tehty satiirinen video, jossa Aaltolan valeääni kertoo tämän olevan CIA:n agentti.
Elevenlabs on vastannut kritiikkiin julkaisemalla työkalun, joka tunnistaa, onko ääni luotu firman tekoälyteknologialla. The New York Timesin mukaan työkalua on helppo hämätä esimerkiksi lisäämällä musiikkia tai vääristämällä ääntä hiukan.
Tunnettu brittinäyttelijä Stephen Fry varoitti syksyllä tekoälyäänten vaaroista. Hän kertoi, että hänen äänensä oli “varastettu” Harry Potter -äänikirjoista ja sitä oli käytetty dokumentin kertojaäänenä ilman lupaa. Fry oli huolissaan siitä, mihin kaikkeen hänen feikkiääntään voitaisiin käyttää: sen voisi laittaa lukemaan mitä tahansa tekstiä.
Lauluäänikään ei ole huijarien ulottumattomissa. Frank Oceanin fanit innostuivat, kun jostain oli yhtäkkiä löytynyt uusia kappaleita. Jotkut fanit ostivat tekoälyllä tehtyjä Ocean-feikkejä tuhansilla euroilla.
Huijarit voivat hyötyä myös vähemmän tunnettujen ihmisten äänistä. Vuonna 2023 Yhdysvalloissa yleistyivät huijauspuhelut, joissa esimerkiksi lapsenlapsi kertoi olevansa pulassa ja pyysi rahaa isovanhemmiltaan.
Tämä on mahdollista, koska nykyteknologia tarvitsee vain hyvin lyhyen ääninäytteen luodakseen melko vakuuttavan tekoälyversion kenen tahansa äänestä.