Tasan kahdeksan vuotta sitten hakukoneyhtiö Google kertoi aloittaneensa yhteistyön Yhdysvaltojen puolustusministeriön kanssa. Google alkoi auttaa armeijaa ihmisten ja kohteiden tunnistamisessa. Tunnistamisen apuna käytettiin miehittämättömien lennokkien kuvaamia videoita.
Nykymittapuulla kuvantunnistustehtävä ei kuulosta radikaalilta. Kahdeksan vuotta sitten Maven-projekti herätti kuitenkin valtavaa vastustusta teknologiayhtiön työntekijöiden keskuudessa. Sen katsottiin raivaavan tietä autonomisille asejärjestelmille.
Lyhyessä ajassa yli 3 000 googlelaista oli allekirjoittanut vetoomuksen yhteistyön lopettamiseksi. Useat ihmiset erosivat Googlen palveluksesta vastalauseena.
Painostus toimi, ja kesällä 2018 Google ilmoitti, ettei se jatka yhteistyötä Yhdysvaltojen puolustusministeriön kanssa.
Tekoälyn käytön rajoittaminen ”laillisiin tehtäviin” ei riitä Anthropicille
Googlen ongelmat Maven-projektin kanssa nousivat esille keväällä, kun tekoäly-yhtiö Anthropic ja Yhdysvaltojen puolustusministeriö ajautuivat riitaan tekoälyn käytöstä autonomisissa asejärjestelmissä ja massavalvonnassa.
Tekoälymallien kehityksessä kärkipaikalle noussut Anthropic katsoo, että sillä pitäisi olla mahdollisuus rajoittaa yhtiön kehittämän Claude-tekoälyn käyttötapoja – myös silloin, kun käyttäjä on puolustusvoimat.
Pääasiassa Anthropic haluaa kieltää Clauden käytön yhdysvaltalaisten massavalvonnassa. Oikeisiin tietolähteisiin yhdistettynä Clauden avulla viranomaiset kykenisivät luomaan tehokkaan valvontakoneiston.
Toiseksi Anthropic haluaa jättää autonomiset asejärjestelmät Clauden ulkopuolelle – tai ainakin yhtiö haluaa olla huoneessa, kun niiden käytöstä päätetään.
Yhdysvaltojen hallinto puolestaan on sitä mieltä, että sillä pitää olla oikeus käyttää Claudea kaikkiin ”laillisiin tehtäviin” haluamallaan tavalla. Anthropicin kannalta ongelma on siinä, että ”lailliset tehtävät” ovat päivä päivältä enemmän tulkintakysymyksiä kuin selkeästi ennakoitavia toimia.
Myös puolustushallinto Pentagonin näkemys on ymmärrettävä. Puolustusvoimat ei voi antaa ulkopuoliselle yhtiölle oikeutta määritellä, miten sotatoimia suoritetaan.
Ukrainassa on viitteitä siitä, että Venäjä on tehnyt iskuja täysin autonomisesti toimivilla drooneilla. Pentagon ei halua asettaa omaa armeijaansa tilanteeseen, jossa sen pitää kysyä lupaa yksityiseltä yritykseltä samalla, kun vastustajat tekevät kokeiluja täysin vapaasti.
Tekoälyn sotilaskäyttöön vaaditaan rajoituksia ja vapauksia
Täysin vapaita käsiä kokeiluihin Pentagon ei ole saamassa päättäjiltä.
Riita Anthropicin kanssa on herättänyt yhdysvaltalaiset lainvalmistelijat. Viime viikolla maan kongressissa esiteltiin lakiehdotus, joka rajoittaisi tekoälyjärjestelmien käyttöä sotilaskäytössä. Vastaavia lakiluonnoksia on muitakin.
Lakiehdotuksien taustalla on sama huoli, joka Googlen työntekijöillä oli kahdeksan vuotta sitten.
– Tappavat päätökset vaativat omaatuntoa, eivät pelkkää algoritmia, eikä koneen pitäisi tehdä tällaisia päätöksiä, sanoi lakiesityksen antanut demokraattisenaattori Kirsten Gillibrand New York Timesin haastattelussa.
Samaan aikaan paine sallia koneelle laajempia oikeuksia kasvaa.
Yhdysvaltojen puolustusministeriön tekoälyn käytöstä vastaava virkamies Emil Michael vaatii päivityksiä autonomisia asejärjestelmiä koskevaan sääntelyyn. Isossa-Britanniassa puolustusministeriön alivaltiosihteeri Alistair Carns on vaatinut, että joissakin tapauksissa vaatimus pitää ihminen mukana päätöksissä pitäisi poistaa.
Yksityiset yhtiöt vievät kehitystä eteenpäin
Autonomisten asejärjestelmien kehitys nojaa vahvasti yksityisten yritysten toimintaan.
Esimerkiksi Ukraina käyttää lviviläisen yhtiön kehittämiä autonomisia piirteitä omaavia Saker Scout -drooneja iskuissa Venäjälle. Alunperin maatalouden käyttöön tekoälyjärjestelmiä kehittänyt Saker on noussut merkittäväksi droonivalmistajaksi.
Sama kehitys on käynnissä niin Venäjällä kuin länsimaissa. Suomessa esimerkiksi sadan miljoonan euron rahoituksen saanut Nest AI -startup kehittää tekoälypohjaisia puolustusratkaisuja.
Yhdysvalloissa Maven-hanke on ollut koko ajan käynnissä. Googlen jälkeen sen otti hoitaakseen verkkokauppayhtiö Amazon. Nyt sitä hallinnoi tekoäly-yhtiö Palantir, joka on integroinut Anthropicin malleja puolustushallinnon järjestelmiin.
Kiistasta huolimatta Yhdysvaltojen armeija käyttää yhä Claudea iskuissa Iraniin. Claude toimii Maven-järjestelmässä, joka analysoi valtavia määriä tiedusteludataa ja tekee sen perusteella muun muassa listoja iskukohteista.
Kahdeksan vuoden aikana teknologiayhtiöiden suhtautuminen puolustusyhteistyöhön on muuttunut.
Vaikka Anthropic on vastustanut sen järjestelmien rajoittamatonta käyttöä, yhtiö on valmis jatkamaan yhteistyötä Pentagonin kanssa. Halukkuuteen vaikuttanee osin se, että yhtiön kovin kilpakumppani Open AI on kärkkymässä sopimusta, jonka Pentagon katkaisi Anthropicin kanssa.
Teknologiayhtiöiden tekoälysijoitukset ovat ohittamassa puolustusmenot
Asenteet puolustusyhteistyöhön eivät ole muuttuneet työntekijöiden keskuudessa yhtä nopeasti kuin johtajien.
Pentagonin vaatimukset herättivät nytkin vastustusta teknologiayhtiöiden työntekijöiden keskuudessa.
Lähes tuhat googlelaista on allekirjoittanut avoimen vetoomuksen, jossa he asettuvat tukemaan Anthropicin linjaa. Vetoomuksesta löytyy myös sadan Open AI:n työntekijän nimet.
Vetoomuksen voima ei kuitenkaan ole sama kuin mitä se oli kahdeksan vuotta sitten. Vielä tuolloin työntekijöillä oli huomattavasti valtaa vaikuttaa yhtiöiden linjaan ja siihen, minkälaisiin hankkeisiin heidän työpanostaan ohjataan.
Tilanne muuttui viimeistään siinä vaiheessa, kun liikemies Elon Musk osti Twitterin ja irtisanoi suurimman osan työvoimasta. Tästä käynnistyneen irtisanomisaallon jälkeen teknologiajohtajien ei ole tarvinnut kuunnella työntekijöiden näkemyksiä kovinkaan tarkkaan. Tekoälyn kehitys on vienyt työntekijöiden näkemyksiltä loputkin painoarvosta.
Samaan aikaan puolustusteollisuus tarjoaa isoille teknologiayhtiöille harvinaisia kasvumahdollisuuksia.
Yhdysvaltojen puolustusmenot nousevat tänä vuonna reiluun biljoonaan eli tuhanteen miljardiin dollariin. Samassa ajassa hyperskaalaajiksi kutsutut teknologiajätit aikovat laittaa tekoälyn kehitykseen yli 700 miljardia dollaria. Lähivuosina teknologiayhtiöiden sijoittama summa ohittanee puolustusmenot. Se tarkoittaa sitä, että yhtiöt tarvitsevat maksukykyisiä asiakkaita.
Eikä Googlekaan lopettanut yhteistyötä puolustusvoimien kanssa Maven-hankkeen päätyttyä. Pari vuotta myöhemmin Google valittiin yhdeksi Pentagonin pilvipalveluiden toimittajaksi.
Alla olevalla videolla Puolustusvoimien tekoälyosaamiskeskusta johtava everstiluutnantti Petteri Hemminki kertoo, minkälaisia tehtäviä autonomisille asejärjestelmille voitaisiin antaa.