En omfattande desinformationskampanj som riktar sig mot lokala klimatinitiativ sprids som en löpeld i Kanada, samtidigt som riktiga terrängbränder härjar i stora områden av provinserna Manitoba och Saskatchewan.
Nyhetstjänsten Canada's National Observer har undersökt kampanjen och avslöjat hur Open AI:s Chat GPT-språkmodell utnyttjas för att sända skräddarsydda meddelanden till beslutsfattare runtom i Kanada.
Kampanjen har uppmärksammat hur artificiell intelligens kan missbrukas för att med begränsade resurser orsaka stor skada, när desinformation ställer till med oreda i de lokala samhällena.
Sällsynt storskalig och sofistikerad
Desinformationskampanjen i Kanada är enorm. Tusentals beslutsfattare i över 500 städer och kommuner i Kanada har kontaktats av en chattbot, som kallas för den kanadensiska medborgarrådgivaren ”Canadian Civic Advisor”.
Påfallande är också att kampanjen är ytterst sofistikerad och välgjord, enligt Disinformation Social Media Alliance.
Chattbotten, som har skapats uttryckligen för att kommunicera med lokala beslutsfattare, sänder övertygande desinformation: e-postmeddelanden, rapporter och presentationer som uppmanar politikerna att skrota de lokala klimatplanerna.
Meddelandena, som ser ut att komma från oroliga invånare, är anpassade till varje mottagare. Chattboten refererar till lokala problem och försöker därmed på bästa möjliga sätt väcka uppmärksamhet och oro och etablera en autentisk kontakt med beslutsfattarna.
Desinformation är i sig inte ett nytt fenomen. Skillnaden är att den nu kan automatiseras och spridas i en mycket större skala än tidigare med hjälp av AI.
– Den här typen av kampanj, där man har samordnat ett massutskick till beslutsfattare, har jag inte hört talas om förut, säger Victor Galaz, docent i statsvetenskap vid Stockholm Resilience Centre.
Artificiell intelligens har funnits redan under en längre tid, men den generativa AI:n har inneburit ett stort genombrott för spridningen av desinformation.
– Det här är ett väldigt effektfullt verktyg, säger Galaz, som tillsammans med sina kollegor har förutspått en storm av AI-genererad klimatdesinformation.
Det som gör generativ AI så effektiv i desinformationssyfte är att den kan producera mångsidigt innehåll.
Kvaliteten på de texter, bilder, videor och ljud som genereras är hög, och det är nästintill omöjligt att skilja materialet från mänskligt skapat innehåll. Verktygets potential förklaras också av att det är lättillgängligt och enkelt att använda.
Googles chattbot Gemini eller Open AI:s Chat GPT är bekanta för många. Likaså väckte kinesiska Deepseeks egna AI-modell mycket uppmärksamhet då den lanserades. Den bygger dessutom på en öppen källkod som kan användas fritt av vem som helst.
Det krävs alltså inget specialkunnande eller stora resurser för att sprida desinformation till en stor publik. Enligt Galaz kommer vi därför oundvikligen att se liknande kampanjer igen – också i andra länder.
Förnekar klimatuppvärmningen
Bakom kampanjen i Kanada står en grupp som kallar sig KICLEI (Kicking International Council out of Local Environmental Initiatives). Den grundades av Freedom Convoy-aktivisten Maggie Hope Braun.
Freedom Convoy -gruppen protesterade inledningsvis mot covidrestriktioner i Kanada. Rörelsen växte senare till en global rörelse som samlade vaccinmotståndare, konspirationsteoretiker och högerextrema personer.
Den gemensamma faktorn för desinformationskampanjen är att KICLEI ofta hävdar att de dyra klimatåtgärderna har påtvingats medborgarna av stora, internationella organisationer såsom FN.
KICLEI förlitar sig också på påståenden som har motbevisats genom forskning. Organisationen påstår till exempel felaktigt att det inte råder konsensus om att mänsklig verksamhet är den huvudsakliga orsaken till klimatuppvärmningen. Ett annat falsifierat budskap är att koldioxidutsläppen inte är det primära problemet.
KICLEI:s svar på kritiken är att deras kampanj inte sprider desinformation, utan grundar sig på lokaldemokrati, transparens och ansvarsutkrävande.
Beslutsfattarna har skrotat klimatprogram
Lokalpolitikerna i Kanada uppger sig vara överväldigade och stressade av mängden desinformation de mottagit. Det rapporterar organisationen De Smog som bekämpar desinformation i miljö- och klimatfrågor.
Kampanjen har varit inflytelserik, och på en del orter har beslutsfattarna redan avslutat klimatprogram eller sänkt sina utsläppsmål.
Victor Galaz anser att IT-jättarna borde bära ett större ansvar för den desinformation som sprids med hjälp av deras teknologi.
– Det får effekter, och då har man ansvar som företag att se till att säkra upp och minimera skadorna så mycket som möjligt.
Tekniska motverktyg för att bekämpa desinformation finns redan. Till exempel kan AI-genererade videor och bilder vattenmärkas med en slags stämpel.
Däremot saknas ambitionen att ta itu med problemen eftersom bolagen gett sig in i en kapprustning. Företagen satsar mer på konkurrens och innovation och mindre på att hantera de negativa konsekvenserna.
Inom EU har man de senaste åren antagit lagstiftning som styr både digitala tjänster och AI.
På global nivå saknas reglering, men Galaz hoppas att EU-regleringen kan inspirera andra länder.
– Det har gått för långsamt, men det finns några positiva steg i dag.
Problemen och lösningarna är ändå inte enbart tekniska eller politiska. Också psykologiska och kognitiva faktorer spelar in. Människor har en tendens att söka efter information som bekräftar det de redan tycker.
Fragmenteringen av det digitala landskapet och de många AI-verktygen gör det bara lättare att välja en informationskälla som ger sådana svar man vill höra. Det behövs alltså fortsättningsvis en gedigen utbildning och kritiskt tänkande, betonar Victor Galaz.
Inflytelserika personer påverkar mer
De tekniska framstegen sker snabbt, men effekterna är ofta långsamma. Enligt Victor Galaz syns det här till exempel i hur vårt förhållande till sociala medier har förändrats då dessa fylls av skräpinnehåll:
– Värdet hos sociala medier som informationskälla blir sämre, eroderar bort över tid. Det har ett pris för oss.
Det är svårt att förutsäga hurdan utvecklingen blir, men effekterna kan bli stora. En plattform kan ersättas av nya, okända informationskällor. Problemet med förlusten av kvalitetsinformation i digitala och traditionella medier kvarstår ändå, menar Galaz.
Den tekniska utvecklingen har skett parallellt med andra stora förändringar i medielandskapet då lokaltidningar försvinner och public service urholkas i många länder.
– De här sakerna förstärker varandra. Att människor söker sig till sociala medier, bloggosfärer och influerare är ett resultat av att annan rapportering har försvunnit. Det är en utmaning, poängterar Galaz.
Det största desinformationsproblemet är alltså inte nödvändigtvis AI-genererat innehåll:
– Det är väldigt inflytelserika personer i maktpositioner som sprider falsk information – medvetet. Det ser vi systematiskt, i vaccinfrågan, klimatfrågan eller vad det nu kan vara, enligt Galaz.