I sitt arbetsrum på Aalto-universitetet i Esbo ställer Arno Solin som är professor i maskininlärning några olika AI-chattbotar samma fråga:
Vem är Lilla Mys pappa?
Kinesiska Alibabas nya chattbot Qwen3-Max, som i det här fallet inte använder någon realtidssökning, svarar självsäkert att det är Pelle Svanslös.
Europeiska Le Chat och amerikanska Chat GPT söker däremot på nätet och kommer fram till det korrekta svaret, att det inte framgår av Tove Janssons böcker vem som är Lilla Mys pappa.
– Det här är ett bra exempel på att chattbotarna inte alltid kan veta eller komma ihåg allt. Och om de inte vet så är de kreativa och hittar på något, säger Arno Solin, som är professor i maskininlärning och noggrant följer AI-utvecklingen.
Exemplet illustrerar en av AI-chattbotarnas största svagheter: de är tränade i att generera text, inte i att vara faktaenliga.
Solin liknar det vid en elev som har läst till ett prov men inte minns alla detaljer och därför fyller i luckorna med sådant som kunde vara sant.
Chattbottarna svarar övertygande, oberoende av om det de hävdar är sant eller inte. Om de kombinerar sin inbyggda kunskap med att söka på nätet kan svaren ändå i flera fall vara bättre än när de inte gör det.
Mindre googlande och mer AI
Användningen av AI-chattbotar nästan har fördubblats på ett år.
Det vanligaste användningsområdet användarna nu har för AI-chattbotar är informationssökning. Det kan innebära att få svar på faktamässiga frågor, att få råd eller att få hjälp med att researcha olika ämnen.
En fjärdedel använder AI-chattbotar för informationssökning minst en gång i veckan, enligt en färsk enkät från Reuters Institute vid Oxford-universitetet i Storbritannien.
Att svaren ofta är bristfälliga får därmed konsekvenser.
Samtidigt syns en liten men tydlig minskning i att googla, när AI-chattbotarna tar större plats.
Trenden innebär att många inte ser information i ursprungskällorna eller till exempel på mediernas webbplatser, utan får den sammanfattad av ett AI-system i stället, på gott och ont.
AI-chattbotar som personlig assistent
Solin förklarar att AI-chattbotar har tränats upp för att kunna svara på det sätt vi människor gör i samtal. Han säger att det är lite som att ha en personlig hjälpreda.
Solin jämför AI-chattbottar med sommarjobbare:
Allt handlar om matematik och enorma textmängder. AI-modellerna tränas först med kopiösa mängder data, med mer text än någon människa kan läsa under sin livstid.
De lär sig sätta bokstäver efter varandra för att bilda ord, ord efter varandra för att bilda meningar, och meningar efter varandra för att skapa vettiga texter.
Olika AI-chattbotar har tränats med olika datamaterial, vilket påverkar vad de kan svara på och hur de formulerar sina svar.
Utvecklarna fortsätter att finjustera modellerna efter den första träningsfasen. Då styrs de mot att ge mer korrekta svar, bland annat genom att använda feedback från användare eller experter.
En konst att ställa rätt fråga
Den text man skriver till chattboten kallas för prompt.
Med en dålig prompt kan AI-chattboten hamna in på fel spår:
Till exempel om modellen först har svarat nej på något så kan det vara svårt att få den att ändra sig.
Utöver användarens fråga styrs alla chattbotar av en dold systemprompt.
– Den osynliga instruktionen är ofta lång och beskriver chattbotens beteende, ton och acceptabla åsikter, säger han.
Så fungerar de på svenska
Professor Solin nämner att de stora AI-modellerna Chat GPT, Claude och Gemini fungerar ganska bra på svenska. Däremot har vissa modeller som tränats främst på engelska data svårare med nordiska språk.
Han berömmer Le Chat från franska Mistral och tycker det är synd att den hamnat i skuggan av amerikanska jättar.
– Som det politiska läget har förändrats under de senaste åren så har vi sett att vissa tekniska färdigheter är bra att ha i Europa. Så att vi inte stöder oss på enbart amerikanska eller kinesiska aktörer.
Politiska begränsningar styr
Politisk färgning är tydlig hos vissa AI-modeller. När Solin frågar om självständighet för Åland och Taiwan gav amerikanska Grok ett balanserat svar, medan kinesiska Qwen vägrar svara och istället ger en säkerhetsvarning.
– Det är ett exempel på att modellerna filtreras. Man kanske inte vill att de ska diskutera vissa ämnen, konstaterar Solin.
Men censuren finns också hos västerländska modeller. När Solin skulle hålla föredrag för personal på Kvinnokliniken och försökte skapa exempel om förlossning, vägrade Chat GPT diskutera ämnet överhuvudtaget.
Vad kan man egentligen använda AI till?
Arno Solin använder själv AI-chattbotar för att rätta texter, brainstorma och sammanfatta stora textmassor.
Han rekommenderar Claude och Chat GPT för programmering. Däremot varnar han för att lita blint på svaren i medicinska eller juridiska frågor.
– Det är lite som att fråga mannen på gatan om hälsoproblem eller juridiska frågor, säger han.
Framtiden: AI-agenter tar över rutinuppgifter
Solin ser en utveckling mot självständiga AI-agenter som kan ta hand om uppgifter på egen hand, till exempel planera kalenderhändelser, hitta problem i kod och föreslå lösningar.
– Vi går i rätt riktning. Nu har vi möjligheter att automatisera mycket som inte varit möjligt att automatisera tidigare, säger han.
Inom hälsovården kan AI-agenter till exempel hjälpa till med schemaläggning och bokningar.
Tänk på integriteten
Arno Solin påpekar att det finns en orsak till att AI-tjänster är gratis. Gratisversioner används ofta för att samla in data för att träna upp nya AI-modeller.
– Man ska fundera lite vad man matar in i modellerna. Det finns alltid risken att data läcker ut, eller att nån annan användare kan se det i framtiden, varnar han.
I de flesta AI-chattbotar går det ändå att manuellt ställa in att man inte vill att det man skriver in används för att träna upp AI-systemen. Men det är oftast inte standardinställningen.
För den som vill ha full kontroll rekommenderar Solin öppna modeller som kan köras lokalt på den egna datorn. Då lämnar ingen information datorn.
Ett råd till studerande
Avslutningsvis har Solin ett särskilt råd till elever och studerande som använder AI för skoluppgifter.
Han nämner att både Chat GPT och Gemini har en inställning där modellerna undviker att ge direkta svar, utan istället hjälper användaren att själv komma fram till lösningen.
Inställningarna kallas för ”Studera och lär dig” och ”Guidad inlärning”.
– Hellre aktiverar ni det istället för att bara får ut ett svar som ni kopierar, uppmanar han.
Här är Arno Solins guide till de vanligaste AI-chattbotarna just nu:
Hur använder du själv AI-chattbotar i vardagen? Vad tycker du att de är bra och dåliga på? Du kan svara i kommentarsfältet.