Icke-nyheten om att statsministern använder AI, blev sommarens absolut dummaste teknikdebatt. Som dessutom visade på den destruktiva medielogik som råder.

I en intervju med Di Digital sa Ulf Kristersson att han använder AI för att få second opinions:

”Jag använder det själv rätt ofta. Om inte annat för en ’second opinion’. ’Vad har andra gjort?’ och ’ska man tänka precis tvärtom?’. Den typen av frågor”, sa han till Di.

Vilket ju är ett utmärkt användningsområde för vem som helst, men särskilt för en politiker.

Jag har ju själv ett mörkt förflutet i riksdagen, och vet vilken lättare form av hjärntvätt man utsätts för i ett parti. Man jobbar så hårt på att övertyga väljarna om att man har rätt, så samtidigt övertygar man sig själv. Det finns en inneboende logik om att de politiska motståndarna har fel och dessutom är illvilliga. Second opinions är inte flitigt förekommande. Då är det oerhört bra att låta någon, som inte alls påverkas av interna partistämningar, tycka till om förslag eller beslut.

Istället för beröm, kallades hans användning "bananas" och "lite deprimerande." Än så länge höll sig nyheten till Dagens industri, men nu kände andra medier att det var blod i vattnet. Vi återkommer strax till det. Först bananas-kritiken.

Jag läser deras kritik med samma blandning av skam och underhållning som när någon på fyllan tar över karaoke-micken och sjunger falskt, men med fullt självförtroende. Man måste inte förstå hur AI och stora språkmodeller fungerar, men då ska man inte heller läxa upp andra som om man gjorde det.

Kritiken startas av Victor Malm, kulturchef på Expressen, som kallar AI för en "sannolikhetsmaskin." Daniel Swedin på Arbetet fyller på:

"En språkmodell erbjuder aldrig ett nytt, oberoende perspektiv från en annan människa som gjort en självständig bedömning av frågan du brottas med. AI reflekterar inte, värderar inte, och kan inte väga för- och nackdelar. Den gissar bara vilket svar som är mest sannolikt, baserat på tidigare texter."

Dessa två herrar verkar ha snöat in på detta med "sannolikhetsmaskin." Jag har sett det från flera håll och verkar bidra till att folk missuppfattar hur det funkar.

Eftersom modellen tränats på stora mängder data, kan den inte bara återge ”sannolika ord", utan rekonstruera komplexa resonemang, bygga upp kedjor av argument och väga olika perspektiv. Det är därför människor upplever att den faktiskt kan resonera, även om det inte sker på samma sätt som i en mänsklig hjärna.

Det är sant att ChatGPT inte har medvetande eller egna värderingar. Men det är inte poängen. En second opinion betyder här inte en annan persons oberoende bedömning, utan ett annat sätt att se på saken. Språkmodellen kan simulera många olika perspektiv: Den kan sammanfatta hur en viss ideologisk riktning resonerar, spela djävulens advokat, eller ge motargument baserat på tusentals texter skrivna av verkliga människor. På det sättet kan den utmana användarens världsbild och ge ett perspektiv man själv inte hade tänkt på.

Det är alltså just därför att det är en "sannolikhetsmaskin" som den kan ge olika perspektiv, om du ber den om det. Om du ger den instruktionen "ge mig en second opinion på..." så gör den det.

Swedins avslutning blir därför totalt och fullständigt fel. Han skriver:

"Eftersom det, precis som Viktor skriver, är sannolikhetsmaskiner som alltid kommer bekräfta användarens världsbild."

Blod i vattnet

Nu fanns det en konflikt, så då vaknade andra medier. Dagens Nyheter började ringa runt. Först ringde de till Fredrik Heintz, AI-professor i Linköping. Han svarade att rätt använt är det ett utmärkt sätt att få lite andra perspektiv.

Inte bra, alldeles för positivt! DN använde inte hans citat och ringde istället vidare tills de fick jackpott.

Virginia Dignum är professor i ansvarsfull AI vid Umeå universitet. Hon hävdade att "AI inte har förmågan att ge en meningsfull åsikt kring politiska förslag."

Ett mycket märkligt påstående. Dagens AI-modeller är tränade på i så gott som hela internet, plus hundratusentals böcker, miljontals vetenskapliga artiklar och en mängd annan data som inte finns online. De har därför tillgång till en enorm bredd av åsikter och ofta väldigt stort underlag till de åsikterna.

Om vi tar ett mycket förenklat exempel och säger att Kristersson ville ha en second opinion på ett förslag om skattesänkningar, så finns väldigt mycket skrivet om skatter och en AI kan komma med en väl underbyggd argumentation varför skatterna istället ska höjas. Ber du den istället om argument för att sänka skatten, gör den det lika bra.

Men om den är tränad eller medvetet manipulerad så att åsikterna har en viss slagsida? Det är vad flera personer hävdar eller antyder. Dignum säger:

"AI:n kommer att sammanfatta data som den är tränad på. Man kan inte riktigt se det som att den har en åsikt. Det är en åsikt som är sponsrad av de som har byggt den."

Jag vägrar tro att hon är så okunnig som det framstår här. Snarare är det retorik. För det första "sammanfattar" inte AI data. För det andra finns inga sponsrade åsikter.

När du skriver en instruktion (prompt) så gör en stor språkmodell en kvalificerad statistisk gissning av vilka ord som hör ihop och utgör bästa respons på en instruktion. Handlar det om skattenivåer så tittar den på underlag som har med det att göra, och försöker sätta ihop ett svar.

Påverkas inte detta av underlaget? Jo. Om vissa perspektiv är överrepresenterade i materialet kommer de att synas mer i svaren. Men eftersom det finns gott om material för många olika perspektiv kan modellen ändå ge bra svar på en enorm variation av frågor och instruktioner.

Det är här jag tror folk hamnar snett. Säg att det finns mer material i träningsdata som förespråkar skattesänkning än skattehöjning. Då kommer inte AI:n argumentera för sänkta skatter bara för det. Om du ber om en second opinion på ett förslag om skattesänkning kommer du få det. Vill du har argument för en skattehöjning kommer du få det.

Om språkmodellerna var konstruerade att föra fram en viss sorts åsikter vore de värdelösa för oss användare. Skaparna av modellerna vill att vi ska använda dem, oavsett vilka vi är. Det är utifrån det de är konstruerade. Därför är de ofta fenomenala på att ge olika perspektiv.

Vad som spelar allra störst roll är hur du ställer frågan, alltså hur du formulerar din instruktion. Om du frågar "Vad tycker du om det här förslaget?" så kommer du få ett artigt svar tillbaka. Förmodligen för den fram några olika perspektiv som är värda att överväga, men landa i slutsatsen att det är ett rätt bra förslag. Så ska man alltså inte fråga, utan istället be den komma med kritik och alternativa ståndpunkter.

Inget av detta är perfekt, men är en väldigt bra hjälp när man vänder och vrider på en fråga.

Kristersson tycks ju dessutom ha någon form av kunskap av hur språkmodeller fungerar:

"Vi behöver språkmodeller som bygger mer på svenska erfarenheter. Det är något jag saknar", sa han till Di, redan i ursrungsintervjun.

Sanslös fulretorik

Min tro att Dignum mer pysslade med propaganda än delade med sig av kunskap, kommer från att hon inte nöjde sig med detta snedvridna svar. Hon drämde också till med riktig fulretorik: "Ni röstade inte på ChatGPT", sa hon.

En politikers vilja att få fler perspektiv, förvandlades till att han överlåter beslut till ChatGPT.

Nu blev det riktigt kul, tyckte flera medier, och bråket spreds utomlands. Guardian, El País, PC Gamer och många fler skrev och de satte attacken från Dignum i rubriken.

Men om han delar känslig information?

Kan då inte Kristerssons användande vara problematiskt? Jo, om han använder det felaktigt. Bland kritiken fanns också de som oroade sig för att han använde en utländsk AI. Vad händer om han delar känslig information? Men samma personer är inte oroliga för att han ringer på en utländsk telefon med utländskt operativsystem, använder en utländsk dator med ett utländskt operativsystem, finns på utländska sociala medier, skickar meddelanden via utländska meddelandetjänster, ser på en utländsk tv-skärm, åker i utländska bilar och flygplan och bor på utländska hotell.

Farhågan är inget unikt för AI. Hans googlande är ett minst lika stort eller litet problem i så fall. Det är bara för att AI är nytt som det plötsligt är farligt och läskigt.

Flera av kritikerna utgår från att han använder det fel. Det kan man såklart oroa sig för om man vill, och regeringes track record med känslig information är ju inget att skryta med. Men det finns inget belägg för det just i det här fallet.

För AI kan ju användas fel. Vice statsministern, Ebba Busch, bidrog nyligen med ett exempel på det. I hennes tal i Almedalen tillskrevs en politisk motståndare citat, som personen inte hade sagt. Dessa hade Busch och hennes talskrivare fått från en AI.

Jag kritiserade detta i SvD och försökte reda ut hur det fungerar. Man ska alltid be om länk till citat och såklart kolla dessa. Stora språkmodeller har inte tillgång till en faktadatabas att kolla exempelvis citat, och kan därför ibland göra fel. Oftast blir det rätt, men ibland fel.

Fler politiker borde använda AI

I vintras samarbetade jag med två tidigare kollegor i riksdagen, och byggde varsin AI-assistent till dem. Den fungerade som en sorts politisk sekreterare. Svenska Dagbladet skrev om det.

Den hjälper dem i flera olika aspekter. Sammanfattningar, underlag, utkast och just att bolla idéer. Säg att en ny statlig utredning presenteras. Då kan en AI som är anpassad efter en politiker snabbt hitta det som är mest relevant och hjälpa politikern genom att ge flera perspektiv på frågan. Vad finns för andra tänkbara förslag, än det som utredningen presenterat?

Min önskan är politiker som är mindre självsäkra. Jag var själv alldeles för säker på att mitt parti hade rätt. När nu en politiker, dessutom vår statsminister, använder AI för något den är riktigt bra på och dessutom ger honom fler perspektiv så borde det hyllas.

Mathias Sundin
Arge optimisten