Max Tegmark (och många andra) hänvisar till en undersökning med fyra procents svarsfrekvens och påstår att "hälften av AI-forskare" tror på tio procents risk för mänsklighetens undergång.

För detta har han fått kritik från mig, professor Melanie Mitchell och DN:s vetenskapsjournalist, Maria Gunther.

Maria Gunther var inte nådig:

"Om man använder sådana hitte-på-fakta för att argumentera för sin sak saboterar man inte bara hela diskussionen. Man undergräver också sin egen trovärdighet som forskare och debattör."

Tegmarks svar...

Nu har Max Tegmark svarat på kritiken – och det är ett... förbluffande svar.

Jag kritiserades främst för tre saker:
1. Studien var så liten att den statistiska felmarginalen var 4 procent (50 procent delat med kvadratroten av 162 för läsare som gillar statistik), så jag borde ha skrivit ”50 procent ± 4 procent” i stället för ”hälften”. Men DN brukar inte heller rapportera felmarginalen (ofta en dryg procent) när de publicerar opinionsundersökningar.

Nej, kritiken var inte att det kunde varit 54 eller 46 procent. Kritiken var att han tog en undersökning med fyra procents svarsfrekvens och menade att det representerade "hälften av AI-forskare".

2. Några av forskarna var studenter och inte seniora forskare. Den kritiken betraktar jag som elitistiskt snobberi: alla hade lyckats få sin AI-forskning publicerad i hård konkurrens vid två av världens mest prestigefyllda konferenser.

Om man påstår att det är AI-forskare som tycker något är det inte snobberi att påpeka att det bland de svarande kan finnas studenter. Det är inget fel på studenter, deras åsikt kan vara intressant, men de är inte AI-forskare!

3. Det är möjligt att oroliga forskare var mer benägna att delta i undersökningen. Visst. Men motsatsen är också möjlig. Ändå valde DN hypokritiskt att sätta den tvärsäkra titeln ”Nej, varannan AI-forskare anser INTE att det är 10 procents risk att mänskligheten dör”, vilket det då saknas belägg för: det kan lika gärna vara fler som färre.

Rubriken hänvisar till undersökningen och är inte ett allmänt påstående, men visst har Tegmark en poäng i att både DN:s och Warp News rubriker kunde varit mer nyanserade.

Dock skjuter han sig själv i foten i sista meningen: "...det kan lika gärna vara fler som färre."

Ja, precis... det vet vi inte, eftersom undersökningen Tegmark hänvisar till inte kan utgöra underlag för att påstå hur många AI-forskare som tycker något i denna fråga.

I resten av artikeln skriver Tegmark att "många" visst tycker AI är farligt. Så är det, och det kan vara fler – eller färre – än hälften som tror på mänsklighetens undergång. Det är inte vad detta handlar om. Detta handlar om att ett falskt argument förs fram och görs till en central punkt i debatten om AI.

Déjà vu

Jag har tidigare varit heltidspolitiker i tolv år. Den här debatten väcker många minnen till liv. Det är precis så här en del politiska debatter blir, särskilt i hettan i en valrörelse.

Man drar långtgående slutsatser på bristfälligt underlag, missförstår medvetet motståndarna, konstruerar halmgubbar och attackerar dessa.

Jag har själv gjort det och jag förstår varför. Man är så besjälad av det man tror på. I en valkampanj står mycket på spel. Det är lätt att lura sig själv att det är okej att skarva lite. Ändamålet helgar medlen.

Men det är inte. Och detta är inte en valrörelse. Men för Max Tegmark tror jag att det är det. För Lex Friedman berättade han att han tror att mänskligheten kommer gå under och hans son dö. Inte är han så korkad att han inte ens förstår kritiken. Han är tvärtom mycket smart. Men Max Tegmark är så oroad över AI-utvecklingen att han hamnat i valrörelse.

Mathias Sundin
Den arge optimisten