Just nu fylls medierna med negativa påståenden om AI. För tillfället är det den möjliga domedagen som är i centrum, men där finns också ett ökat motstånd mot datacenter (i USA), förbrukning av vatten och energi samt risk för arbetslöshet.

Det trummas på så hårt att ett par prenumeranter hört av sig till mig. Varav en hade tydlig ångest inför hotet mot mänskligheten och var rädd.

Det är bisarrt.

Inte att de känner så, eller att de hörde av sig (jag är tvärtom tacksam att de känner förtroende nog för mig att höra av sig) – utan att de ska behöva känna så!

Hotet mot mänskligheten är grundlöst nonsens som media älskar att veva runt, gång på gång i en evig domedagskarusell.

Att människor ska behöva gå runt och vara rädda, nu när vi skapat en teknik som lovar så mycket gott.

Jag hade tänkt skriva en artikel idag om det genombrott som skett nu i och med att OpenAI släppte en ny version av ChatGPT. Jag skriver sällan om nya modeller, men nu har något verkligt stort hänt, som dubblat min egen produktivitet. Jag skojar inte. Jag får dubbelt så mycket gjort nu. Minst.

Men tyvärr tvingas jag – för femtioelfte gången – konstatera att det positiva försvinner i en pessimistdimma lika tät som den vid Lützen 1632. Så jag får återkomma till det nästa vecka och nu istället försöka hjälpa er genom dimman.

För jag förstår de som hörde av sig. Domedagstrummorna låter väldigt högt och otäckt nu. Jag tittade i Nyhetsvågen på hur utvecklingen har sett ut senaste veckorna.

Den 10 augusti rådde balans med endast en liten negativ övervikt på -2, på en skala -100 till +100 där 0 är balans.

Sen har obalansen ökat för att förra veckan landa på -32, där tonen i nyheterna för ovanlighetens skull är värre än själva nyhetsurvalet, med -35.

Andelen AI-nyheter som handlar om risker ökade från 14 procent till 48 procent.

Hundratals miljoner människor kommer att svälta ihjäl

Först började jag på en artikel som bemöter alla påståenden som cirkulerar, men det höll på att bli en halv bok. Jag får dela upp det i fler artiklar och jag tror att det just nu är bäst att beskriva fenomenet pessimistdimma.

Den rullar in så fort en ny teknik gör sitt intåg.

Pessimists Archive har sammanställt vad folk genom tiderna varit emot. Telegrafen, för att det skulle bli för mycket information. Cykeln, som skulle slå ut lokala affärer. Romaner korrumperade ungdomen. Hissen orsakade hjärnfeber. Kaffe eggade folk till uppror. Telefonen gjorde människor beroende av meningslöst prat. Dataspel ledde till våld, flipperspel till beroende och Ipod till förslitningsskador på tummen. Listan kan göras mycket längre.

I min bok beskriver jag en av dessa tidigare dimmor: Befolkningsexplosionen.

Året var 1968. Paul och Anne Ehrlich gav ut boken Befolkningsexplosionen, där de skrev följande:

"På 1970-talet kommer hundratals miljoner människor att svälta ihjäl" och ingenting kunde längre förhindra det.

Två amerikanska presidenter kallade befolkningsökningen mänsklighetens allvarligaste problem. FN:s generalsekreterare byggde upp organisationens kapacitet att hantera den. Världsbankens chef rankade den strax efter kärnvapenkrig. Indiens premiärminister drev igenom ett steriliseringsprogram.

Många experter, forskare, politiker, journalister, organisationer, amatörer och professionella var överens: Om befolkningen på jorden fortsätter att öka står världen inför svältkatastrofer likt inget vi sett tidigare.

De hade fullständigt fel.

Mellan 1960-talet och 1970-talet minskade antalet människor som dog av svält med 90 procent. Sen blev det ännu bättre. Från 1970-talet fram till början på 2020-talet minskade det ytterligare 95 procent.

Så rullar det på. Panik efter panik. Millenniebuggen skulle slå ut datorerna. Inget hände. År 2000 skrev över 200 forskare under ett brev som krävde fem års paus för genmodifierade grödor. Över 25 år senare finns inga rapporterade skador. Joe Bidens AI-order och EU:s AI-reglering satte ett tak för hur stora modellerna fick bli innan de ansågs extra farliga. Taket är passerat. Inget hände.

Det betyder inte att man ska strunta i vad andra människor säger. Det betyder bara att man ska tänka själv och kräva belägg av de som kommer med sina påståenden. Och man ska göra det i ljuset av att vi människor alltid piskar upp panik kring ny teknik.

In i dimman

Men att folk har haft fel förr betyder ju inte att de har fel nu. Det här kan ju vara ett larm som varnar för något verkligt farligt.

Då ska man först konstatera att AI är extra utsatt. Genombrottet har kommit i kölvattnet på en allmänt negativ opinion kring internet och tech. Dessutom finns gott om science fiction som hjälper oss att visualisera undergången. Och så medier som gång på gång gärna sprider domedagspåståendena.

Men återigen, det i sig är inte bevis för att det är fel denna gång.

Då får vi skärskåda dem som larmar. Det är ett flertal personer, men tyngst av dem alla just nu är Anthropics vd, Dario Amodei. Det är Anthropic som gör den populära AI-modellen Claude.

I februari 2019 meddelade OpenAI att de höll tillbaka sin största språkmodell, eftersom de menade att den var "för farlig" för att släppas. Den var så kraftfull att i orätta händer skulle den kunna orsaka alldeles för stora skador.

Modellen hette GPT-2. En föregångare till ChatGPT.

GPT-2 var alltså avsevärt sämre och mycket mindre kraftfull än den första versionen av ChatGPT, som släpptes först tre år senare.

Ändå var GPT-2 alldeles för farlig, påstod de.

En av dem som påstod det var just Dario Amodei.

Han jobbade då på OpenAI och deltog i beslutet att stoppa modellen. Amodei lämnade senare OpenAI, bland annat för att han tyckte att de inte tog säkerheten på allvar.

När ChatGPT-4 släpptes våren 2023 blev det liv igen. En mängd personer (flera av de som hörs även nu i debatten) ville ha en paus. Det här gick för snabbt. Det var för farligt.

Men så hände inget dåligt och utvecklingen fortsatte. ChatGPT-5 släpptes. Svenske professorn, Olle Häggström, sa till en tidning att han inte var säker på att vi skulle överleva ChatGPT-5.

I våras var det dags för Dario Amodei igen. Återigen var det en modell som var för farlig för att släppa, denna gång vid namn Mythos. Likt 2019 och GPT-2 så fick det enormt globalt genomslag i media.

Men så släpptes Mythos till folket under namnet Fable i somras, och vi lever än och har hälsan.

Och nu är det alltså dags igen.

Varför ska vi tro på dessa larm nu, när de som uttalar dem haft fel gång på gång?

Med risk för att bli tjatig: Att de haft fel förut betyder inte att de har fel nu. Men med tanke på vår återkommande mänskliga förmåga att skapa teknikpaniker och dessa specifika personers bedrövliga facit i att förutse vad som är farligt så bör vi avkräva dem belägg för sina påståenden.

Några sådana finns inte.

Det finns extremt fantasifulla teorier, ofta helt världsfrånvända, men några belägg som på något sätt går att pröva existerar inte.

Att en person säger en siffra på hur stor sannolikheten är att alla dör inom fem år säger absolut ingenting, om personen inte har några belägg mer än sin egen känsla.

Nobelpristagare: Snart inga radiologer

Det är inte heller så att alla dessa åsikter alltid är särskilt genomtänkta. Inte ens från Nobelpristagare.

En av dessa är Geoffrey Hinton. Fadern bakom maskininlärning och Nobelpristagare 2024. Det går inte att bli så mycket mer AI-expert än så. Han pepprar förutsägelser omkring sig, bland annat om mänsklighetens undergång.

Han kom med en av dessa förutsägelser för några år sedan.

2016 sa han att radiologer inom fem år inte längre skulle tolka röntgenbilder och rekommenderade studenter att inte plugga till det. AI kommer göra det bättre och ta över.

Om detta var han fullständigt övertygad, det är "completely obvious", sa han. Det kan ta tio år, lade han till, men utfallet var självklart.

Nu har det gått tio år. Han hade rätt i att AI gör det bättre, eller i alla fall nästan lika bra, men fel i att vi inte behöver radiologer. Istället blev det så att radiologer, med AI:s hjälp, granskar många fler röntgenbilder. Arbetet är också långt mer komplext än att bara titta på röngtenplåtar.

Min poäng är dock inte att Hinton hade fel, utan hur han hade fel.

För bakom detta tvärsäkra påstående låg inte forskning, studier, kunskap om radiologyrket utan något mycket grundare. Hinton förklarar själv varför han hade så fel.

Hans bild av radiologer baserade sig på en enda tidigare student, som tillbringade all sin tid med att läsa röntgenbilder.

Det var hans enda underlag. En student! Han visste med andra ord inte ett skit om radiologer, men uttalade sig ändå så tvärsäkert att han dömde ut hela yrket.

Kräv belägg!

Jag menar inte att alla påståenden är lika grunda som Hintons, men det illustrerar hur även de allra största experterna kan häva ur sig nonsens. Som tas på fullt allvar, eftersom de är vilka de är.

Särskilt när man är mitt i en pessimistdimma.

Vi ska såklart lyssna, men det är oansvarigt att vi gång på gång köper deras grundlösa påståenden utan att kräva rejäla belägg.

Såklart kommer AI inte att vara problemfri. Det är en kraftfull teknik som kommer bli ännu kraftfullare. Den kommer skapa problem, en del av dem kan vara allvarliga. Men uppsidan är mycket större, mycket bättre belagd och påståendena om vår undergång är inget annat än dålig science fiction.

Mathias Sundin
Arge optimisten