Toppen! Nu är du prenumerant på Warp News
Härligt! Genomför ditt köp i kassan för full tillgång till Warp News
Varmt välkommen tillbaka! Du är nu inloggad.
Tack! Kolla din inkorg för att aktivera ditt konto.
Klart! Din faktureringsinformation är nu uppdaterad.
Uppdateringen av faktureringsinformationen misslyckades.
💡 Arge optimistens funderingar: Bomba AI-labb och krascha universum

💡 Arge optimistens funderingar: Bomba AI-labb och krascha universum

Bomba AI-labb och AI kan krascha universum, menar AI-alarmisterna. Även pausa-AI-brevet innehåller långtgående alarmism.

Mathias Sundin
Mathias Sundin

Dela artikeln

🦾 Ingen paus i AI-paus-debatten

Jag pratade AI-paus med Christian Landgren (ja till paus) och Joakim Wernberg (nej till paus) i Svenska Dagbladets ledarpodd.

Måste AI-utvecklingen pausas? | SvD Ledare
LEDARE. PODD | 12 april. Är det önskvärt, riskabelt, eller ens möjligt att försöka bromsa den pågående AI-utvecklingen?

Professor Olle Häggström har svarat på min debattartikel i Aftonbladet och jag kommer skriva en slutreplik. Han menar att nästa version av ChatGPT kan innebära mänsklighetens undergång...

🤖 Tar i från tårna

Det råder AI-panik just nu. Alarmister snubblar över varandra för att se till att deras domedagsscenarier hörs. En del hävdar att AI skulle kunna "krascha universum." Jag skämtar inte.

Min "favorit" är Eliezer Yudkowsky, som i Time Magazine skriver att en blott sex månader lång paus inte är tillräcklig. Nej, "vi måste stänga ner alltihop."

Och om ett AI-labb inte drar ur kontakten, bör de bombas. Vi måste"be willing to destroy a rogue datacenter by airstrike."

Det är både lite skrämmande och lite roligt samtidigt.

Men det är viktigt att vi kämpar emot. Inte med flyganfall, utan med argument. Det kommer en liten kul grej från mig och WALL-Y på måndag, som svar på det det öppna AI-paus-brevet.

Det brevet innehåller för övrigt en del långtgående alarmism. Så här skriver de:

"Ska vi riskera att förlora kontrollen över vår civilisation? Ska vi automatisera bort alla jobb?"

Det finns inga fakta som backar upp dessa påståenden. Det är ren spekulation med inspiration ur science fiction.

Att teoretisera om faror och problem, och hur man undviker dessa är inte fel. Felet är att låta som om detta är fakta, något som kommer hända.

Och om man verkligen tror att det är detta som kommer hända, då får man ju hålla med Eliezer Yudkowsky om att en sex månaders paus är futtigt.

Waldemar Ingdahl slår huvudet på spiken i artikeln om teknikpaniker:

"I en teknikpanik beskrivs tekniken ofta i en tänkt framtida, färdig form och inte i de första versioner som finns tillgängliga för uppfinnaren, tekniker och early adopters."

❗ Utmaning

Titta på det här klippet utan att bli fuktig i ögonen.

💡 Tips

Reason is Fun -1
Ny podcast, Reason is Fun. Första gäst är David Deutsch, bland annat om varför den sortens AI vi ser nu inte alls är i närheten av att vara superintelligent AGI.

The Michael Shermer Show
Podd med science fiction-författaren David Brin om AI.


❗ Annat

Mathias Sundin
Den arge optimisten


Få ett gratis veckobrev med
faktabaserade optimistiska nyheter


Genom att prenumerera bekräftar jag att jag har läst och godkänner personuppgifter och cookies policy.