🤖 Kevin Kelly: Reglera inte AI baserat på rädsla för mänsklig utrotning

"Att bara vara riktigt smart innebär inte att du övervinna åtta miljarder människors vilja att överleva."

Mathias Sundin 05.jun.20232 min read

Dela artikeln

I en intervju med Warp News om sin nya bok, Excellent Advice for Living, pratade Kevin Kelly också om AI och den nuvarande debatten om riskerna med AI.

Vad är din syn på riskerna med AI och hur AI ska anpassas till människor?

"Det finns olika nivåer av anpassning. Att anpassa AI:s värderingar är legitimt. Att göra dem bättre än vi i genomsnitt är en bra sak att arbeta med."

Men vad säger du om AI så kraftfull att den allvarligt kan skada eller döda oss?

"Risken är större än noll, men så låg att den inte borde påverka våra policies särskilt mycket."

"Nyligen jämförde några det med en pandemi eller klimatförändringar. Jag tycker att en asteroid är en bättre jämförelse. En asteroidträff på jorden skulle vara förödande, men det är mycket liten risk för att det kommer att hända. Men eftersom resultatet skulle vara katastrofalt, bör vi ha folk i ett program som försöker upptäcka dem, avvärja dem och lista ut vad man ska göra. Men vi fattar inte policybeslut baserat på det faktum att vi kanske blir träffade av en asteroid. Vi bygger inte asteroid-säkra byggnader."

"Detsamma gäller existentiell risk med AI. Vi borde ha några personer som arbetar med det, men vi borde inte skapa policys och reglera baserat på något med så låg sannolikhet."

Intelligens räcker inte

Varför tror du att risken är så låg?

"Anledningen till att jag skiljer mig från vissa personer, som Elon Musk och Eliezer Yudkowsky, är att de tenderar att överskatta rollen av intelligens, i att få saker att hända. De är killar som gillar att tänka, och de tror att tänkande är det viktigaste. För att få saker att hända i världen krävs intelligens, men det är inte det viktigaste. Det är inte de smartaste människorna som får saker att hända i världen. Det är inte nödvändigtvis de smartaste personerna i ett rum som får saker att gå framåt. Intelligens ensamt är otillräcklig för att förändra världen. Du behöver ha uthållighet, du behöver ha empati och uppfinningsrikedom. Och alla möjliga andra saker."

Kevin Kelly lägger också till en annan aspekt på AI och existentiell risk. Viljan att överleva slår viljan att döda.

"Vad vi vet från naturen är att överlevnadsviljan alltid slår rovdjurens vilja. De flesta rovdjur misslyckas i sina försök att döda ett byte, eftersom viljan att överleva är mycket större. Åtta, nio miljarder människors vilja att överleva är otroligt mycket starkare än viljan att utrota dem. Och den viljan är oberoende av intelligens."

"Att bara vara riktigt smart innebär inte att du övervinna kan åtta miljarder människors vilja att överleva."

Hela intervjun finns på YouTube

Kolla gärna på hela intervjun med Kevin Kelly om hans nya bok, Excellent Advice for Living, om varför framtiden skapas av optimister, varför nu är bästa tiden att skapa något och varför du bör fokusera på de största möjligheterna, inte de största problemen.