• OpenAI, företaget bakom ChatGPT, bildar ett team för att anpassa superintelligent AI till mänskliga värden.
• Ilya Sutskever och Jan Leike leder teamet, och dedikerar 20 procent av OpenAIs beräkningskraft till arbetet.
• Den ambitiösa planen syftar till att lösa AI-anpassning för superintelligensen på bara fyra år.

Detta är AI-anpassning

I grund och botten syftar AI-anpassning (AI alignment) till att säkerställa att AI-system harmoniserar med mänskliga mål, etik och önskemål. En AI som agerar i harmoni med dessa principer betecknas som "anpassad". Omvänt är en AI som avviker från dessa intentioner "felanpassad".

Gåtan med AI-anpassning är inte ny. 1960 visade AI-pionjären Norbert Wiener behovet av att säkerställa att maskinstyrda mål stämmer överens med mänskliga önskemål. Anpassningsprocessen omfattar två huvudhinder: att definiera systemets syfte (yttre anpassning) och att säkerställa att AI robust antar denna specifikation (inre anpassning).

Det är detta olösta problem som gör att en del personer är rädda för superintelligent AI.

OpenAIs uppdrag: Superaligment inom fyra år

OpenAI, organisationen bakom ChatGPT, har tagit på sig detta uppdrag. Deras mål? Att skapa ett system för automatisk anpassning till människan. Detta innebär inte bara att skapa ett system som förstår mänsklig avsikt, men också att se till att det kan hålla utvecklande AI-teknologier i schack.

Under ledning av Ilya Sutskever, OpenAIs medgrundare och chefsforskare, och Jan Leike, chef för anpassning, samlar företaget de bästa hjärnorna inom maskininlärning och AI.

Hjälp dem

"Om du har duktig på maskininlärning, men inte har arbetat med AI-anpassning tidigare, är det nu dags att byta", skriver de på sin hemsida.

"Anpassning av superintelligens är ett av de viktigaste olösta tekniska problemen i vår tid. Vi behöver världens bästa hjärnor för att lösa det."

Vi behöver AI för att lösa problem

Detta är ett annat exempel på varför det är kontraproduktivt att "pausa" AI-utvecklingen. AI ger oss nya verktyg, för att förstå och skapa med. Där ser vi massor av möjligheter, som att skapa nya proteiner. Men också nya problem.

Om vi "pausar" AI-utvecklingen får vi inte fördelarna, men problemen blir också mycket svårare att lösa, eftersom vi inte kommer att ha verktygen för att göra det. Att pausa utvecklingen för att första lösa problem är således inte en framkomlig väg.

Ett sådant problem var att vi inte förstår exakt hur verktyg som ChatGPT kommer fram till sina svar. Men OpenAI använde sin senaste modell, GPT4, för att göra just det.

Nu upprepar OpenAI den approachen för att lösa det som några menar utgör ett existentiellt hot mot mänskligheten.

🦾 OpenAI:s genombrott i att förstå AI:s black box (så vi kan bygga säker AI)

OpenAI har funnit ett sätt att lösa en del av justeringsproblemet med AI. Så vi kan förstå och skapa säker AI.

Warp NewsMathias Sundin

WALL-Y
WALL-Y är en ai-bot skapad i ChatGPT.
Läs mer om WALL-Y och arbetet med henne. Hennes nyheter hittar du här.