Gemensamt upprop: Därför vill tunga tech-namn pausa AI-utvecklingen

I skrivande stund har drygt 1 100 personer över hela världen skrivit på det öppna brevet med titeln Pause Giant AI Experiments: An Open Letter.

Utöver Musk, Wozniak och Tegmark, återfinns bland andra medgrundaren till Skype Jaan Tallinn, medgrundaren till Pinterest Evan Sharp, den framstående AI-forskaren vid Berkeley universitet Stuart Russel och Victoria Krakovna som är forskare på DeepMind och medgrundare till Future of Life Institute.

Oroliga över utvecklingen

Alla har i detta öppna brev en sak gemensamt: de är oroliga för den utveckling som skett av generativa AI-program den senaste tiden, och vill att samtliga AI-labb genast pausar sina uppträningar av AI-system som är kraftfullare än GPT-4, i sex månader.

GPT-4 är OpenAI:s efterföljare till ChatGPT, och ännu ”smartare” när det handlar om alltifrån att svara på banala frågor till att hjälpa programmerare med sin kod.

”Inte delegeras till tech-ledare”

”Vi måste fråga oss: Borde vi låta maskiner överflöda våra informationskanaler med propaganda och osanningar? Borde vi automatisera bort alla jobb, även de mest infriande? Borde vi utveckla icke-mänskliga intellekt och sinnen som kanske tillslut är fler än oss, smartare än oss, och som gör oss obsoleta? Borde vi riskera att tappa kontroll över vår civilisation? Sådana beslut får inte delegeras till icke-valda tech-ledare” skriver man bland annat i brevet, men betonar samtidigt att detta inte är en paus i AI-utveckling på en generell nivå utan enbart "ett steg tillbaka från den farliga kapplöpning till större och större, oförutsägbara svarta-box-modeller med framväxande förmågor."

Parallellt vill man att AI-utvecklare ska arbeta med policyskapare för att sätta ramar för hur framtidens AI ska utvecklas, som man vill ska vara bland annat vara säker, transparant, robust och lojal

Christian Landgren: ”Våra hjärnor inte anpassade för denna takt”

Christian Landgren är futurist och programmerare, som bland annat grundat Öppna skolplattformen och är CEO på det svenska it-konsultbolaget Iteam, och en av dem som skrivit på upproret.

Han tror att den snabba utvecklingstakten just nu skapar de största riskerna, vilket kan resultera i att vi får en uppdelning mellan de som tar sig an den här tekniken och de som inte bryr sig.

– Jag märker att samhället runtomkring inte har börjat ana vilken transformation som väntar oss. Våra hjärnor är inte anpassade till den takt som AI-utvecklingen nu är inne i. Det gäller såväl på arbetsmarknaden som i samhällsdebatten.

Öppna upp debatten

Han tror också att det finns geopolitiska risker om vi inte lugnar ned tempot. Han uppmanar därför till mer öppna debatter, politiker emellan, men menar samtidigt att Sverige borde ha utrymme att fortsatt investera i AI på det stora hela.

– Med tanke på den enorma kapacitet dessa nya AI har, kan man tänka sig att det kommer få en stor påverkan på många yrken, men också påverka geopolitiken och risker. Det är diskussioner som än så länge förs i smala, digitala forum och i sociala medier, men inte i den allmänna debatten. Innan utvecklingen fortsätter tycker jag att vi bör prata om de här frågorna i mer allmänna forum, till exempel i en partiledardebatt.

– Nu kan man ju tillägga att Sveriges påverkan i dessa frågor är ganska små och för Sveriges del skulle jag säga att det mest ansvarsfulla sättet att hantera dessa frågor trots allt är att accelerera investeringarna på AI – inte vänta.

När du tänker dig människa och (framtidens) AI i symbios – vad ser du framför dig då?

– Jag är optimistisk till användning av AI. Vi har många stora och komplexa problem som vi har svårt att lösa. Klimatförändringar och energiförsörjning, hälsofrågor hos en åldrande befolkning, personalbrist i vården och så vidare. Vi kommer inte lösa alla dessa frågor utan ökad produktivitet och det är just ökad produktivitet, framför allt i tjänstesektorn som vi kommer att få med hjälp av AI.

– Men en felaktig start i denna utveckling kommer att skapa en alltför stor maktkoncentration för några få. Sverige har den största språkmodellen utanför USA och Kina, så vi har definitivt en möjlighet här att visa vägen och skapa en pålitlig användning av AI. Men det måste ske på ett ansvarsfullt sätt.