AI-guru efterfrågar global panel för AI-säkerhet

– Vi måste ta riskerna med AI lika seriöst som andra stora globala utmaningar, som klimatförändringar. Det tog det internationella samfundet för lång tid att koordinera ett effektivt globalt svar på detta, och vi lever med konsekvenserna av det nu. Vi har inte råd med samma fördröjning med AI, säger Googles brittiska AI-chef Demis Hassabis, till tidningen The Guardian.

Ett IPCC eller IAEA för AI

Demis Hassabis menar att AI kan ge oss ”otroliga möjligheter” inom områden som exempelvis medicin, men menar att det behövs konsensus och enighet runt potentiella faror med tekniken, och vidare kontroll av hur den används.

Han jämför det med både den globala klimatpanelen IPCC och det internationella organet för kärnenergi IAEA. Idéen om ett IAEA för AI har även den tidigare Google-chefen Eric Schmidt och Mustafa Suleyman, medgrundare av Deepmind, föreslagit.

– Jag tror att vi måste börja med något som IPCC, med ett vetenskapligt och forskningsmässigt förhållningssätt, och sedan bygga upp därifrån. Det jag skulle vilja se så småningom är en motsvarighet till en Cern för AI-säkerhet som forskar om det, men på internationell nivå. Och så kanske det i framtiden finns något slags motsvarighet till IAEA, som faktiskt granskar dessa saker, säger Demis Hassabis.

Intervjun med Hassabis sker inför ett stor AI-konferens i början av november Bletchey Park i London, med fokus på just avancerade AI-system och dess påverkan på dagens och framtidens krigföring.

Norge på bollen efter bank-debacle

Samtidigt som tunga AI-namn alltså föreslår en säkerhetspanel som kan agera som en internationell översynsmyndighet, rapporterar Nya Dagbladet att Norge arbetar med förslag om hur man ska reglera, utveckla och använda AI i landet.

– På samma sätt som för illustrativa foton eller retuscherade bilder anser jag att det finns objektiva skäl till att detta bör märkas. Jag kommer därför att överväga ett förslag om ett lagkrav, säger Norges digitaliseringsminister Karianne Tung, till norska NRK.

Regleringsfrågor runt AI har inte minst uppmärksammats i Norge efter att norska Sparebank 1 Østlandet gick ut med en annons med en bild på Harald som ”tjänar pengar utan att lyfta ett finger". Men Harald finns inte utan är skapad av en AI.

Sedan uppmärksammandet tillstår bankens kommunikationsdirektör Siv Stenseth att det inte var en helt genomtänkt annons.

– Det här är ett fall som vi bara kan ta lärdom av. Vi har gjort några misstag här. Vi kommer [fortsättningsvis] att göra som vi brukar, det vill säga att använda bilder med riktiga människor i våra annonser. När vi skapar en kundberättelse kommer vi att använda en riktig kund, säger hon till NRK.