Tegmarks tredje liv

– Efter 13,8 miljarder år har universum vaknat. Aldrig tidigare har liv haft de möjligheter som det har idag. Men för de kraftfulla verktyg vi kan bygga idag och imorgon, måste vi människor också se till att kunna styra vägen dit, säger Max Tegmar, professor i fysik vid MIT i Boston i USA, i sin keynote på Internetdagarna i Stockholm.

Max Tegmark är medgrundare till Future of Life Institutet, som sedan mars år 2014 undersöker möjligheterna, men kanske framförallt riskerna, med artificiell intelligens i framtiden.

Och det kanske är det senare som han är mest känd för i Sverige, att han betonar vikten av att vi idag tänker vilken värld vi vill ha imorgon, när det handlar om AI, och framförallt så kallad Artificial Generell Intelligence, AGI.

Life 3.0

Max Tegmark utgår från sin senaste bok Life 3.0, där han beskriver tre olika typer av möjligt liv. Den första beskriver han som bakterier och andra ”dumma” livsformer som är helt och hållet programmerade och där inlärning under livscykeln inte förekommer.

Den andra är vi människor exempel på: varelser som har förmågan att lära sig av sin omgivning; varelser som har en form av mjukvara, det vill säga en hjärna, som hela tiden utvecklas. En hjärna som har tagit oss till månen och som uppfunnit internet.

Den tredje, Life 3.0, kommer med en så pass sofistikerad intelligens, att den typen av liv kan förstärka sig själv; superintelligensen kan konstruera nya bättre algoritmer, som i sin tur skapar ännu bättre algoritmer, och så vidare.

– Jag är mot det jag kallar för kol-chauvinism, det vil säga att det är bara livsformer som de här på jorden där grundämnet kol står för de minsta byggstenarna, är det enda livet som är möjligt. Liv kan åstadkommas på flera sätt, och vi måste vara beredda, för i mina ögon är det bara en tidsfråga, säger Max Tegmark. 

Och det är den tredje formen av liv som vi nu kan komma att stå inför. Max Tegmark delar upp den resan och möjligheten i tre spår.: kraft, navigering och destination.

Kraft

De olika typer av maskinintelligens som idag existerar är fortfarande väldigt nischade, inte minst på de områdena där den är överlägsen våra mänskliga förmågor. Det numera klassiska exemplet är hur Google Alpha Go vann det på det urgamla spelet GO mot världsmästaren Ke Jie, efter att ha läst av 1000-tals med tidigare spel och drag, och mött andra mänskliga motståndare. Bara ett år senare kunde Alpha Go Zero vinna över Alpha Go 100 av 100 gånger, efter att istället blott ha tränat mot sig själv, om och om igen.

Andra exempel handlar om alltifrån hur AI kan hjälpa läkare att ställa rätt diagnoser, till hur riktiga robotar kan springa och göra bakåtvolter, tack vare alltmer sofistikerade algoritmer. 

På det stora hela får vi fler och fler exempel på när robotar och maskininlärningsmjukvaruprogram blir betydligt snabbare och effektivare än oss människor att utföra en viss typ av uppgifter, vilket reser den kontroversiella möjligheten: kan AI någon gång springa förbi oss människor och bli superintelligent, i ordets rätta bemärkelse?

När Max Tegmark har anordnat seminarier i USA med några av världens mest ledande filosofer, dataingenjörer, och AI-forskare, svarar åtta av nio jakande på frågan om vi i framtiden kommer ha generell artificiell intelligens. Och det är vägen dit vi nu måste staka ut på bästa sätt.

Navigering

Det är inte så att artificiell intelligens med nödvändighet blir ond och har som mål att utrota oss människor. Det handlar snarare om att vi människor inte blir sedda och inte värderas av denna framtida intelligens.

– Det handlar om att vi måste hitta sätt att få den här generella artificiella intelligensen att ha värderingar som linjerar med våra mänskliga värderingar. Det riktiga hotet är inte såsom Hollywood framställer det med robotar som förintar oss med sina vapen, utan det handlar snarare om vad som händer med oss när AI är mer kompetent än vad vi är. Det är inte ren ondska som driver Spetsnoshörningen till utrotning i Afrika, utan snarare något som har hänt för att deras mål inte rimmar med våra mål.

Men det vi inte kan göra är att luta oss tillbaka och tro att allt kommer att lösa sig själv. Det krävs förberedelser, planering, och att vi tänker ordentligt på frågan. Med bilen lärde vi oss att om vi sätter in ett bilbälte, så förhindrar vi dödsfall i trafiken, men vi vill inte lära oss vad som händer om vi släpper en vätebomb över Stockholm. Med vissa företeelser har vi helt enkelt inte råd att lära oss av våra misstag.

– Detta kan låta som skrämselpropaganda, men det handlar inte om det. Det handlar om att hitta förnuftiga tillvägagångssätt för att tackla svåra frågor. Inom både kemi och biologi har forskare tagit ställning mot att överlagt bidra till utvecklingen av kemiska och biologiska vapen, och det är inget kontroversiellt. Jag ser på denna fråga på liknande sätt. Och i dagsläget är det en fråga och ett område som det satsas och forskas alldeles för lite på, säger max Tegmark.

Destination

Inte helt orimligt landar Max Tegmark i att destinationen förstås måste vara en snäll AI. En generell AI vars mål rimmar med våra och som kan hjälp oss att eliminera alla våra dåliga upplevelser, och förstärka våra goda upplevelser, och även utöka dem.

– Vårt största misstag är att tro att allt automatiskt kommer att bli bra. Ett misstag för mycket kan leda till människans undergång. Om vi istället tänker igenom vilken framtid vi vill ha, finns nästan inga drömmar som är för stora. Alla människor kan bli rikare, och vi kan till och med kunna röra oss utanför jordens gränser. Men då måste vi se till att generell artificiell intelligens inte överväldigar oss, utan istället stärker oss.