Mikko Hyppönen: Vi är i begynnelsen av historiens största techrevolution

Under säkerhetseventet Sphere i Helsingfors pratade säkerhetsexperten och Withsecures forskningschef Mikko Hyppönen om internets tillstånd, säkerhetsläget, artificiell generell intelligens och vad AI-utvecklingen kan innebära för nya hot mot verksamheter framöver.  

– Säkerhetsmässigt är vi i samhället på en bättre plats än någonsin. Jag vet att det inte känns så eftersom det dagligen skrivs om nya attacker, läckor och intrång. Men då vill jag att vi går tillbaka tio år och tänker på hur det såg ut då.  

– För ett decennium sedan var Flash fortfarande väldigt mainstream. Då surfade vi på webben med webbläsare som körde kod direkt från webbplatserna med hjälp av Flash-pluginen. Ett av de främsta sätten att bli infekterad var genom så kallade "drive-by downloads". Din dator kunde då bli infekterad av malware eller banktrojaner, så mycket har hänt.  

Med det sagt menar inte Mikko Hyppönen att samhället nödvändigtvis är på väg att vinna kriget mot de cyberkriminella, men att systemen som används, arkitekturen som byggs i nya datorsystem och lösningarna som säkerhetsföretag levererar är bättre än någonsin. Tyvärr blir även de cyberkriminella bättre på att utföra sina angrepp.  

– Nu oroar sig verksamheter över bland annat ransomwareattacker, DDoS-angrepp och BEC-attacker där angriparen i ett mejl utger sig för att vara vd eller CFO och ber om pengar. Stora företag har resurser för att försvara sig, men mellanstora företag (mellan 200 och 2 000 anställda) är eftersatta på säkerhetsområdet.  

Intelligensrevolution och AI-bubbla

En teknik som kraftigt kommer att påverka it-säkerheten – och världen i stort – framåt är föga förvånande AI. Mikko Hyppönen menar att det finns inget som förändrar våra liv så mycket som tekniska revolutioner, och nästa revolution är intelligensrevolutionen.  

– Vi har sett några stora techrevolutioner under vår livstid. Ett exempel är mobilrevolutionen som innebar att alla nu har tillgång till världens samlade information i sin ficka. Och uppkopplingsrevolutionen, det vill säga att alla nu har tillgång till globala informationsnätverk, det hade vi inte heller för 30 år sedan. Dessa förändrade världen något enormt, men intelligensrevolutionen kommer att innebära ännu större förändringar.  

Dock tror Mikko Hyppönen att det kommer ta lite längre tid innan intelligensrevolutionen tar fart på allvar. När samhället är på väg in i en ny revolution har vi en tendens att överskatta farten på den men underskatta omfattningen. Hyppönen tror att det finns en AI-bubbla just nu som är på väg att spricka.  

– Jämför med it-bubblan vid millennieskiftet. Löftena som gavs kring internetrevolutionen runt 1999, innan bubblan sprack, var att alla kommer att shoppa och titta på filmer online. Det är exakt det alla gör nu, men det tog många år att komma dit. 1999 var det ingen som förutspådde att vi alla skulle ha internet i våra mobila enheter – så det är svårt att i ett tidigt skede se exakt hur en kommande revolution kommer att förändra världen.  

För att understryka svårigheterna med att förutse framtiden lyfter Hyppönen en intervju med Marc Andreessen som under tidigt 90-tal skapade webbläsaren Mosaic.  

– I intervjun får Andreessen frågan vad man kan göra i webbläsaren och han svarade flera gånger: ”Vad som helst. Du kan göra vad som helst och bygga vilka tjänster som helst.” Han kunde inte konkretisera alls eftersom inget existerade på nätet än.  

– Allt var möjligt men inget hade skapats, och det är i detta skede som vi är i just nu med AI. Vi vet inte än vad som kommer att hända, men jag tror att en bubbla kommer spricka innan vi når dit.

Artificiell generell intelligens

Mitt i rådande intelligensrevolution står företaget OpenAI, utvecklare av bland annat ChatGPT och Dall-E. Ett företag som fram till förra året hade som mission att skapa AGI – artificiell generell intelligens. Artificiell generell intelligens innebär att allt som vi människor kan göra, kan även en maskin göra.  

– Människans intelligens är högst godtycklig och det finns ingen logisk förklaring till att intelligens hos artificiella saker skulle stanna vid vår nivå. AI är därmed den första techrevolutionen som har förmågan att förbättra sig själv.  

– Ett exempel: Vi kan ge ett generativt AI-system dess egen källkod och förklara för systemet att det där är dess kod. Vi kan be systemet att gå igenom koden, lista ut hur systemet fungerar och be systemet att utveckla sig själv, små förbättringar räcker. Sedan ber du systemet att köra den nya versionen av sig själv och gör om samma utvecklingsprocedur igen, tio miljarder gånger. Då landar vi i något som vi människor inte förstår längre, samtidigt som systemet inte förstår våra intelligensbegränsningar.  
 
Detta scenario kan även vara en av anledningarna till att OpenAI utreder universell basinkomst för alla människor, enligt Mikko Hyppönen. 

– OpenAI ser en framtid där ingen behöver arbeta, där allt välstånd genereras av AI. Men återigen, det är lätt att överskatta farten men underskatta kraften i en revolution – detta kommer inte hända nästa år, men det är möjligt att det sker någon gång i framtiden. 

Deepfakes, deepscams och automatiserade malware-kampanjer

Men alla hot och möjligheter kopplat till AI behöver inte ligga långt fram i tiden. I Mikko Hyppönens roll som forskningschef på Withsecure arbetar han just nu mycket med hot från generativ AI som kan påverka verksamheter i närtid. Det mest kända området är deepfakes där det – likt 1999 under inledningen av internetrevolutionen – finns en överdriven hajp just nu, menar Hyppönen.  

– Om man läser nyheterna får man lätt en bild av att vartenda företag över hela världen har blivit bombarderade med Teams-samtal med realtids-deepfakes som föreställer deras CFO. Så ser dock inte verkligheten ut. Tekniken finns, men vi ser det inte hända i stor skala än.  

Besläktat med deepfakes finns ett annat kommande AI-hot: deepscams. Där deepfakes är kloner av ansikten och röster är deepscams istället storskaliga bedrägerier som kan handla om alltifrån romanser till hotellnätter till auktioner. I dagsläget sköts den här typen av bedrägerier mestadels av människor, vilket innebär att det finns begränsningar i hur mycket pengar de kan komma åt.  

– Exempelvis kan inte en mänsklig romansbedragare hålla hur många chattar som helst igång samtidigt. Men när dessa bedragare börjar använda sig mer av stora språkmodeller (LLM:er) kan de lura miljoner personer samtidigt, på alla möjliga språk.  

Ett helt annat hot handlar om fullt automatiserade malware-kampanjer. Detta är något som de cyberkriminella inte använder sig av speciellt mycket än, men som skulle kunna snabba upp deras processer betänkligt.  

– Vi på Withsecure och andra säkerhetsföretag använder AI, ML och automatisering för att snabbt kunna hantera händelser, något som inte cyberkriminella har gjort. När vi exempelvis svartlistar en IP-adress eller IP-intervall, kategoriserar ett mejl som phishingmejl eller blockerar en domän tar det timmar eller dagar för angriparna att upptäcka det.  

– Allt detta är lätt att automatisera och det kunde de ha gjort redan. Hur vi vet att de inte gjort det? De är fortfarande långsamma. När de väl börjar automatisera detta blir det en kamp mellan god AI och ond AI, och där kan vi ha en fördel eftersom vi har hållit på med det i flera år. 

Mikko Hyppönen misstänker också att angripare alltmer kommer att använda sig av generativ AI för att hitta okända sårbarheter i program. Här kan kriminella ge valfri källkod till en AI, få AI:n att förstå hur programmet fungerar och hitta alla buggar i koden som kan utnyttjas på distans. När de gjort detta ber de AI:n att skriva ny kod som kan exploatera buggarna.  

– Vi är väldiga nära att vara där idag, rent tekniskt. De stora språkmodellerna kan ju inte bara alla mänskliga språk utan även samtliga programmeringsspråk, eftersom de har tillgång till Github och har läst igenom varenda kod där. Detta kan vara bra om det är du som försöker hitta sårbarheter i dina program, men självklart inte lika bra om det är andra som gör det.

Upp- och nedsidor med allt

Och så är det egentligen alltid med techrevolutioner – det finns både upp- och nedsidor. Exempelvis internet är både det bästa och det sämsta som har uppfunnits men det är inte möjligt att ”oupptäcka” teknik som redan finns, menar Mikko Hyppönen.  

– Det finns inget som förändrar världen så mycket och så snabbt som tekniska revolutioner. Internetrevolutionen tog 20-30 år, AI-revolutionen kommer att gå snabbare. Sedan kommer frågan vad som blir nästa techrevolution? Det är omöjligt att veta idag men troligtvis kommer den inte att byggas av människor, utan av AI. Det är spännande men självklart också lite läskigt.