Visselblåsaren Chris Wylie: Ett vägskäl inom teknikutvecklingen

Under Dell Technologies World deltog visselblåsaren Christopher Wylie i en panel om integritet och cybersäkerhet. Christopher Wylie hamnade 2018 i världens blickfång när han avslöjade hur han hjälpt Cambridge Analytica att samla in data från 50 miljoner amerikanska Facebook-användare, en siffra som sedan uppdaterades till 87 miljoner.  

Informationen ska ha sålts till Donalds Trumps valkampanj och ha varit en bidragande orsak till hans seger i presidentvalet 2016. Men Christopher Wylies arbete med sociala medier började dock långt tidigare. Redan 2010 arbetade han för Storbritanniens försvarsministerium med att titta på hur det då nya fenomenet sociala medier kunde hjälpa extremistgrupper att radikalisera personer. 

– Det var första gången som man forskade på sociala medier ur ett nationellt säkerhetsperspektiv. Jag och mitt team arbetade med att motverka extremism, men när Steve Bannon (dåvarande chef på Breitbart News) och några miljardärer i bakgrunden köpte upp företaget användes samma algoritmer i motsatt syfte. 

Steve Bannon ville nämligen starta ett kulturkrig.

– Kartläggningen gick ut på att hitta personer på Facebook som av olika anledningar var missnöjda med sina liv, för att sedan överösa dem med information om att livssituationen inte var deras fel. Då öppnar de upp sig för alla sorters idéer. Och Facebook visste att det här ägde rum.

– När jag insåg i vilket syfte som tekniken användes hörde jag av mig till några journalister på The Guardian och New York Times som började gräva i det. Därefter blåste jag i visselpipan och vittnade inför amerikanska senaten. 

Mer ansvar på företagen

Numera arbetar Christopher Wylie som dataanalytiker på H&M där han bland annat försöker hjälpa bolaget att utveckla etisk AI. Han har också skrivit boken Mindf*uck om sina upplevelser på Cambridge Analytica och har alltjämt mycket åsikter om integritetsfrågor, där han menar att företagen måste ta ett mycket större ansvar än de gör i dagsläget.

– Ansvaret ska ligga hos företagen och personer som utvecklar systemen, det är de som kan förändra dem. Inte minst vad gäller sociala medier; det är inte rättmätigt att kräva att folk ska se skillnaden på desinformation och fakta när allt ser likadant ut. 

– Företag behöver förstå att de är en del av ett geopolitiskt landskap, de behöver förstå att de kan vara ett verktyg för en fientligt inställd främmande stat, där deras system kan användas och hackas för att hota det berörda landets säkerhet.

Dessutom tycker han att vi behöver tänka mer globalt vid utveckling av nya teknologier.

– Inom utvecklingen av exempelvis AI behöver vi tänka mer på hur tekniken kan diskriminera och skada personer när den används på fel sätt, exempelvis av auktoritära stater. Jag vet personligen hur det är att utveckla verktyg som sedan används på helt fel sätt för att skada människor. Teknik som inte är skadlig i exempelvis USA kan i ett annat mer auktoritärt land vara det. Så om du arbetar inom it och utvecklar nya teknologier gäller det att alltid försöka tänka brett.

Säkerhet i ett IoT-samhälle

I ett samhälle där allt blir smart och allt genererar data blir integritet och säkerhet än viktigare, menar Christopher Wylie, vilket han försöker beskriva via ett hypotetiskt exempel.

– Vi är mitt inne i en stor förändring gällande exempelvis IoT och AR. Tänk dig att du i framtiden kommer hem, sätter på din smarta tv som tittar på dig på samma sätt som du tittar på den, den börjar ha konversationer med din kyl och din brödrost. Alla har konversationer om dig, och hur de kan få dig att må och bete dig på ett visst sätt så att du ska köpa mer produkter. Tänk om det systemet skulle bli hackat och alla prylar runtomkring dig blir manipulerade. Det här scenariot är inte speciellt långt bort. 

Datainsamlingar och barn klassificerade av en algoritm

När det gäller stora datainsamlingar tycker Christopher Wylie att det ofta finns en relativt avmätt inställning, där många inte tycker att det är så farligt. Vad spelar det egentligen för roll om företag har mina musiklistor, ser vilka onlinebutiker jag besöker och vet vilka tv-serier jag kollar på?

– Men tänk dig istället att det är en fysisk person som kollar igenom alla dina textmeddelanden, musiklistor och tv-serier, då blir den personen en stalker. Och varför är en stalker obehaglig? Jo, delvis för att du inte vet att den är en stalker. Om du sedan skulle gå på dejt med personen finns en ojämn maktbalans, för hen vet redan allt om dig och kan manipulera dig.

– Om ditt företags enda affärsmodell är att tjäna pengar på folks data, då har du en kass produkt.

Här menar Christopher Wylie att det finns en fundamental fråga för framtiden: Vad händer med barn som blir klassificerade av en algoritm och insatta i en kategori? En algoritm som exempelvis visar upp vilken politisk åsikt du borde ha, vilken musik du ska lyssna på, och vilka tv-serier du ska se.

– Hur växer man som person när vi har ett informationssystem som konstant designar saker åt dig? Sedan kan vi integrera det med IoT och AR, vad händer om 10-20 år framåt när vi använder AR-glasögon som personaliserar din upplevelse av världen?

– En algoritm upptäcker att du inte gillar att se hemlösa, så de försvinner ur din vy. Vad händer egentligen med världen när vi skapar en så hyperpersonaliserad upplevelse, men helt på någon annans villkor? 

Vägskäl inom teknikutvecklingen

Christopher Wylie avslutar med att säga att vi nu befinner oss i ett vägskäl inom teknikutvecklingen där det måste till fler regelverk gällande exempelvis AI, data och sociala medier. 

– Tittar vi på innovationer genom historien, inom exempelvis flyg-, bil- och läkemedelslindustrin, har det i början varit osäkra produkter och relativt lite reglering. Sedan har katastrofer hänt vilket krävt mer reglering. 

– När du exempelvis går på ett flygplan nuförtiden behöver inte du tänka på säkerheten. Dit ska vi komma inom it också. Om du är en person som inte kan något om integritet, övervakning eller cyberkriminalitet ska du ändå känna dig säker när du köper en ny produkt eller börjar prenumerera på en tjänst. Det är leverantörens ansvar att se till att det är säkert, det är inte ditt ansvar som privatperson.