Stopp för laglös AI

– Å ena sidan finns det faror, å andra sidan möjligheter. Vi kan tjäna mänskligheten om vi använder AI till saker som är positiva för människor, som att upptäcka sjukdomar. Men om vi använder AI för att exploatera mänskligheten, så kan följderna bli mycket negativa. Det är orsaken till att vi måste agera på ett etiskt sätt, säger Cristina Trenta, docent i rättsvetenskap vid Örebro universitet.

Stöd från Vinnova

Hon ingår i en grupp forskare inom olika discipliner som ska genomför en första studie kring ett nytt system för en hållbar AI-utveckling. Under ledning av stiftelsen Lightnet Foundation är målet att utveckla ett digitalt verktyg som ska hjälpa AI-projekt att följa god etik och gällande lagar och förordningar. Vinnova stödjer den första delen av projektet.

Den prototyp till ett avancerat verktyg som man tänker konstruera ska ha kontroll över utvecklingen av ny AI. Bakgrunden till projektet är förhoppningarna om hur AI ska kunna användas i framtiden.

FN och EU

Frågan om hur den nya tekniken ska hanteras juridiskt är högaktuell och behandlas på många olika nivåer. FN-organet Unesco arbetar med frågan, och EU-kommissionens expertgrupp har nyligen publicerat ett etiskt ramverk för AI.

Där konstateras att tillförlitlig AI helst ska uppfylla tre kriterier: den ska följa lagarna, vara etisk och tekniskt pålitlig. Redan idag finns en del internationella och nationella lagar som går att använda som grund. Men AI-utvecklingen kommer att ställa mycket höga krav på lagskrivarna.

– Teknik ändras snabbt, lagar långsamt. Vi kan inte skriva en lag som är inaktuell redan när den börjar användas. Vi måste kunna se in i framtiden, säger Cristina Trenta.

Källa: Örebro universitet