En AI vi förstår

– Genom att kombinera de här två AI-metoderna hoppas vi göra autonoma system mer robusta, både vad gäller att utvärdera olika situationer och även interagera med sin miljö och med människor, säger Marjan Alirezaie, forskare i datavetenskap på AASS vid Örebro universitet.

En människas hjärna har både en kalkylerande och en analyserande sida. De arbetar ofta tillsammans för att nå fram till slutsatser och lösa diverse dilemman. Artificiell intelligens har också två sidor som delvis kan motsvara dessa funktioner, nämligen en datadriven metod och en kunskapsdriven metod. En skillnad är dock att inom AI så kan dessa inte samarbeta på samma sätt, och så länge det bara går att använda sig av en av metoderna så blir användningsområdena färre, menar Marjan Alirezaie. 

Just denna integration mellan den datadrivna och den kunskapsdrivna metoden är det som Marjan Alirezaie nu ska fokusera på i forskningen.

– Om man enbart förlitar sig på en datadriven metod, så måste man hela tiden ha mycket data – och bra data. Så länge man har det så fungerar systemet okej, men om man bara ändrar lite i situationen eller miljön, så finns det inga garantier att systemet fungerar längre. Maskinen kan lära sig, men den kan inte generalisera det den har lärt sig.

– Så fungerar inte vi människor. Vi kan lära oss genom att titta på någonting, men vi kan också generalisera och anpassa den kunskapen så att den kan användas även i en annan situation eller miljö. Om vi vill ha robusta autonoma system, som inte är beroende av att en människa alltid måste övervaka dem, måste vi få systemen att både kunna lära sig från data men också att kunna generalisera och anpassa kunskapen. 

Diagnosticera hudcancer

En AI-metod är deep learning som exempelvis kan fungera bra när det gäller att diagnosticera hudcancer. Men vi människor vet inte riktigt varför det fungerar och hur det egentligen går till när systemet kommer fram till en slutsats.

– Djupinlärning fungerar väldigt bra i vissa specifika områden, som till exempel att diagnostisera hudcancer. Men vi behöver fortfarande en människa där, eftersom vi inte vet hur systemet fungerar. Vi ser att det kommer fram till en lösning, men vi kan inte se vad som pågår i den ”svarta lådan”.

– Genom att integrera de här två metoderna så försöker vi öppna den svarta lådan och kunna övervaka de processer som pågår. Om systemen blir mer transparenta och kan förklara hur de kom fram till sina slutsatser, så kan vi också lita på dem.

Därför vill Marjan Alirezaie få till en balans mellan det datadrivna och det kunskapsdrivna.

– Även för oss människor är det inte helt uppenbart när vi lär oss genom data och när vi generaliserar och anpassar kunskap. Vi vill skapa en balans, så att de datadrivna och kunskapsdrivna metoderna kan uppdatera och hjälpa varandra – precis som hos en människa. Om den datadrivna metoden till exempel kommer fram till ett resultat som inte stämmer överens med de regler som vi har satt upp, så ska systemet förstå att det måste försöka igen och hitta ett nytt sätt att lösa problemet.

Källa: Örebro universitet