Så tränas en bot

– När man jobbar med konversations-AI inser man rätt fort att de mjukvaror som finns på marknaden fortfarande inte är supermogna. Det tar exempelvis tre till fyra månader att utveckla en digital assistent anpassad till sin kontext och som kan hålla en fri dialog inom några specifika användarområden, säger Sandy Sandhu, managementkonsult på Accenture och specialiserad på AI.

Eftersom det fortfarande tar relativt lång tid att lära en bot är det viktigt att ha rätt förväntningar när man börjar utveckla en digital assistent. Det är en organisk produkt som förstår så mycket som man lär den och som utvecklas över tid.

Alltfler företag satsar på digitala assistenter för att avlasta och assistera sin personal med kommunikationstunga och vanligt förekommande processer. Några typiska applikationsområden att börja med är interna HR- och it-funktioner.

Om man till exempel har en applikation som väldigt många anställda har frågor om, och har problem med att logga in på, kan en digital assistent hjälpa till att felsöka problemen. Därefter kan botten själv lägga en ticket.

AI i en digital assistent

Natural Language Processing (NLP) möjliggör för en digital assistent att processa och förstå hur vi människor pratar och skriver. NLP är alltså en applicerad AI. Konversations-AI:s är något som funnits sedan 60-talet. Anledningen till dess uppsving nu är de framsteg som gjorts inom maskininlärning och djupinlärning, som är en delmängd av maskininlärning. Djupinlärningsmodeller inom NLP kan analysera stora volymer av text och förstå innebörden av den, vilket resulterar i att digitala assistenter idag är mer människolika än vad de var på 60-talet.

Utvecklingen av digitala assistenter sker oftast på plattformar med befintliga språkförståelsemodeller och innehållet måste däremot alltid anpassas till det område det ska användas. För att förbättra den digitala assistentens förståelse för specifika sammanhang, matas några olika formuleringar av frågor och svar in för att träna den.

Ansvarsfull implementering

Ansvarsfull implementering och hantering är grundläggande och något som företag måste tänka på när de utvecklar en digital assistent, oavsett om den är extern eller intern. Det handlar om vilken data som den digitala assistenten tränas med, hur datan som den erhåller hanteras och används, och vem som bär ansvar för datan.

GDPR finns som riktlinje för hantering av data som erhålls i konversationer. I de projekt som Accenture driver har man exempelvis bestämt att all data ska raderas efter 30 dagar efter inhämtning om det inte finns ett specifikt syfte att behålla den.

– Att vara transparent inför användaren med hur dennes data och konversationer avses att användas är superviktigt för fortsatt utveckling av konversations-AI. Vi ser till att all implementation av AI-system som vi gör följer riktlinjer för ansvarsfull implementering och därmed följer lag, etiska principer och värderingar och är robust ur både ett tekniskt och socialt perspektiv, säger Sandy Sandhu.

Testa, testa, testa

Hur användbar och smart en digital assistent blir beror på hur mycket den testats. När den nått en acceptabel nivå och är redo att gå live är det viktigt att den övervakas av en mänsklig medarbetare som analyserar implementerade mätetal och kan återinföra lärdomar till assistenten. Om man i analysen ser att användare använder slangord eller förkortningar som den digitala assistenten inte förstår är det den mänskliga medarbetarens ansvar att återinföra den kunskapen till den digitala assistenten.

– Det finns smarta mjukvaror där man under utbildningen av den digitala assistenten väljer att antingen ticka i en box att botten gav rätt eller fel svar om botten är osäker. Vi har sett exempel på oövervakade chattbottar som inte haft en kontrollerad återinföring av kunskap, vilket lett till att den lärt sig fel saker. Ett exempel är Microsofts chattbot Tay som lärde sig oövervakat av medlemmarna på Twitter och på mindre än en dag kunde liknas vid ett nättroll med extrema åsikter. Med övervakning ser man istället till att den digitala assistenten utvecklas i önskad riktning och inte lär sig ”fel” saker, säger Sandy Sandhu.

Precisionsnivån av hur mycket den digitala assistenten måste förstå sätts med avseende på användningsområdet.

– En tumregel som jag har använt är att en digital assistent ska kunna svara rätt med 96 procents precision. Det antas vara en god nivå givet att människors allmänna språkförståelse ligger på omkring 94 procent.