Genom att surfa vidare godkänner du att vi använder cookies. Jag förstår

En smartare it-nyhetssajt

AI utan transparens

Trots att allt fler företag och organisationer tar fram etiska AI-riktlinjer så har transparensen i besluten minskat. Men tar man inte etikfrågan på allvar kan konsekvenserna bli stora, enligt en ny rapport från Capgemini.

Text Fredrik Adolfsson Foto Adobestock 22 oktober 2020 digit

Glasögon Transparens 960640

I år har US Federal Trade Commission, FTC, etablerat rekommendationer som innebär att AI-system som fattar ett negativt kundbeslut, exempelvis avslag på en låneansökan, måste kunna visa datan som beslutet grundats på. På så sätt ska transparensen öka.

Men enligt Capgeminis årliga rapport på ämnet etik och AI har transparensen i AI-beslut istället sjunkit. Förra året informerade 73 procent av företagen sina kunder hur de kan påverkas av beslut tagna med hjälp av AI, i år ligger siffran på 59 procent. En orsak här kan vara covid-19 som har lett till förändrade kundbeteenden och ökad komplexitet för systemen. Det finns en brist på historiska data från motsvarande situationer som kan användas för att träna systemen.

Rapporten visar även att 70 procent av alla kunder kräver att utfall och beslut från AI-system ska kunna förklaras, och att det ska finnas transparens och rättvisa i kontakten med system från företag som använder AI.

Användandet av AI inom offentlig sektor har ökat under pandemin. Här finns rapporter om fall där social och kulturell särbehandling färgat data som samlats in för att användas i bland annat vården. Ett problem som inte bara finns i offentlig sektor. 65 procent av beslutsfattarna som deltog i undersökningen känner till fall där AI uppträtt diskriminerande, och 60 procent av verksamheterna i studien har utsatts för rättslig granskning eller upplevt missnöje från kunder som en följd av att man använt AI.

Nästan hälften av alla kunder, 45 procent, berättar gärna om negativa upplevelser och avråder andra från att anlita ett företag där man upplevt sig bli dåligt behandlad av AI. Samtidigt säger 27 procent att de skulle avsluta sin relation med en verksamhet där de fått en negativ upplevelse som följd av en diskriminerande AI.

Idag har 53 procent av verksamheterna som deltog i studien en roll i organisationen som ansvarar för etiska frågor kopplat till AI-användning. Författarna till rapporten menar att en sådan roll kan behövas för att säkerställa att etisk tillämpning av AI får tillräcklig vikt och uppmärksamhet i ledningen.

Källa: Capgemini

Capgeminis tips för en mer etisk AI-användning.

  1. Klargör syftet med varje AI-system och se över vilka effekter och situationer som kan uppstå till följd av systemet.
  2. Tillämpa artificiell intelligens där det har positiva effekter för samhälle och miljö.
  3. Se till att AI:n hanterar frågor om mångfald och integration, både vid utformning och användning.
  4. Nyttja de tekniska möjligheterna som finns för att göra AI:n mer transparent och begriplig.
  5. Skapa en mänsklig upplevelse i kontakt med AI och säkerställ att systemen bevakas av människor.
  6. Konstruera tekniskt robusta och säkra AI-system.
  7. Få till en hög integritet genom att ge människor möjlighet att styra i sin interaktion med AI.

Läs mer om ämnet:

Senaste nytt

Molnhype av corona

25 november 2020

Under 2021 förväntas de globala investeringarna i det publika molnet öka med drygt 18 procent och därmed omsätta 305 miljarder dollar. Det menar analysföretaget Gartner.

Spioner i dammsugaren

25 november 2020

Den populära robotdammsugaren kan användas av hackare för att lyssna på dig i ditt hem. Trots att den saknar mikrofon.

Golfa med 3D-print

24 november 2020

Cobra har tillsammans med HP tagit fram världens första 3D-printade golfklubba. Lanseringen sägs vara början på stora förändringar inom sporten.

Revision av RPA

24 november 2020

När myndighetsbeslut tas av datorer ökar ofta effektiviteten och rättssäkerheten, men det sker för lite kontroll och uppföljning. Det visar en ny granskning gjord av Riksrevisionen.

Krav på distansjobb

23 november 2020

Hälften av alla kvinnor mellan 30 till 49 år skulle tacka nej till ett arbete om det inte går att jobba på distans och närmare 90 procent anser att digitalisering leder till ett friare arbetsliv. Det visar en ny undersökning. 

Framtidens drönare

23 november 2020

I projektet Nordic Drone Initiative gå de nordiska länderna samman för att driva på utvecklingen av drönare. Det gäller både gods- och passagerartransporter och kan handla om luft-taxi, autonoma budtjänster och nya turistkoncept.