Ny studie: AI försvagar människans eget kritiska tänkande 

I studien utförd med 319 yrkesverksamma från bland annat skola och sjukvård, kunde forskarna se att ju mer människor använder AI i sitt arbete, desto mindre använder de sitt eget omdöme eller kritiska tänkande.  

Sammantaget visade resultaten att ju mer deltagarna litade på AI för att utföra en uppgift, desto mindre utvärderade de resultatet. När användarna däremot hade lägre förtroende för AI, var de mer kritiska till leveransen och utvärderade för att förbättra resultatet. 

“En av de stora ironierna med automatisering är att genom att mekanisera rutinuppgifter och endast lämna undantagshantering till användaren, berövar man denne möjlighet att regelbundet öva sitt omdöme och stärka sin kognitiva förmåga. Detta gör att de blir sämre på att möta oväntade situationer”, säger forskarna i en artikel för 404 Media.

Arbetsförhållanden påverkar

Forskarna kunde också se att användare som förlitade sig på AI producerade mindre varierade resultat för samma uppgift, vilket kan tyda på ett bristande personligt, kontextuellt och reflekterande omdöme.

En annan upptäckt var att arbetsförhållanden påverkade användarna. De som hade ont om tid tänkte mindre kritiskt och de som arbetade i högriskmiljöer – där felaktiga AI-svar kunde få allvarliga konsekvenser – lade mer tid på att kontrollera svaret. 

Forskarna skriver vidare att AI-verktyg behöver designas för att stödja användarnas kritiska tänkande genom att adressera deras medvetenhet, motivation och förmåga.