Enkelt att lura AI
3D-masker och bilder i telefonen har lurat ansiktsigenkänningssystemen på såväl en av världens största flygplatser som stora betaltjänster. Kanske finns det anledning att vara mer kritisk till användningen av biometri och AI när mycket står på spel.
AI-företaget Knerons utvärdering av ansiktsigenkänning på offentliga platser visar att tekniken inte är så säker som många nog tror. I Asien använder betaltjänsterna AliPay och WeChat ansiktsigenkänning för kundernas betalningar i butiker. Genom att använda 3D-printade masker i hög kvalitet kunde Knerons medarbetare lura betalningssystemen och göra inköp.
AliPay och WeChat liknar de ansiktsigenkänningssystem som används på flygplatser där individens ansikte validerar identiteten, i stället för fingeravtryck eller en pin-kod. Teoretiskt är det alltså möjligt att använda någon annans ansikte och bankkonto för att shoppa.
49 miljoner resenärer
Knerons tester omfattar också viktiga transportnav som Schipol, Nederländernas största flygplats med 49 miljoner resenärer varje år. Här kunde Kneron-teamet lura sig in via snabb-incheckningen genom att bara visa ett foto på en telefonskärm.
Teamet uppger också att de på samma sätt kunde passera spärrarna på olika järnvägsstationer i Kina, där ansiktsigenkänning används både för att betala biljetterna och kliva ombord på tågen.
Sköldpadda blev gevär
Det finns fler granskningar av tillförlitligheten hos AI och ansiktsigenkänning. Bland annat har forskare vid MIT förvirrat Googles AI som misstog bilder av en sköldpadda för ett gevär. Det finns också försök som visar hur det med hjälp av AI går att kopiera en annan människas fingeravtryck.
Kneron genomförde experimenten för att lära sig om teknikens begränsningar och som ett led i utvecklingen av en egen ansiktsigenkänningsteknologi baserat på Edge AI.
Källa: Fortune
Läs mer om ämnet:
