AI-genererade nakenbilder på tjejer sprids på skolor

På en skola i spanska Almendralejo har nakenbilder spridits mellan eleverna. Bilderna föreställde tjejer som gick på skolan men som inte hade ställt upp på några nakenbilder, utan istället handlade det om fejkade bilder skapade av AI, skriver Svenska Dagbladet. I minst ett fall har även en tolvårig flicka krävts på pengar för att bilderna inte skulle spridas. Även i USA har liknande händelser uppmärksammats. 

Thomas Andersson, ansvarig för barnrättsorganisationen Ecpats hotline, varnar för att den oroväckande trenden snart lär komma till Sverige, om det inte redan sker. 

– Det som kan hända är dels att man sexuellt kränker de här barnen väldigt allvarligt, dels att det här materialet kan användas som utpressning. Om bilden är av hög kvalitet lever du med en ovisshet. Du kan stå där och säga att bilden är fejk, men du vet inte om andra tror på dig, säger han, till SvD.

På nätet finns nu ett antal gratisverktyg, som marknadsförs genom att användare får möjlighet att klä av personer på ett foto. Där kan offren framställas i en naturlig miljö, såsom hemma i tonårsrummet.

Viktigt att anmäla

Eftersom tekniken är förhållandevis ny finns det få exempel som prövats i domstol, men att sprida denna typ av bilder kan klassas som förtal, olaga integritetsintrång eller till och med barnpornografibrott. 

Enligt Thomas Andersson är det väldigt viktigt att anmäla om man utsätts för AI-genererade nakenbilder, och att föräldrar pratar med sina barn. 

– Det behövs fler samtal kring vad som är okej. Det är oerhört viktigt att alla förstår att den som utsätts inte gjort något fel, men att den som producerar eller sprider dessa bilder kan begå ett brott, säger Thomas Andersson.