Bieffekter av generativ AI slår hårt mot Wikipedia

Det hela upptäcktes när Wikipedia-redaktörer började lägga märke till onaturliga uttryck som visade tydliga tecken på att vara skapade av AI, skriver Extreme Tech. Ilyas Lebleu, en av grundarna till arbetsgruppen WikiProject AI Cleanup, berättar att hans team sökt igenom sajten och tagit fram några av de allra tydligaste exemplen på AI-genererade artiklar, för att upptäcka vanliga AI-fraser som sedan kan användas för att hitta mer AI-genererat innehåll.

Ett tydligt exempel på AI

Ett sådant exempel var informationen som de hittade om den 600 år gamla osmanska fästningen Amberlisihar – en fästning som aldrig existerat. En text på mer än 2000 ord berättar om fästningens konstruktion och väver in människor och detaljer som är sanna för denna era. Men egentligen är det en AI-genererad artikel om ett påhittat historiskt landmärke med inslag av sanning, något som för den ovetande kan upplevas helt trovärdigt.

Teamet har också hittat innehåll som inte är lika grundligt AI-genererat. Till exempel har man klistrat in felaktig AI-information i redan existerande och pålitliga artiklar, vilket gör det ännu svårare för läsare att avgöra vad som är sant och inte. Beteendet i sig, att vissa Wikipedia-redaktörer använder ChatGPT för att skapa innehåll och sedan adderar det till befintligt innehåll, är ett problem. Motivet bakom kan vara att volontära redaktörer till Wikipedia är obetalda och därmed inte har mycket att förlora. Wikipedia vill vara tydliga med att deras eget team med anställda aldrig skulle använda verktyg som ChatGPT för att skapa innehåll.

– WikiProject AI Cleanup gör sitt bästa för att skydda Wikipedia från samma typ av vilseledande AI-genererad information som idag finns över hela internet, skriver Emanuel Waiberg i en artikel för 404.