Google Deepmind gör det möjligt att identifiera AI

Idag är det svårt att se skillnad mellan en AI-genererad text och text skriven av en människa. Utvecklingen av algoritmerna går snabbt och människan blir också bättre på att formulera rätt prompt för det slutresultat som önskas. Detta resulterar i att det blir svårare och svårare att veta vad som faktiskt är felaktig information. Denna negativa utveckling har forskare vid Google Deepmind arbetat med, för att hitta ett verktyg som kan identifiera AI-framtagen text utan att påverka själva mjukvaran, innehållets utseende eller kvalité.  

Vattenmärke osynligt för läsarens ögon 

Nu presenterar de SynthID-text, ett verktyg som kan vattenmärka AI-genererad text utan att läsaren ser någon skillnad. Tidigare modeller som tagits fram för att identifiera en AI-genererad text har alla misslyckats med att dölja det för läsaren och påverkat själva AI-genereringens kvalité och tid.  

– SynthID-text inkorporerar osynliga vattenmärken utan att kompromissa med modellens kvalitet, kreativitet eller hastighet, säger Pushmet Kohli, en av forskarna bakom tekniken, i ett pressmeddelande. 

SynthID-text funkar i praktiken 

För att säkerställa att SynthID-text verkligen fungerar i praktiken lät forskarna genomföra ett omfattande test med över 20 miljoner AI-genererade texter. Några av dessa genererades med vattenmärken och andra inte. Testpersoner fick därefter utvärdera de olika texternas kvalitet och det visade sig att ingen märkte någon skillnad mellan vattenmärkta och icke-vattenmärkta texter. 

– Utvecklare av andra AI-modeller kommer nu enklare att kunna identifiera om texter härstammar från deras egna system. Vi hoppas att tillgängligheten av SynthID-text kommer att underlätta vidareutveckling av vattenmärkning och bidra till att bygga ansvarsfulla AI-modeller i framtiden, säger forskarna bakom SynthID-text.