OpenAI inför osynlig vattenmärkning av AI-text i EU
OpenAI kommer under de kommande veckorna att börja lägga till osynliga vattenmärken i viss text som genereras av ChatGPT och Codex inom EU. Det uppger bolaget i samband med anpassningen till EU:s AI-förordning. OpenAI
ANNONS
Tekniken, kallad textGrain, skapar en statistisk signal genom att påverka modellens ordval utan att märkningen blir synlig för läsaren. OpenAI betonar samtidigt att tekniken har begränsningar och att redigering eller översättning kan göra vattenmärket svårare att upptäcka.
Ett verktyg för att upptäcka märkningen blir inledningsvis tillgängligt för godkända forskare och expertorganisationer. Det ska kunna visa om en OpenAI-märkning upptäcks, men inte identifiera användaren eller avslöja promptar eller konversationer. API-kunder globalt kan själva välja att aktivera vattenmärkning för utvalda modeller, medan funktionen är avstängd som standard. OpenAI planerar även att göra tekniken tillgänglig som öppen källkod.