Texte und Dateien, die mit dem KI-Chatbot Claude erstellt oder bearbeitet werden, werden künftig automatisch markiert. Anthropic führt dazu zwei Methoden ein: unsichtbare Muster im Text und digitale Signaturen in Mediendateien. Das hält das Unternehmen in einem Support-Dokument fest. Auslöser ist der AI-Act der EU, dessen Anforderungen Anthropic nach eigenen Angaben erfüllen will. Die Markierungen werden weltweit eingesetzt, nicht nur in der EU.
Anthropic setzt auf zwei Verfahren. Erstens bettet Claude unsichtbare Muster direkt in generierten Text ein, sogenannte Textwasserzeichen. Zweitens tragen erzeugte Mediendateien digitale Signaturen, die belegen, dass Claude die Datei verarbeitet hat. Beide Methoden gelten für Modelle, die nach dem 2. August in der EU eingeführt werden. Laut Anthropic kommen sie dennoch überall auf der Welt zum Einsatz.
Grenzen der Erkennung
Anthropic räumt selbst zwei wesentliche Schwächen seines Systems ein. Wer Claude nur zum Korrekturlesen, Formatieren oder Übersetzen eines menschlich verfassten Textes nutzt, riskiert trotzdem, als KI-generiert markiert zu werden. Das bedeutet: Auch menschliche Inhalte könnten fälschlicherweise als KI-generiert gelten.
Werbung
Umgekehrt lässt sich die Markierung auch umgehen. Wird ein Text stark umgeschrieben, mit anderen Texten vermischt oder ist er schlicht zu kurz, können die Wasserzeichen nicht mehr zuverlässig erkannt werden. Anthropic räumt damit ein, dass die Technologie keinen lückenlosen Nachweis ermöglicht.
Die Kennzeichnungspflicht für KI-generierte Inhalte ist ein zentrales Element des europäischen KI-Gesetzes. Anthropic ist damit eines der ersten grossen KI-Unternehmen, das konkrete technische Massnahmen zur Umsetzung öffentlich beschreibt. Ob andere Anbieter nachziehen und sich branchenweite Standards herausbilden, ist noch nicht bekannt.
Quelle: Anthropic Support: «How Claude marks AI-generated content»
