Kaum hatte Anthropic ein System zum unsichtbaren Kennzeichnen von KI-Inhalten angekündigt, kursierten bereits Wege, es auszuhebeln. Das berichtet das Technologiemagazin «Wired». Anthropic will mit den Wasserzeichen den neuen EU-Vorschriften gerecht werden. Zwischen der Ankündigung und dem ersten Workaround vergingen nur wenige Stunden.
Anthropic hatte vergangene Woche bekanntgegeben, dass Claude KI-generierte Texte künftig mit unsichtbaren Wasserzeichen versehe. Die EU verlangt künftig, dass KI-Anbieter generierte Inhalte maschinenlesbar kennzeichnen. Das Ziel: Nutzerinnen und Nutzer, aber auch Plattformen und die KI-Betreiber selbst sollen erkennen können, ob ein Text oder ein anderes Produkt von einem KI-System erzeugt wurde.
Werbung
Die Umsetzung scheint jedoch weniger robust als erhofft. Laut «Wired» tauchten innerhalb von Stunden nach der Ankündigung in Online-Foren Methoden auf, mit denen das Wasserzeichen entfernt oder umgangen werden kann. Wer hinter diesen Workarounds steckt und wie aufwendig sie anzuwenden sind, lässt das verfügbare Material offen.
EU-Vorgaben unter Druck
Die Entwicklung stellt die Verlässlichkeit von Wasserzeichen als Regulierungsinstrument grundsätzlich infrage. Die EU setzt mit ihrer KI-Gesetzgebung auf Transparenzpflichten, darunter die erwähnte Kennzeichnung maschinell erzeugter Inhalte. Wenn solche Schutzmassnahmen in kürzester Zeit ausgehebelt werden können, wackelt nicht nur Anthropics Lösung, sondern das gesamte Konzept der technischen Kennzeichnung.
Für Anthropic ist der Vorfall auch ein PR-Problem zum ungünstigen Zeitpunkt. Das Unternehmen versteht sich seit Längerem als besonders sicherheitsbewussten Akteur im KI-Bereich. Bei Wasserzeichen lässt sich diese Sicherheit offenbar nicht durchsetzen.
Quelle: Wired – «Coders Say They Already Found Workarounds to Claude’s Invisible Watermarks»
