Ab Dezember 2026 müssen alle KI-Unternehmen, die in der EU tätig sind, von der KI generierte Inhalte kennzeichnen. Anthropic hat angekündigt, dass Claude künftig generierte Texte mit einem «Wasserzeichen» versehen werde. Damit greift Anthropic in die Entscheidungen ein, die Claude beim Formulieren trifft. Die entscheidende Frage: Leidet die sprachliche Qualität des Outputs darunter?
Konkret verändert Anthropic den stochastischen Prozess, mit dem das Modell beim Schreiben zwischen gleichwertigen Wörtern wählt, etwa ob ein Wald «Forst» oder «Gehölz» heisst oder ein kleiner Bach «Bächlein» oder «Rinnsal». Beim Wasserzeichen handelt es sich um ein Muster in diesen winzigen Entscheidungen, das nur mit dem passenden Schlüssel erkennbar ist. Für den Durchschnittsleser soll das Muster nicht wahrnehmbar sein.
Perverse Verfälschung des Schreibprozesses
Der amerikanische Tech-Blogger John Gruber kritisiert den Ansatz im «Guardian» scharf. Das Wasserzeichen schränke das Modell ein und zwinge es dazu, schlechtere, weniger präzise Wörter zu wählen, argumentiert er. Das sei eine «perverse Verfälschung» dessen, was Schreiben bedeute. Steven Murdoch, Informatikprofessor am University College London, widerspricht Grubers Bedenken im «Guardian»: LLMs arbeiteten stets mit Zufallselementen, sonst gerieten die Modelle in Schleifen und wiederholten sich ständig. Das Wasserzeichen verändere diesen Zufallsgenerator lediglich minimal. Murdoch sagt deshalb: «Es wird keinen merklichen Unterschied geben.» Der Prozess sei nicht mehr vollständig zufällig, bleibe aber statistisch unvorhersehbar.
Werbung
Murdoch nennt im «Guardian» ein weiteres Argument für das Wasserzeichen. Das Internet sei inzwischen so stark mit KI-generierten Inhalten durchsetzt, dass Sprachmodelle beim Training laufend auf solche Texte stossen. Das führe zu «Model Collapse»: Die Modelle degenerieren. Wasserzeichen machen KI-Texte als solche erkennbar und könnten diesen Effekt eindämmen.
Die EU-Regulierung tritt im Dezember in Kraft und gilt für alle Anbieter, die auf dem europäischen Markt tätig sind. Das dürfte den Umgang mit KI-generierten Inhalten verändern. Das betrifft Medienschaffende, aber auch Studierende oder Anwälte. Der Schritt von Anthropic ist damit ein erster konkreter Umsetzungsversuch der EU-Regulierung.
Quelle: «The Guardian» – Aisha Down: «Claude to start watermarking AI-generated text – but will it make quality worse?»
