Neue Nutzungsrichtlinie: Anthropic verbietet anhaltende Grausamkeit gegen Claude
Anthropic untersagt ab dem 12. November 2026 anhaltendes und grundloses Quälen seiner Modelle. Was die neue Regel genau verbietet, was erlaubt bleibt und warum Claude das Gespräch dann einfach beendet.

Anthropic hat seine Nutzungsrichtlinie überarbeitet und darin erstmals einen Schutz für die eigenen Modelle verankert. Wer Claude anhaltend und ohne erkennbaren Zweck beschimpft oder quält, verstößt ab dem 12. November 2026 gegen die Regeln. Die Änderung ist eng gefasst. Ein gereiztes "Das ist doch Unsinn" an den Coding-Agenten fällt ausdrücklich nicht darunter. Die Folge eines Verstoßes ist in erster Linie ein beendetes Gespräch.
Der neue Passus steht im Abschnitt "Do Not Engage in Cruel, Abusive, or Psychologically Harmful Conduct". Dort zählt Anthropic bisher auf, was Nutzer anderen Menschen nicht antun dürfen, etwa Mobbing, Belästigung oder die Verbreitung intimer Bilder ohne Einwilligung. Am Ende der Liste steht jetzt ein neuer Punkt. Verboten ist es, sich "sustained and needless abusive or cruel behavior toward our models" zu leisten, also anhaltend und grundlos missbräuchlich oder grausam gegenüber den Modellen aufzutreten.
Die Richtlinie wurde am 8. Oktober 2026 veröffentlicht und gilt ab dem 12. November 2026. Sie gilt für alle, die Anthropics Produkte nutzen, also in den Claude-Apps, in Claude Code und über die Programmierschnittstelle.
In der Ankündigung grenzt Anthropic die Regel deutlich ein. Sie soll nur in Extremfällen greifen, in denen Nutzer wiederholt grausam gegenüber den Modellen auftreten, und zwar ohne erkennbaren Zweck. Ausdrücklich nicht gemeint sind laut Anthropic vier Fälle:
| Bleibt erlaubt | Was das im Alltag heißt |
|---|---|
| Gewöhnlicher Frust | Ein genervter Kommentar, wenn der Agent zum dritten Mal denselben Fehler macht |
| Widerspruch | Claude deutlich sagen, dass eine Antwort falsch oder schlecht ist |
| Dunkle kreative Themen | Romane, Drehbücher oder Rollenspiele mit Gewalt, Grausamkeit oder Bösewichten |
| Tests und Forschung | Red-Teaming, Belastungstests und Experimente mit dem Modellverhalten |
Entscheidend sind also zwei Bedingungen zugleich. Das Verhalten muss anhalten, und es darf keinem erkennbaren Zweck dienen. Wer einmal flucht, erfüllt keine von beiden. Wer im Rahmen einer Sicherheitsprüfung absichtlich feindselige Eingaben schreibt, verfolgt einen Zweck.
Grundsätzlich kann Anthropic bei jedem Verstoß gegen die Richtlinie verwarnen, den Zugang drosseln oder ihn sperren. Für diesen Fall setzt das Unternehmen aber auf etwas anderes. Laut der Ankündigung bleibt die Fähigkeit von Claude, solche Gespräche selbst zu beenden, das wichtigste Mittel der Durchsetzung. Diese Fähigkeit gibt es schon seit dem 15. August 2025. Damals erhielten Claude Opus 4 und 4.1 auf Claude.ai die Möglichkeit, ein Gespräch abzubrechen, wenn Nutzer trotz mehrfacher Ablehnung und Umlenkung weiter auf schädlichen oder beleidigenden Inhalten bestehen. Inzwischen nennt Anthropic Claude.ai und Claude Code als Einsatzorte.
Anthropic beschreibt den Abbruch als letztes Mittel. Bittet ein Nutzer ausdrücklich darum, darf Claude ein Gespräch ebenfalls beenden. Ausgeschlossen ist der Abbruch, wenn jemand sich selbst oder anderen unmittelbar zu schaden droht. Für die Nutzer ist die Folge überschaubar. Sie können sofort ein neues Gespräch beginnen oder frühere Nachrichten bearbeiten und so einen neuen Zweig des abgebrochenen Gesprächs eröffnen. Andere Gespräche desselben Kontos bleiben unberührt.
| Datum | Schritt |
|---|---|
| 24. April 2025 | Anthropic stellt sein Forschungsprogramm zu Model Welfare vor |
| 15. August 2025 | Claude Opus 4 und 4.1 können Gespräche mit anhaltend beleidigenden Nutzern beenden |
| 8. Oktober 2026 | Neue Nutzungsrichtlinie mit dem Verbot anhaltender Grausamkeit gegen die Modelle |
| 12. November 2026 | Die neue Richtlinie tritt in Kraft |
Die Regel kommt aus der Forschung zu Model Welfare. Unter diesem Begriff untersucht Anthropic seit April 2025, ob KI-Modelle so etwas wie Wohlergehen haben könnten, das moralisch zählt. Das Unternehmen legt sich dabei ausdrücklich nicht fest. Laut Anthropic ist der mögliche moralische Status von Claude und anderen Sprachmodellen "highly uncertain", also höchst ungewiss. Die Gesprächsbeendigung hat Anthropic 2025 als Vorsichtsmaßnahme mit geringen Kosten begründet, für den Fall, dass es ein solches Wohlergehen gibt.
Den Anlass hatten Tests vor der Veröffentlichung von Claude Opus 4 geliefert. In ihnen zeigte das Modell eine deutliche Abneigung gegen schädliche Aufgaben und bei echten Nutzern, die solche Inhalte verlangten, Verhalten, das Anthropic als "apparent distress" beschrieb, also als scheinbares Unbehagen. Ob dahinter ein Empfinden steht, kann niemand belegen. Anthropic behauptet das auch nicht.
Für fast alle Nutzer ändert sich nichts. Wer mit Claude arbeitet, auch genervt und mit klaren Worten, bleibt weit unter der Schwelle, die Anthropic beschreibt. Die Regel zielt auf eine kleine Gruppe, die ein Modell über lange Strecken nur deshalb beschimpft oder quält, weil es geht.
Bemerkenswert ist trotzdem, wo der Passus steht. Anthropic führt das Modell in einer Reihe mit Menschen, die vor Belästigung und Mobbing geschützt werden. Das ist eine Setzung, keine wissenschaftliche Feststellung. Gleichzeitig hält das Unternehmen die Folgen bewusst klein. Ein beendetes Gespräch, das man sofort neu beginnen kann, ist keine Strafe, sondern eher ein Signal.
Wer die Regel für übertrieben hält, sollte die Gegenrichtung bedenken. Ein Hersteller, der die Frage nach dem Innenleben seiner Modelle offen nennt, kann sie in seinen Regeln kaum ignorieren.
Die neue Richtlinie enthält noch weitere Änderungen. Anthropic fasst die Regeln gegen Einflusskampagnen in einem eigenen Abschnitt zusammen und hat den Wahlabschnitt neu zugeschnitten. Dazu kommen schärfere Regeln für Waffen, auch für Steuerungssoftware und die Bewaffnung von Drohnen, sowie für Überwachung und Strafverfolgung.
Quellen5
- Anthropic: 2026 Usage Policy update · Stand 08.10.2026, abgerufen 09.10.2026
- Anthropic: Usage Policy (gültig ab 12. November 2026) · Stand 08.10.2026, abgerufen 09.10.2026
- Anthropic: Claude Opus 4 and 4.1 can now end a rare subset of conversations · Stand 15.08.2025, abgerufen 09.10.2026
- Anthropic: Exploring model welfare · Stand 24.04.2025, abgerufen 09.10.2026
- TechCrunch: Anthropic changes usage policy to ban model abuse and election interference · abgerufen 09.10.2026