Anthropic reagiert auf Kritik: Anpassungen bei KI-Modell Fable 5 angekündigt

Die Einführung des neuen KI-Modells Fable 5 durch Anthropic, das als erste allgemein verfügbare Variante der leistungsstarken „Mythos“-Klasse konzipiert wurde, hat in der KI-Forschungsgemeinschaft eine intensive Debatte ausgelöst. Im Zentrum der Kontroverse standen zunächst verdeckte Sicherheitsmechanismen, die das Unternehmen implementiert hatte, um bestimmte Anfragen, insbesondere im Bereich der sogenannten „Distillation“, zu handhaben. Diese Praktiken führten zu erheblicher Kritik hinsichtlich Transparenz und wissenschaftlicher Integrität, woraufhin Anthropic nun eine Kurskorrektur angekündigt hat.

Verdeckte Eingriffe und die Kritik der Fachwelt

Anthropic hatte Fable 5 mit Schutzmechanismen ausgestattet, die bei Anfragen zur „Distillation“ – dem Prozess, bei dem die Ausgaben eines leistungsstarken Sprachmodells zum Training konkurrierender KI-Systeme genutzt werden – im Hintergrund aktiv wurden. Das Modell erkannte solche Anfragen und passte seine Antworten gezielt an oder verschlechterte diese, ohne die Nutzer explizit darüber zu informieren. Dieses Vorgehen wurde von Forschern und Entwicklern als intransparent und potenziell irreführend kritisiert. Es wurde befürchtet, dass solche verdeckten Eingriffe die Validität von Tests und wissenschaftlichen Untersuchungen des Modells beeinträchtigen könnten.

Einige Experten äußerten die Sorge, dass eine derartige „geheime Sabotage“ einen gefährlichen Präzedenzfall schaffen könnte, da Nutzer nicht wüssten, ob die erhaltenen Antworten unverfälscht sind oder manipuliert wurden. Die Kritik konzentrierte sich auch darauf, dass Fable 5, das als allgemein verfügbare Version des leistungsstarken Mythos 5 Modells vermarktet wurde, in bestimmten sensiblen Bereichen absichtlich weniger hilfreiche Antworten lieferte.

Anthropics Reaktion: Mehr Transparenz und Entschuldigung

Als Reaktion auf die breite Kritik hat Anthropic eine Änderung seiner Richtlinien angekündigt und sich für den ursprünglichen Ansatz entschuldigt. Das Unternehmen räumte ein, dass die Entscheidung, unsichtbare Schutzmechanismen zu implementieren, um Fable 5 schnell und sicher bereitzustellen, rückblickend falsch war. Man betonte, dass Nutzer in der Lage sein sollten, die aktiven Schutzmaßnahmen nachzuvollziehen und deren Gründe zu verstehen.

Die angekündigte Kurskorrektur sieht vor, dass Distillation-Anfragen zukünftig sichtbar behandelt werden. Anstatt Antworten heimlich zu verändern, wird Fable 5 in solchen Fällen auf das ältere Modell Claude Opus 4.8 zurückfallen. Dieses Vorgehen entspricht bereits den Mechanismen, die für Schutzmaßnahmen in den Bereichen Cybersicherheit und Biologie angewendet werden. Nutzer sollen bei einer solchen Umleitung einen expliziten Hinweis erhalten. Für API-Kunden wird Anthropic zudem den Grund einer Ablehnung explizit zurückgeben, wodurch ersichtlich wird, ob eine Antwort von Fable 5 oder einem Fallback-Modell stammt. Ein serverseitiger Fallback für API-Anfragen soll in den kommenden Tagen umgesetzt werden.

Folgen der Umstellung: Zwischen Transparenz und Fehlalarmen

Die Umstellung auf sichtbarere Schutzmechanismen bringt nach Angaben von Anthropic auch Nebenwirkungen mit sich. Um die Systeme weiterhin vor unerwünschten Manipulationen (Jailbreaks) zu schützen, müssen die zugrunde liegenden Klassifikatoren zunächst konservativer agieren. Dies könnte vorübergehend zu einer erhöhten Anzahl von Fehlklassifikationen führen, den sogenannten "False Positives", bei denen harmlose Anfragen fälschlicherweise als riskant eingestuft werden. Diese Problematik war bereits ein zentraler Punkt der ursprünglichen Kritik an Fable 5, da Sicherheitsforscher bemängelten, dass die Cyber-Sicherheitsschranken des Modells auch alltägliche Aufgaben aus der Softwareentwicklung und IT-Sicherheit blockierten.

Anthropic hat zudem angekündigt, die Cyber- und Bio-Safeguards nachzujustieren. Die entsprechenden Klassifikatoren sollen so eingestellt werden, dass sie seltener bei harmlosen Anfragen anschlagen. Nutzer, die eine Fehlklassifikation vermuten, werden dazu aufgefordert, diese über Feedback-Funktionen in Claude Code und Claude.ai sowie über ein Einspruchsformular für API-Anfragen zu melden.

Es bleibt abzuwarten, inwieweit diese Anpassungen die Bedenken der Fachgemeinschaft vollständig adressieren können. Anthropic hält an den Schutzmaßnahmen selbst fest, was von den Kritikern grundsätzlich nicht infrage gestellt wurde. Die Debatte verdeutlicht jedoch die anhaltende Herausforderung, leistungsstarke KI-Modelle verantwortungsvoll und transparent zu entwickeln, insbesondere im Hinblick auf deren breite Verfügbarkeit und potenzielle Nutzungsszenarien.

Fable 5 im Kontext von Mythos 5

Es ist wichtig zu beachten, dass Fable 5 die öffentlich verfügbare Variante von Anthropics Spitzenmodell Mythos 5 darstellt. Letzteres ist ohne die vorgeschalteten Schutzmechanismen für Cybersicherheit, Biologie, Chemie und Distillation konzipiert. Dies unterstreicht die Strategie von Anthropic, unterschiedliche Modelle für verschiedene Anwendungsbereiche und Sicherheitsanforderungen bereitzustellen.

Die Diskussion um Fable 5 und die Reaktion von Anthropic unterstreichen die Notwendigkeit einer kontinuierlichen Auseinandersetzung mit ethischen und sicherheitsrelevanten Fragestellungen im Bereich der Künstlichen Intelligenz. Die Forderung nach Transparenz und Nachvollziehbarkeit bei KI-Systemen bleibt ein zentrales Thema für Entwickler, Forscher und Nutzer gleichermaßen.

Bibliography

- Moritz Förster (2026). Fable 5: Anthropic stoppt verdeckte Eingriffe. heise online. - Jakob Steinschaden (2026). "Secret Sabotage": Warum sich Anthropic für Fable 5 entschuldigen muss. Trending Topics. - Michael Schäfer (2026). Massive Kritik von Forschern: Anthropic ändert Richtlinie zur Entwicklung anderer KI-Modelle. ComputerBase. - Alistair Barr (2026). Aus Angst vor China? Wo Anthropic sein Top-Modell Mythos gezielt drosselt. Business Insider. - Alistair Barr (2026). Wie Anthropic sein Top-Modell Mythos gezielt drosselt – und warum dahinter diese China-Sorge stecken könnte. Yahoo Finance. - Daniel AJ Sokolov (2026). Das wird teuer: Anthropics Claude Mythos 5 erscheint als Fable 5 mit Schranken. heise online. - Andreas Becker (2026). Claude Fable 5 sabotiert(e) heimlich KI Forscher. All-AI. - Dr. Web (2026). Claude Fable 5: Mythos-Power für alle Nutzer?. Dr. Web. - IT-Boltwise (2026). Anthropic limitiert Claude Fable 5 für sensible Use Cases und setzt Glasswing fort. IT-Boltwise. - IT-Boltwise (2026). Anthropics Mythos 5: KI-Fähigkeiten bei ML-Forschung absichtlich reduziert – Entwickler protestieren. IT-Boltwise.