Claude Fable 5: Warum Anthropics stärkste KI ausgesetzt wurde

Anthropics neuestes KI-Modell, Claude Fable 5, sollte am 9. Juni einen großen Meilenstein für das Unternehmen darstellen. Es wurde als das leistungsfähigste KI-System beschrieben, das Anthropic jemals der Öffentlichkeit zugänglich gemacht hatte. Doch nur drei Tage später, am 12. Juni, gab Anthropic bekannt, dass es den Zugang zu Claude Fable 5 und seinem leistungsstärkeren Gegenstück Claude Mythos 5 gesperrt hatte. Grund war eine Anweisung der US-Regierung, die nationale Sicherheitsbedenken anführte. Die Anordnung zwang das Unternehmen, den Zugang weltweit zu unterbrechen, was Claude Fable 5 zu einer der kurzlebigsten Frontier-KI-Veröffentlichungen in der Geschichte der Branche machte.

Die Anweisung wurde laut Anthropic im Rahmen von Exportkontrollbefugnissen erlassen und zielte auf den Zugang durch ausländische Staatsangehörige ab. Das Unternehmen erklärte, es habe die Anordnung um 17:21 Uhr Eastern Time erhalten und sofort mit der Abschaltung der Modelle begonnen, um die Auflagen zu erfüllen. Während die Regierung ihre Bedenken nicht öffentlich detailliert dargelegt hat, erklärte Anthropic, dass die Beamten besorgt waren über eine mögliche Methode zur Umgehung der in Fable 5 eingebauten Sicherheitsvorkehrungen. Die Kontroverse drehte sich nicht um den normalen Chatbot-Einsatz, sondern darum, was hochleistungsfähige KI-Systeme tun könnten, wenn ihre Sicherheitsvorkehrungen versagen.

Um zu verstehen, warum die Aussetzung so viel Aufmerksamkeit erregte, ist es wichtig, die Beziehung zwischen Mythos 5 und Fable 5 zu verstehen. Anthropic entwickelte Claude Mythos 5 im Rahmen eines eingeschränkten Programms namens Project Glasswing, das nur einer kleinen Gruppe geprüfter Organisationen Zugang gewährte. Zu den Teilnehmern gehörten große Technologieunternehmen, Cybersicherheitsfirmen und ausgewählte Regierungspartner. Claude Fable 5 basierte auf derselben zugrunde liegenden Technologie, war aber für eine breitere öffentliche Nutzung konzipiert. Anthropic fügte zusätzliche Sicherheitsvorkehrungen hinzu, um Missbrauch in Bereichen wie Cybersicherheit, Biologie, Chemie und Modelldestillation zu verhindern.

Vor Fable 5 war Anthropics Flaggschiff-Modell Claude Opus 4.8. Anthropic und unabhängige Benchmark-Organisationen beschrieben Claude Fable 5 als einen bedeutenden Schritt über Opus hinaus. Die größten Fortschritte zeigten sich bei langen, komplexen Aufgaben, die über längere Zeiträume hinweg anhaltendes Denken erforderten. Berichte, die während der Einführungsphase veröffentlicht wurden, zeigten Verbesserungen in den Bereichen Softwareentwicklung, fortgeschrittenes Denken, Dokumentenanalyse und autonome Aufgabenerledigung. Branchenbeobachter betrachteten das Modell als wichtig, weil es KI-Systeme näher an die Funktion unabhängiger digitaler Arbeiter heranführte.

Die Fähigkeiten, die Aufmerksamkeit erregten, umfassten die Fähigkeit, über längere Zeiträume autonom zu arbeiten. Statt ständiger menschlicher Führung konnte Fable 5 planen, Fortschritte bewerten, seine Strategie anpassen und mit begrenztem Eingreifen auf ein Ziel hinarbeiten. Das Modell war auch darauf ausgelegt, Diagramme, Grafiken, Tabellen und komplexe Dokumente zu interpretieren, was es in Branchen nützlich machte, die stark auf Forschung und Analyse angewiesen sind. Dieselben Fähigkeiten, die Fable 5 attraktiv machten, warfen jedoch auch Bedenken auf. Anthropic selbst räumte ein, dass Cybersicherheit einen der stärksten Bereiche des Modells darstellte. Um die Risiken zu verringern, implementierte das Unternehmen Sicherheitsvorkehrungen, die risikoreiche Anfragen blockieren und an Claude Opus 4.8 umleiten sollten.