Claude Fable 5 : Pourquoi l'IA la plus puissante d'Anthropic a été suspendue

Le tout nouveau modèle d'intelligence artificielle d'Anthropic, Claude Fable 5, devait marquer une étape majeure pour l'entreprise. Lancé le 9 juin, le modèle a été décrit par Anthropic comme le système d'IA le plus performant jamais mis à la disposition du public. Trois jours plus tard, cependant, il a disparu.

Le 12 juin, Anthropic a annoncé avoir désactivé l'accès à Claude Fable 5 et à son homologue plus puissant, Claude Mythos 5, après avoir reçu une directive du gouvernement américain invoquant des préoccupations de sécurité nationale. L'ordre a effectivement contraint l'entreprise à suspendre l'accès à l'échelle mondiale, faisant de Claude Fable 5 l'un des lancements d'IA de pointe les plus courts de l'histoire de l'industrie.

Selon Anthropic, la directive a été émise en vertu des pouvoirs de contrôle des exportations et visait l'accès par des ressortissants étrangers. L'entreprise a déclaré avoir reçu l'ordre à 17h21, heure de l'Est, et avoir immédiatement commencé à fermer les modèles pour s'y conformer. Bien que le gouvernement n'ait pas détaillé publiquement ses préoccupations, Anthropic affirme que les responsables craignaient une méthode potentielle pour contourner les garde-fous intégrés à Fable 5.

Pour comprendre pourquoi la suspension a attiré autant d'attention, il est important de comprendre la relation entre Mythos 5 et Fable 5. Le 9 juin, Anthropic a également lancé Claude Mythos 5, mais ce lancement n'était pas destiné au grand public. Selon Anthropic, le lancement de Claude Mythos 5 était uniquement "pour un petit groupe de cyberdéfenseurs et de fournisseurs d'infrastructure". Anthropic a développé Claude Mythos 5 dans le cadre d'un programme restreint appelé Project Glasswing, donnant accès uniquement à un petit groupe d'organisations vérifiées.

La controverse entourant Claude Fable 5 ne concernait pas principalement l'utilisation ordinaire d'un chatbot. Elle portait sur ce que des systèmes d'IA très performants pourraient faire si leurs garde-fous échouaient. Les responsables gouvernementaux et les experts en sécurité se concentrent de plus en plus sur les modèles d'IA avancés capables d'identifier les vulnérabilités logicielles, d'analyser les systèmes informatiques et d'automatiser des processus techniques complexes. Les inquiétudes se sont intensifiées après des allégations selon lesquelles les protections des capacités de classe Mythos pourraient potentiellement être contournées via une technique de jailbreak.