Claude Fable 5: Почему самый мощный ИИ Anthropic был приостановлен

Новейшая модель искусственного интеллекта Anthropic, Claude Fable 5, должна была стать важной вехой для компании. Запущенная 9 июня, модель была описана Anthropic как самая мощная система ИИ, когда-либо предоставленная общественности. Однако три дня спустя она исчезла.

12 июня Anthropic объявила, что отключила доступ как к Claude Fable 5, так и к её более мощному собрату Claude Mythos 5 после получения директивы правительства США, ссылающейся на проблемы национальной безопасности. Приказ фактически вынудил компанию приостановить доступ по всему миру, сделав Claude Fable 5 одним из самых короткоживущих передовых релизов ИИ в истории отрасли.

Согласно Anthropic, директива была издана в рамках полномочий по контролю за экспортом и была направлена на доступ иностранных граждан. Компания заявила, что получила приказ в 17:21 по восточному времени и немедленно начала отключать модели для соблюдения требований. Хотя правительство не обнародовало свои опасения, Anthropic утверждает, что чиновники беспокоились о потенциальном методе обхода встроенных в Fable 5 средств защиты.

Чтобы понять, почему приостановка привлекла столько внимания, важно понять взаимосвязь между Mythos 5 и Fable 5. 9 июня Anthropic также запустила Claude Mythos 5, но запуск не был предназначен для широкой публики. По словам Anthropic, запуск Claude Mythos 5 был только "для небольшой группы киберзащитников и поставщиков инфраструктуры". Anthropic разработала Claude Mythos 5 в рамках ограниченной программы Project Glasswing, предоставив доступ только небольшой группе проверенных организаций.

Споры вокруг Claude Fable 5 были связаны не столько с обычным использованием чат-бота, сколько с тем, что могут сделать высокоэффективные системы ИИ в случае отказа их защитных механизмов. Правительственные чиновники и эксперты по безопасности всё больше сосредотачиваются на передовых моделях ИИ, которые могут выявлять уязвимости в программном обеспечении, анализировать компьютерные системы и автоматизировать сложные технические процессы. Опасения усилились после сообщений о том, что защиту, защищающую возможности класса Mythos, можно потенциально обойти с помощью техники джейлбрейка.