Claude Fable 5: Anthropic의 가장 강력한 AI가 중단된 이유

Anthropic의 최신 인공지능 모델인 Claude Fable 5는 회사에 중요한 이정표가 될 예정이었습니다. 6월 9일에 출시된 이 모델은 Anthropic이 대중에게 공개한 것 중 가장 강력한 AI 시스템으로 설명되었습니다. 그러나 3일 후인 6월 12일, Anthropic은 국가 안보 우려를 이유로 미국 정부의 지시를 받은 후 Claude Fable 5와 더 강력한 형제 모델인 Claude Mythos 5에 대한 접근을 차단했다고 발표했습니다. 이 명령은 사실상 회사가 전 세계적으로 접근을 중단하도록 강제했으며, Claude Fable 5는 업계 역사상 가장 짧은 기간 동안 제공된 최첨단 AI 출시 중 하나가 되었습니다.

Anthropic에 따르면, 이 지시는 수출 통제 권한에 따라 발행되었으며 외국인의 접근을 대상으로 했습니다. 회사는 동부 표준시 오후 5시 21분에 명령을 받고 즉시 모델을 종료하기 시작했다고 밝혔습니다. 정부는 우려 사항을 공개적으로 자세히 밝히지 않았지만, Anthropic은 관리들이 Fable 5에 내장된 안전 장치를 우회할 수 있는 잠재적 방법에 대해 우려했다고 말했습니다. 논란은 주로 일반 챗봇 사용에 관한 것이 아니라, 고도로 능력 있는 AI 시스템이 안전 장치가 실패할 경우 무엇을 할 수 있는지에 초점을 맞추고 있습니다.

왜 중단이 그렇게 많은 관심을 끌었는지 이해하려면 Mythos 5와 Fable 5의 관계를 이해하는 것이 중요합니다. Anthropic은 Project Glasswing으로 알려진 제한된 프로그램의 일환으로 Claude Mythos 5를 개발했으며, 소수의 검증된 조직에만 접근 권한을 부여했습니다. 참가자에는 주요 기술 회사, 사이버 보안 회사 및 선별된 정부 파트너가 포함되었습니다. Claude Fable 5는 동일한 기반 기술로 구축되었지만 더 넓은 대중 사용을 위해 설계되었습니다. Anthropic은 사이버 보안, 생물학, 화학 및 모델 증류와 같은 영역에서 오용을 방지하기 위한 추가 안전 장치를 추가했습니다.

Fable 5가 등장하기 전까지 Anthropic의 대표 공개 모델은 Claude Opus 4.8이었습니다. Anthropic과 독립적인 벤치마크 기관은 Claude Fable 5를 Opus를 넘어서는 중요한 단계로 설명했습니다. 가장 큰 이점은 장기간에 걸쳐 지속적인 추론이 필요한 길고 복잡한 작업에서 나타났습니다. 출시 기간 동안 발표된 보고서는 소프트웨어 엔지니어링, 고급 추론, 문서 분석 및 자율 작업 완료 분야의 개선을 보여주었습니다. 업계 관찰자들은 이 모델이 AI 시스템을 독립적인 디지털 작업자로 기능하는 데 더 가깝게 만드는 것으로 보이기 때문에 중요하다고 보았습니다.

주목을 끈 기능에는 장기간 자율적으로 작업할 수 있는 능력이 포함되었습니다. 지속적인 인간의 지도 대신, Fable 5는 계획을 세우고, 진행 상황을 평가하고, 전략을 조정하고, 제한된 개입으로 목표를 향해 계속 작업할 수 있었습니다. 이 모델은 또한 차트, 다이어그램, 표 및 복잡한 문서를 해석하도록 설계되어 연구 및 분석에 크게 의존하는 산업에서 유용했습니다. 그러나 Fable 5를 매력적으로 만든 동일한 능력이 우려도 불러일으켰습니다. Anthropic 자체는 사이버 보안이 모델의 가장 강력한 영역 중 하나임을 인정했습니다. 위험을 줄이기 위해 회사는 고위험 요청을 차단하고 Claude Opus 4.8로 리디렉션하기 위한 안전 장치를 구현했습니다.