Anthropic'in yeni yapay zeka modeli Claude Fable 5, 9 Haziran'da piyasaya sürüldü ve şirketin kamuya sunduğu en yetenekli AI sistemi olarak tanımlandı. Ancak sadece üç gün sonra, 12 Haziran'da Anthropic, ABD hükümetinden gelen bir direktif doğrultusunda hem Claude Fable 5'i hem de daha güçlü kardeş modeli Claude Mythos 5'i devre dışı bıraktığını duyurdu. Bu direktif, ulusal güvenlik endişelerini gerekçe gösteriyordu ve şirketi modellere küresel çapta erişimi durdurmaya zorladı. Bu durum, Claude Fable 5'i endüstri tarihindeki en kısa ömürlü öncü AI sürümlerinden biri haline getirdi.
Anthropic'e göre direktif, ihracat kontrol yetkileri kapsamında yayınlandı ve özellikle yabancı uyruklu kişilerin erişimini hedef alıyordu. Şirket, emri Doğu Saati ile 17:21'de aldığını ve uyum sağlamak için modelleri derhal kapatmaya başladığını belirtti. Hükümet endişelerini kamuya açıklamazken, Anthropic yetkililerin Fable 5'in güvenlik önlemlerini aşmanın potansiyel bir yönteminden endişe duyduğunu söyledi. Bu gelişme, yapay zeka güvenliği ve hükümet düzenlemeleri konusundaki tartışmaları yeniden alevlendirdi.
Claude Mythos 5 ve Fable 5 arasındaki ilişkiyi anlamak, askıya almanın neden bu kadar dikkat çektiğini kavramak için önemlidir. Anthropic, Claude Mythos 5'i yalnızca küçük bir siber savunmacı ve altyapı sağlayıcı grubu için başlattı. Bu model, Project Glasswing adlı kısıtlı bir programın parçası olarak geliştirildi ve yalnızca önceden onaylanmış kuruluşlara erişim izni verildi. Katılımcılar arasında büyük teknoloji şirketleri, siber güvenlik firmaları ve seçilmiş hükümet ortakları yer alıyordu. Claude Fable 5 ise aynı temel teknoloji üzerine inşa edildi ancak daha geniş kamu kullanımı için tasarlandı.
Fable 5, siber güvenlik, biyoloji, kimya ve model damıtma gibi alanlarda kötüye kullanımı önlemek için ek güvenlik katmanları içeriyordu. Bu güvenlik önlemleri, hassas bir talep algıladığında sorguyu daha az yetenekli olan Claude Opus 4.8 modeline yönlendirecek şekilde tasarlanmıştı. Pratikte Mythos 5, teknolojinin kısıtlanmamış versiyonunu temsil ederken, Fable 5 koruyucu kontrollerle sarılmış halka açık versiyondu. Bu ayrım, kontrollerin yeterli olup olmadığı konusundaki tartışmanın merkezinde yer aldı.
Claude Fable 5, önceki amiral gemisi modeli Claude Opus 4.8'e kıyasla önemli bir sıçrama olarak görülüyordu. Uzun ve karmaşık görevlerde, özellikle sürekli akıl yürütme gerektiren durumlarda büyük gelişmeler kaydedildi. Yazılım mühendisliği, ileri düzey akıl yürütme, belge analizi ve otonom görev tamamlama gibi alanlarda iyileştirmeler gösterdi. Model, saatler hatta günler sürebilecek projelerde performansını koruyacak şekilde tasarlanmıştı ve bu da onu bağımsız bir dijital işçi olarak işlev görmeye yaklaştırdı. Ancak aynı yetenekler, güvenlik önlemlerinin başarısız olması durumunda potansiyel tehlikeleri de beraberinde getirdi. Hükümet yetkilileri ve güvenlik uzmanları, gelişmiş AI modellerinin yazılım güvenlik açıklarını tespit etme, bilgisayar sistemlerini analiz etme ve karmaşık teknik süreçleri otomatikleştirme yeteneklerine odaklandı. Mythos sınıfı yetenekleri koruyan güvenlik önlemlerinin bir jailbreak tekniğiyle aşılabileceği iddiaları endişeleri artırdı.
Bu haber hakkında sor
Yanıtlar yapay zekâ tarafından, yalnızca bu haberin içeriğinden üretilir.
Bu, yapay zekâ tarafından üretilen bir özettir. Haberin tamamı kaynağındadır.
Haberin tamamını kaynağında okutheprobe.in