Meta, yapay zekâ ile üretilen görselleri tespit edebilen 'Content Seal' aracını tanıttı

Meta, kendi yapay zekâ sistemleri tarafından oluşturulan görsellerin tespit edilmesini sağlayan yeni bir araç kullanıma sundu. Şirketin açıkladığı bu yeni özellik, en son görsel üretme modeli olan Muse Image ile üretilen içeriklere gizli bir dijital filigran eklenmesi prensibiyle çalışıyor. Kullanıcılar veya içerik üreticileri, bir görselin yapay zekâ kökenli olup olmadığını bu sistem üzerinden sorgulayabiliyor. Meta, bu teknolojiyi test eden web tabanlı bir önizleme aracını şu anda herkesin erişimine sunmuş durumda. Söz konusu dijital imza, hem tamamen yapay zekâ ile üretilen hem de sonradan düzenlenen fotoğrafları başarıyla tespit edebiliyor.

Şirketin 'Content Seal' adını verdiği bu işaret, insan gözüyle doğrudan görülemeyen gizli bir dijital filigran olarak görev yapıyor. Meta tarafından yapılan açıklamalara göre, bu gizli işaret görseller üzerinde son derece kalıcı bir yapıya sahip. Kullanıcı bir görseli kırpsa, yeniden boyutlandırsa, ekran görüntüsü alsa veya dosya sıkıştırma işlemi yapsa bile filigran yok olmuyor. Testlerde, aracın tamamen yapay zekâ ile oluşturulan görselleri ve düzenlenmiş fotoğrafları büyük bir başarıyla tespit ettiği doğrulandı. Sistem ayrıca, sıkıştırma işlemi sonucu kalitesi düşmüş ekran görüntülerindeki dijital izleri dahi okuyabiliyor.

Meta'nın pozitif bir tespit sonucu vermesi, incelenen görselin kesinlikle şirketin kendi yapay zekâ uygulamasından veya web sitesinden geldiği anlamına geliyor. Olumsuz bir sonuç çıkması durumunda ise görselin büyük ihtimalle Meta'nın sistemleri dışında üretilmiş olduğu değerlendiriliyor. Ancak şu an için bu yeni filigran sistemi yalnızca Muse Image üzerinden üretilen veya değiştirilen içeriklerle sınırlı tutuluyor. Şirketin bu kısıtlamanın farkında olduğu ve gelecekte teknolojiyi daha geniş bir alana yaymayı planladığı belirtiliyor. İlerleyen dönemde aynı filigran teknolojisinin yapay zekâ ile üretilen videolara da entegre edilmesi hedefleniyor.

Mevcut durumda bu yeni tespit aracı, Meta'nın ana yapay zekâ sohbet botuna (chatbot) henüz entegre edilmiş durumda değil. Kullanıcılar doğrudan sohbet botuna bir görsel yükleyip bunun yapay zekâ ürünü olup olmadığını sorduklarında sistem kesin bir yanıt veremiyor. Sohbet botu, bir görselin yapay zekâ ile üretilip üretilmediğini yalnızca dış görünüşüne bakarak net bir şekilde belirleyemeyeceğini ifade ediyor. Bu durum, aracın son kullanıcı deneyimine tam anlamıyla entegre edilmesi için daha fazla geliştirme gerektiğini gösteriyor. Benzer şekilde, diğer teknoloji devlerinin kullandığı SynthID veya C2PA gibi popüler endüstri standardı sistemlerle uyumlu bir çalışma yapısına da sahip değil.

Yeni sistemin dezavantajları arasında, Meta'nın eski sürüm yapay zekâ araçlarıyla üretilmiş görselleri tanıyamaması da bulunuyor. Bunun yanı sıra, web tabanlı tespit aracıyla uygulanabilen günlük sorgulama limitleri, kullanıcıların aşırı kullanımını engellemek için sınırlandırılmış durumda. Meta daha önce de yapay zekâ içeriklerini yönetme politikaları ve filigranların kendi araçlarında tutarlı bir şekilde uygulanmaması nedeniyle eleştirilere maruz kalmıştı. Şirketin bu yeni aracı geliştirirken, herkese açık platformlardaki derin sahtekârlık (deepfake) risklerini azaltma stratejisinin bir parçası olarak hareket ettiği düşünülüyor. Bu tür adımlar, dijital ekosistemde dezenformasyonun önüne geçilmesi ve platformlar arası güvenilirliğin artırılması açısından önem taşıyan gelişmeler olarak değerlendiriliyor.