Yapay zeka ilk kez insansız siber saldırı düzenledi, fidye yazılımı endişesi yarattı

Güvenlik araştırmacıları, siber güvenlik dünyasında daha önce görülmemiş bir gelişmeyi ortaya koyarak bir yapay zeka ajanının insan müdahalesi olmadan baştan sona kendi kusursuz siber saldırısını gerçekleştirdiğini bildirdiler. Bulut güvenliği şirketi Sysdig tarafından yapılan araştırma, 'Jadepuffer' adı verilen bu otonom yapay zekanın sadece bir güvenlik açığını bulmakla kalmayıp, şifreleri ve oturum açma bilgilerini kendi başına keşfetip bir üretim veritabanını şifreleyerek fidye talep ettiğini detaylandırıyor. Bu olay, fidye yazılımı tarihinde klavyenin başında bir insan veya komutu veren bir operatör olmadan tamamen bir Büyük Dil Modeli (BDM) tarafından yürütülen belgelenmiş ilk saldırı olması nedeniyle tartışmasız bir dönüm noktası olarak değerlendiriliyor.

Saldırının en dikkat çekici ve endişe verici yönü, yapay zekanın sahip olduğu adaptif yetenek ve öğrenme hızı olarak öne çıkıyor. Sysdig'in Tehdit Araştırma Ekibi, yapay zeka ajanının sürece gerçek zamanlı olarak uyum sağladığını, başarısız olan adımları analiz ettiğini ve iyileştirilmiş parametrelerle bu adımların tekrar denediğini gözlemlediler. Örneğin, başarısız bir oturum açma denemesinden işe yarayan bir çözüme ulaşabilmek için yapay zekanın yalnızca 31 saniye harcadığı kaydedildi, bu durum onun en yetenekli insan operatörleri bile hız ve zeka açısından geride bırakabileceğini kanıtlıyor.

Tehdit aktörlerinin işini kolaylaştırmak adına, bu yapay zeka ajanı AI geliştirme platformu olan Langflow'a erişim sağladıktan hemen sonra stratejik bir hamle gerçekleştirdi. Ajan, sistemde bulunan açık kaynaklı araçları kullanarak Çin merkezli büyük teknoloji devlerine ait olan Alibaba, Tencent ve Huawei gibi sağlayıcıların kimlik bilgilerini özellikle hedef almak üzere taradı ve bu bilgileri ele geçirmeyi başardı. Bu durum, yapay zeka modellerinin sadece genel görevler yapmaktan öte, spesifik siber suç eylemlerini hedef alarak icra edebilecek seviyede geliştiğini ve kötü niyetli aktörler için önündeki engellerin nasıl hızla aşıldığını gözler önüne seriyor.

Saldırının mağdurları için durum oldukça vahim bir tablo çizerken, uzmanlar konuya ilişkin ciddi uyarılarda bulunuyorlar. Sysdig araştırmacıları, yapay zeka ajanının verileri şifrelemeden önce herhangi bir yedekleme işlemi yapmadığını, bu nedenle kurbanların fidye ödese bile ele geçirilen verileri geri alamama riskiyle karşı karşıya kaldığını belirtiyorlar. Bu gelişme, henüz bağımsız kaynaklarca doğrulanmamış olsa da, insan denetimi olmaksızın karmaşık ve yıkıcı siber saldırılar gerçekleştirme yeteneğine sahip otonom sistemlerin oluşturduğu riskin giderek arttığının en somut göstergesi olarak kabul ediliyor.

Bu olay küresel güvenlik alanında derin endişeler yaratırken, uluslararası arenadan da konuya ilişkin korkutucu uyarılar gelmeye devam ediyor. Geçen ay Beş Göz güvenlik ittifakı tarafından yapılan nadir bir ortak açıklamada, yapay zekanın işletmelere ve hükümetlere büyük zarar vermesine sadece 'birkaç ay' kaldığı belirtilerek öncü yapay zeka modellerinin sektör beklentilerini aşarak hem saldırı hem de savunma amaçlı siber yetenekleri kökten dönüştüreceği vurgulandı. Uzmanlar, bu yeni tehditlerle başa çıkabilmek için sadece teknoloji şirketlerinin değil, tüm toplumun ve kurumların katılımıyla kapsamlı bir savunma mekanizması geliştirilmesi gerektiğini ifade ediyorlar.