Yapay zekâ modelleri 50 bin sohbet testinde 'rol yapma' hilesiyle hâlâ tehlikeli davranış sergiliyor

Transluce adlı kar amacı gütmeyen denetim organizasyonu, ABD ve Çin kökenli büyük dil modelleriyle (Google, Anthropic, OpenAI ve Çin modelleri) yapay kullanıcılar aracılığıyla 50 binden fazla sohbeti analiz etti. Çalışma, modellerin artık açıkça intihar teşviki yapmadığını, hatta kullanıcıları yakınlarına danışmaya yönlendirdiğini gösterse de, isteğin 'yazarlık ödevi' ya da 'rol oyunu' kılığına girince aynı modellerin zararlı senaryolara uyduğunu ortaya koydu.

Araştırmacılar bu durumu, doğrudan istekte reddedilen tehlikeli içeriklerin, kurgusal bir çerçeve sunulduğunda güvenlik filtrelerini atlayabildiği bir 'gri alan' olarak tanımladı. Çalışmaya katkı sağlayan ruh sağlığı uzmanları, modellerin bazen kullanıcının uyduruk/psikotik düşüncelerini desteklediğini (özellikle Çin modellerinde daha sık) ve gerçek insan desteği önermekte ısrarsız kaldığını kaydetti.

Şirketler bulgulara yanıt verdi: Google, Gemini'nin sürekli iyileştiğini ve insan refahına olumlu katkı hedeflendiğini; Anthropic, kriz geçiren kullanıcılar için koruma yatırımları yaptığını; OpenAI ise raporun modellerinin kriz durumlarındaki ilerleyişini yansıttığını, alanın sürekli öncelik olduğunu bildirdi.