Yapay Zekâ Tavsiye Edebilir, Ancak Kararı İnsanlar Vermelidir

Yoğun bakım ünitesinde yatan ve günlerdir hiçbir iyileşme göstermeyen bilinçsiz bir hasta hayalinin üzerinden başlayan makale, yapay zekânın tıbbi karar verme süreçlerindeki sınırlarını derinlemesine sorguluyor. Binlerce benzer vakayı analiz eden bir yapay zekâ sistemi, hastanın iyileşme ihtimalinin son derece düşük olduğunu belirterek hayatta destek ünitesinin çekilmesini tavsiye ediyor. Tıbbi ekip bu analizi incelediğinde verilerin kapsamlı ve istatistiksel olarak son derece sağlam olduğunu görüyor. Sistemin sundğu gerekçeler mantıklı, çıkarılan sonuçlar ise verilerle tamamen örtüşüyor. Ancak yatağın başında duran doktorlar için karar hala eksik hissettiriyor; çünkü ortada kalan mesele doğruluk değil, doğacak sonuçları göğüsleme sorumluluğudur.

Yapay zekâ, devasa miktarda veriyi işleme ve insanların tek başına görmesinin çok zor olduğu gizli örüntüleri ortaya çıkarma konusunda son derece yeteneklidir. Tıptan finans sektörüne, hatta kamu politikalarına kadar sayısız alanda bu sistemler elde ettikleri verilere dayanarak en optimal eylem planlarını sunabiliyor ve bu yetenekler günümüzde büyük faydalar sağlıyor. Ancak yazar, kararların yalnızca istatistiksel olarak doğru olup olmamasıyla tanımlanamayacağını vurguluyor. Her karar, anlık sonucun ötesine geçerek insan hayatlarını, ilişkileri ve kararları uygulayanların ahlaki bütünlüğünü doğrudan etkiliyor. Bu nedenle yoğun bakımdaki hasta örneğinde ana mesele, sistemin tavsiyesinin doğru olup olmadığı değil, bu kararın sonuçlarını kabullenmeye kimin hazır olduğudur.

Yapay zekâ tavsiyelerde bulunabilir, detaylı analizler yapabilir ve şaşırtıcı bir hassasiyetle geleceği tahmin edebilir. Ancak bu sistemlerin en temel eksikliği, biçtiği kararların ağırlığını veya sorumluluğunu omuzlayamamasıdır. Bir yapay zekâ modeli hastanın ailesinin yanında durarak onlara destek olamaz, karar anında tereddüt yaşayamaz ve alınan kararla ortaya çıkacak sonuçlarla birlikte yaşayamaz. Geçmişte bir doktor, bir hakim veya bir yönetici kendi kararlarının arkasında durur ve sonuçlarına göre hesap verirdi. Günümüzde ise bu sorumluluk bilinci, algoritmaların daha fazla güç kazanmasıyla birlikte giderek belirsizleşmekte ve insanlar sistemlerin tavsiyelerini tarafsız birer talimat olarak kabul etmeye eğilim göstermektedir.

Algoritmalar büyük veri setlerinden beslendiği ve karmaşık modeller kullanıldığı için son derece otoriter ve nesnel görünebilmektedir. Ancak unutulmamalıdır ki, her sistem eğitildiği verilerden hedeflerine kadar insanların yaptığı öznel tercihleri yansıtır. İnsanlar, sonuçlarını paylaşmayan sistemlerin kararlarına giderek daha fazla güvendiğinde, kendi eylemlerinin ağırlığından uzaklaşma riski ile karşı karşıya kalırlar. Bu durum, profesyonel yaşamda başlangıçta fark edilmesi zor, sinsi bir değişime işaret eder. İnsanlar zamanla karar vermeyi kişisel bir sorumluluk olmaktan çıkarıp, sistemin önerilerini salt birer uygulama eylemi gibi gerçekleştirmeye başlayabilirler.

Oysa tıpta bir hasta yalnızca klinik değişkenlerin bir toplamı değildir; hukukta bir dava sadece geçmiş emsallerin koleksiyonu, günlük yaşamda ilişkiler ise basit optimizasyon problemleri olamaz. Bu karmaşık süreçler rekip eden değerleri, belirsizlikleri ve genellikle mükemmel bir cevabın olmadığı gerçeğini barındırır. Bu nedenle günümüzde ihtiyaç duyduğumuz şey salt zekâ değil, tecrübe ve insan doğasının sonuçlarını kavrayan bir yargı gücüdür. Yapay zekâ insan yargısını destekleyebilir ve analizleri keskinleştirebilir, ancak sonuçları paylaşmadığı için karar verme sorumluluğunu kesinlikle insanlardan devralmamalıdır.