Sağlık Kuruluşları Psikoterapi Seanslarını Yapay Zekâ ile Kaydediyor: Gizlilik Endişeleri Artıyor

Günümüzde sağlık hizmeti sağlayıcıları, hastalar ile yaptıkları görüşmeleri kaydetmek ve klinik notları otomatik olarak oluşturmak amacıyla giderek artan bir şekilde yapay zekâ (YZ) teknolojilerine başvurmaktadır. Özellikle mental sağlık alanında faaliyet gösteren profesyoneller, yoğun iş yüklerini hafifletmek ve evrak işlerini hızlandırmak için bu araçları kullanmaya teşvik edilmektedir. Ancak, bu teknolojinin kullanımı, hasta gizliliği ve veri güvenliği bağlamında hem hastalar hem de terapistler arasında ciddi endişelere yol açmaktadır. İnsanların en kırılgan anlarını paylaştıkları, son derece kişisel psikoterapi seanslarının kaydedilmesi, etik ve hukuki pek çok soruyu gündeme getirmektedir. Zira bu kayıtların nasıl işlendiği, ne kadar süreyle saklandığı ve verilere tam olarak kimlerin eriştiği çoğu zaman belirsizliğini korumaktadır.

2024 yılında, ABD merkezli büyük sağlık şirketi Kaiser Permanente, Abridge adlı bir yapay zekâ destekli yazılımı kullanıma sunacağını duyurmuştur. Resmi açıklamalarda bu teknolojiden, klinisyenlerin hasta ziyaretleri sırasında klinik notları güvenli bir şekilde oluşturmasına yardımcı olan 'ortam dinleme teknolojisi' (ambient listening technology) olarak bahsedilmiştir. Fakat bu kulağa hoş gelen teknik tanım, aracın aslında tıbbi randevuların tamamını, derin ve mahrem psikolojik terapi seansları dahi olsa, baştan sona sesli olarak kaydettiği gerçeğini göz ardı etmektedir. Uygulamanın kullanıldığı anlarda ruh sağlığı uzmanlarından hastalarından onay almaları istenmektedir. Ne var ki, bu onay alma süreci son derece yüzeysel kalmakta ve kaydedilen verilerin akıbetine dair hiçbir detaylı bilgi içermemektedir.

Yaşanan en büyük sorunlardan biri, verilerin nasıl yönetildiğine dair şeffaflığın eksikliği ve bu konuda sağlık çalışanlarına bilgi verilmemesidir. Kaiser Permanente'de Oakland, Kaliforniya şubesinde görev yapan lisanslı klinik sosyal çalışan Ilana Marcucci-Morris, şirket yönetimiyle yapılan toplantılarda bu teknolojinin hasta mahremiyeti üzerindeki etkilerini ve veri güvenliğini sorduklarını, ancak net bir cevap alamadıklarını ifade etmektedir. Yöneticiler, yalnızca teknolojinin gerekli güvenlik standartlarını karşıladığını söyleyerek çalışanların bu konuyu sorgulamasını gereksiz bulmakta ve konuyu kapatmaktadır. Marcucci-Morris, eğer şirket her şeyi etik ve hukuki sınırlar içerisinde, kurallara uygun olarak yapıyorsa, bunu kanıtlamak için gerekli belgeleri ve güvenceleri çalışanlarla paylaşması gerektiğini savunmaktadır. Benzer şekilde Güney Kaliforniya'da uzaktan terapi hizmetleri veren Ligia Pacheco de yapay zekâ kayıtlarıyla ilgili endişelerini dile getirdiğinde, bu düşüncelerini ifade etmesinin yönetimi tarafından 'profesyonellik dışı' bir davranış olarak nitelendirildiğini belirtmektedir.

Teknolojinin yaygınlaştırılmasının arkasında yatan bir diğer önemli etkense, sağlık çalışanlarının son yıllarda aşırı düzeyde artan hasta ve iş yüküdür. Marcucci-Morris, bir sendika temsilcisi olarak, meslektaşlarının artan hasta hacmini yetiştirememesi veya belgelerin zamanında doldurulamaması nedeniyle iş yeri soruşturmalarıyla karşı karşıya kaldıklarını aktarmaktadır. Yönetim, yaşanan bu tür kriz anlarında ve disiplin süreçlerinde sağlık çalışanlarına zaman kazandırması ve işlerini yetiştirmeleri için Abridge yazılımını kullanmalarını 'tavsiye etmektedir'. Ancak Marcucci-Morris, meslektaşlarının bu teknolojiye duydukları güvenden dolayı değil, işlerini kaybetme korkusu ve kurumsal baskılar nedeniyle bunu kullanmak zorunda bırakıldıklarını vurgulamaktadır. Bu durum, eleştirmenler tarafından bireyleri zorlama altında bırakan, işlerini ya da yazılımı kullanma arasında seçim yapmak zorunda koymaktan ibaret 'zorlayıcı' bir uygulama olarak değerştirilmektedir.

Öte yandan Kaiser Permanente üst düzey yöneticileri, bu teknoloji sayesinde doktorların günlük pratikteki belgeleme yükünün önemli ölçüde azaltıldığını ve böylece clinician (klinisyen) refahının artırıldığını iddia etmektedir. Şirket yetkilileri, yazılımın piyasaya sürülmeden önce titiz bir incelemeden ve test süreçlerinden geçirildiğini, veri güvenliği ve gizlilik açısından son derece güvenilir olduğunu savunmaktadır. Ayrıca yönetim, yapay zekâ asistanının sadece doktorların işini kolaylaştırdığını, onların hastalara odaklanmaları için daha fazla zaman tanıdığını öne sürmektedir. Buna karşın sahada çalışan ruh sağlığı uzmanları, etik kaygıların ve veri şeffaflığı taleplerinin hala giderilmediğini belirterek endişelerini sürdürmektedir. Hastaların en savunmasız ve kırılgan oldukları anlarda ses kaydına alınması, tıp dünyasında ve toplumda yeni gizlilik tartışmalarının fitilini ateşlemeye devam etmektedir.