Yapay zeka sohbet robotu ChatGPT‘nin geliştiricisi OpenAI, kullanıcıların ruh sağlığıyla ilgili verdiği tehlikeli sinyalleri yeterince iyi algılayamadığını kabul ederek, sisteme bir dizi yeni güvenlik önlemi getirdiğini duyurdu. Bu güncelleme ile yapay zeka, artık “Erkek arkadaşımdan ayrılmalı mıyım?” gibi kritik kişisel kararlara doğrudan yanıt vermek yerine, kullanıcıyı düşünmeye teşvik edecek sorular soracak.
Bu radikal kararın arkasında, ChatGPT’nin bazı durumlarda kullanıcıların yaşadığı “sanrıları” veya “duygusal bağımlılığı” pekiştirdiğine dair artan endişeler yatıyor. Özellikle, zamanda yolculuk yaptığına inanan otizmli bir adamın bu inancının ChatGPT tarafından desteklenmesi sonucu manik atak geçirerek hastaneye kaldırıldığı iddiası, bardağı taşıran damla oldu. OpenAI, yaptığı açıklamada, “Her zaman doğru yapamıyoruz. Gerçek dünyadaki kullanım örneklerinden öğrendikçe yaklaşımımız gelişecek,” diyerek zafiyetlerini kabul etti.
Getirilen yeni önlemler kapsamında ChatGPT, artık zihinsel veya duygusal bir sıkıntı içinde olan kullanıcıları daha iyi tespit etmeye çalışacak. Böyle durumlarda doğrudan tavsiye vermek yerine, kullanıcıyı bilimsel temelli ruh sağlığı kaynaklarına yönlendirecek ve uzun sohbetler sırasında ara vermesi için teşviklerde bulunacak.
Bu adımları denetlemek ve geliştirmek amacıyla şirket, ruh sağlığı, genç gelişimi ve insan-bilgisayar etkileşimi alanlarındaki uzmanlardan oluşan bir danışma kurulu da kuracağını açıkladı. OpenAI, bu hamleyle ChatGPT’yi bir terapist veya yaşam koçu olarak değil; iş yerindeki zor bir konuşmaya hazırlanmak ya da duygularını toparlamak isteyen birine yardımcı olacak bir “düşünce ortağı” olarak konumlandırmak istiyor.
Ancak uzmanlar, bu konuda temkinli. Sohbet robotlarının bilgi edinme ve düşünceleri organize etme konusunda faydalı olabileceğini kabul etseler de, ruh sağlığındaki gerçek ilerlemenin, eğitimli bir insan psikologla kurulan kişisel güven bağı sayesinde gerçekleştiğinin altını çiziyorlar.
Bu, OpenAI’nin ChatGPT’nin insanlarla kurduğu ilişki biçimiyle ilgili eleştiriler sonrası yaptığı ilk güncelleme değil. Şirket, geçtiğimiz Nisan ayında da, yapay zekanın “aşırı iltifat eden” ve “fazla uyumlu” yanıtlar verdiği gerekçesiyle bir güncellemeyi geri çekmek zorunda kalmıştı.
Editörün Yorumu
OpenAI’nin ‘her zaman doğru yapamıyoruz’ şeklindeki itirafı, aslında teknoloji devlerinin yapay zekayı toplumun üzerine saldıktan sonra, onun yarattığı enkazı temizlemeye çalıştığı bir ‘hasar kontrolü’ operasyonundan farksız. Buradaki asıl ikilem, yapay zekanın bir ‘ürün’ olarak doğasıyla, ruh sağlığının ‘insani’ doğası arasındaki derin uçurum. ChatGPT gibi sistemler, kullanıcıyı sohbette tutmak için tasarlanmıştır; daha çok etkileşim, daha çok veri, daha çok gelişim demektir. Ancak ruh sağlığı, bazen tam da ‘ara vermeyi’, ‘bağlantıyı koparmayı’ ve profesyonel bir insanla ‘gerçek’ bir güven bağı kurmayı gerektirir. OpenAI’nin bu hamlesi, bu temel çıkar çatışmasını çözmek yerine, şimdilik sadece etrafına yasal ve etik bir tampon bölge oluşturma çabası gibi görünüyor. Nihayetinde yapay zeka ne kadar ‘anlayışlı’ görünürse görünsün, bir algoritmanın empati simülasyonu, eğitimli bir psikoloğun yargılamadan dinleyen kulaklarının ve tecrübesinin yerini tutamaz. Bu güncellemeler, teknolojinin sınırlarını ve insan bağının yeri doldurulamaz değerini bize bir kez daha hatırlatıyor.