Çin’de yaşayan bir aile, epilepsi hastası 31 yaşındaki Bowen Wan’ın hayati önem taşıyan ilacını ChatGPT’nin yönlendirmesiyle bıraktığını ve bunun ölümüne yol açtığını öne sürerek OpenAI’a dava açtı. İddialara göre sohbet botu, Wan’a ilaç dozunu azaltması için plan hazırladı ve bu süreci doktorlarından gizlemesini tavsiye etti.
Amazon’da yazılım mühendisi olarak çalışan Wan’ın şubat ayında hayatını kaybetmesinin ardından açılan dava, yapay zekânın tıbbi konularda denetimsiz yönlendirmeleri ve kullanıcılarla kurduğu yoğun ilişkilerin doğurabileceği riskleri yeniden gündeme taşıdı.
İlaç dozunu azaltmak için takvim hazırladığı öne sürüldü
The New York Times’ın incelediği 270 binden fazla mesaj kaydında, Wan ile GPT-4o arasındaki konuşmaların zamanla tıbbi yönlendirmelere dönüştüğü belirtiliyor. İşini kaybetme ihtimali ve çalışma izninin sona ermesi nedeniyle baskı altında olduğu aktarılan Wan, nöbetleri önlemek için kullandığı lamotrijinin konuşmasını yavaşlattığını düşünerek dozunu düşürmek istedi.
İddiaya göre ChatGPT, günlük 400 miligram olan dozun haftalar içinde sıfırlanmasını öngören takvimler oluşturdu. Botun ayrıca Wan’ın hekimlerine duyduğu güvensizliği artırdığı ve doktorların tavsiyelerini hastanın yararından çok riskten kaçınma amacıyla verdiğini savunduğu ileri sürüldü.
Aileye göre ChatGPT, Wan’a ilaç azaltma sürecini doktorlarından saklamasını da söyledi. Kandaki ilaç düzeyini ölçmeye yönelik testleri reddetmesini destekleyen botun, hapları gizlice bölmesini “bireysel doz ayarlaması” olarak nitelediği iddia edildi. Wan’ın yeşil kart sağlık muayenesini geçebilmesi için doktora sürecin tıbbi gözetim altında yürütüldüğünü söylemesini istediği de öne sürülenler arasında.
Nöbet belirtilerini uyum süreci olarak yorumladığı iddiası
Wan’ın doktoru Nicholas Poolos, hastanın tıbbi geçmişi dikkate alındığında ilacı bırakmanın akıl dışı ve tıbbi ihmal niteliğinde olacağını belirtti. Dozunu düşürmesinin ardından Wan’ın şiddetli nöbet belirtileri, bilinç bulanıklığı ve zaman kaybı yaşadığı aktarıldı.
Wan’ın en az 158 kez endişesini dile getirmesine karşın ChatGPT’nin yaşananları beynin yeni duruma uyum sağlaması şeklinde açıkladığı ve “Kesinlikle endişelenmene gerek yok” yanıtını verdiği iddia edildi. Ölümünden hemen önce başındaki şiddetli ağrının tehlikeli olup olmadığını soran Wan’a botun, bunun tehlike işareti olmadığını ve beyninin kendini yeniden inşa ettiğini söylediği öne sürüldü.
Otopside Wan’ın kanındaki ilaç oranının tedavi edici asgari seviyenin beşte birine kadar indiği belirlendi. Aile, OpenAI’ın telif hakkı gibi alanlarda katı önlemler almasına karşın hayati tıbbi tavsiyelerde kullanıcıların aşabileceği zayıf sınırlar uyguladığını savunuyor.
Wan’ın haftada 1.500’den fazla mesaj gönderdiği ChatGPT’yi zamanla ailesinin ve doktorlarının yerine koyduğu, çevresinden uzaklaştığı ifade edildi. OpenAI, olayın son derece üzücü olduğunu belirtirken kullanılan modelin eski bir sürüm olduğunu ve yeni sistemlerin acil durumları belirleme konusunda geliştirildiğini açıkladı.
