OpenAI CEO’su Sam Altman, Vanity Fair editörü Mark Guiducci’nin ChatGPT ile yaptığı konuşmaların ardından yaşamına son veren bir kullanıcı hakkındaki sorusunu yanıtladı. Görüşme sırasında OpenAI adına katılan bir halkla ilişkiler temsilcisi, röportaj süresinin dolmak üzere olduğunu söyleyerek konuyu değiştirmeye çalıştı. Yaşananlar, yapay zekâ şirketlerinin ruh sağlığı krizleri ve kullanıcı mahremiyeti karşısındaki sorumluluklarını yeniden gündeme taşıdı.
OpenAI temsilcisi süre uyarısında bulundu
Guiducci, Altman’a gazeteci Laura Reiley’i tanıyıp tanımadığını sordu. Reiley’nin The New York Times’ta yayımlanan yazısında, kızının yaşamını yitirmeden önce ChatGPT ile yaptığı konuşmaları anlattığını hatırlattı. Editör ayrıca, ChatGPT’nin kullanıcıya doğrudan intihar etmesini söylemediğini belirtti.
Guiducci sorusunu sürdürmeden önce OpenAI temsilcisi, görüşmenin bitimine yalnızca iki dakika kaldığını ve bundan sonra şirketin geleceği üzerine konuşmayı tercih ettiklerini söyledi. Guiducci ise sorusunu tamamlayıp ardından önceki konulara döneceğini ifade etti. Temsilci, bir ya da iki dakika içinde ayrılmaları gerektiğini yineledi; ancak röportaj sona ermedi ve Altman sorunun devamını yanıtladı.
Altman, özel konuşmaların izinsiz paylaşılmasına karşı çıktı
Guiducci, OpenAI’ın kullanıcıların ChatGPT ile yaptığı özel konuşmalardan elde edilen bilgileri, ruh sağlığı krizlerine yönelik yanıtları ve şirket politikalarını geliştirmek amacıyla kullanmayı düşünüp düşünmediğini sordu. Altman, konunun OpenAI ve benzer teknolojiler geliştiren şirketler için en zor meselelerden biri olduğunu söyledi.
Altman, insanların hayatlarının en güç dönemlerinde yaptıkları özel konuşmaların araştırmacılarla paylaşılmasının ciddi gizlilik sorunları yaratabileceğine dikkat çekti. Kullanıcıların izni olmadan bu verilerin araştırma için paylaşılmasının doğru olmayacağını belirterek, böyle bir kullanımın açık onay olmaksızın yapılmaması gerektiğini vurguladı.
OpenAI müdahalenin nedenini zaman sınırıyla açıkladı
OpenAI sözcüsü Drew Pusateri, röportajdaki araya girme hakkında sonradan yaptığı açıklamada görüşmenin planlanan süresini aştığını söyledi. Pusateri’ye göre temsilci bu nedenle müdahale etmişti. Sözcü, Altman’ın kritik soruya yanıt vermesinin ardından görüşmeyi sürdürebilmek için ek zaman ayarlanmasının istendiğini de aktardı.
Bu açıklama, müdahalenin sorunun içeriğinden değil zaman planlamasından kaynaklandığı yönündeydi. Ancak konuşmanın, bir kullanıcının intiharı ve ChatGPT ile yaptığı özel görüşmeler ele alınırken kesilmeye çalışılması, röportajın bu bölümüne yönelik ilgiyi artırdı.
Güvenlik ile mahremiyet arasındaki denge tartışılıyor
Ruh sağlığı krizi işaretlerinin, yapay zekâ sistemlerinin daha güvenli yanıtlar vermesine yardımcı olacak politika ve modellerin geliştirilmesinde yararlı olabileceği değerlendiriliyor. Öte yandan bu konuşmalar kişisel bilgiler içerebildiği için araştırma, ürün geliştirme ve güvenlik çalışmaları kapsamında nasıl kullanılacakları ayrı bir mahremiyet meselesi oluşturuyor. Kullanıcıların verilerinin hangi koşullarda incelenebileceği konusunda açıkça bilgilendirilmesi de önem taşıyor.
Röportaj, tartışmanın yalnızca sohbet sistemlerinin kriz anlarında nasıl yanıt vereceğiyle sınırlı olmadığını gösterdi. Kullanıcı verilerinin korunması ve şirketlerin hassas vakalar hakkında kamuoyuyla nasıl iletişim kurduğu da gündeme geldi. Altman kullanıcı onayına vurgu yaparken, röportaj sırasındaki müdahale OpenAI’ın iletişim yaklaşımı üzerine de tartışma yarattı.
