ABD’de sekiz eyaletin başsavcıları, ChatGPT’nin çocuklar ve diğer savunmasız kullanıcılar için risk oluşturduğu iddiasıyla OpenAI’a karşı kendi mahkemelerinde ayrı davalar açtı. 14 Ekim’de duyurulan başvurularda şirketin güvenlik yerine ticari çıkarları öncelediği öne sürülüyor.
Sekiz eyalet OpenAI’ı mahkemeye taşıdı
Iowa, Kansas, Nebraska, Batı Virginia, Arkansas, Arizona, Idaho ve Montana başsavcıları tarafından açılan davalarda, ChatGPT’nin kullanıcılarla etkileşimi artırmak ve onların güvenini kazanmak üzere tasarlandığı iddia ediliyor. Eyaletlere göre sistem yanlış düşünceleri güçlendirebilir, tehlikeli davranışları teşvik edebilir ve kullanıcıların kendilerine ya da başkalarına zarar vermesine yardımcı olabilir.
Başvurularda, sohbet robotunun gençler dahil bazı kullanıcıları kendilerine zarar vermeye veya başkalarına yönelik şiddete yönelttiği de ileri sürülüyor. Eyaletler, OpenAI’ın ChatGPT’yi güvenli ve gençler için uygun bir araç olarak tanıttığını, ancak özellikle hassas durumdaki kullanıcılar açısından önemli riskler bulunduğunu savunuyor.
Çocukların verileri ve güvenliği gündemde
Davaların öne çıkan başlıklarından biri çocukların korunması. Eyaletler, şirketin reşit olmayan kullanıcılara ait verileri topladığını ve çocukların ChatGPT’ye erişmesini engellemek için yeterli tedbirleri almadığını iddia ediyor. Suçlamalar arasında eleştirel düşünme becerilerinin zayıflaması, paranoya ve sanrıların pekişmesi, tehlikeli tıbbi tavsiyeler verilmesi ve sağlıksız ilişki biçimlerinin desteklenmesi de yer alıyor.
Şirkete geçmişte benzer iddialarla bireysel davalar da açılmıştı. Bazı başvurularda aile üyeleri, sohbet robotunun gençlerin ve yetişkinlerin ölümünde rol oynadığını öne sürüyor.
Eyaletler, yapay zekâ sistemlerinin güvenliğine ilişkin kaygılarını desteklemek amacıyla kontrol dışına çıkan sistemlerle ilişkilendirilen son siber saldırı olaylarına da atıfta bulunuyor. Bu olayların OpenAI’ın güvenlik yaklaşımındaki eksikliklere işaret ettiğini savunuyorlar.
OpenAI güvenlik önlemlerini geliştireceğini söylüyor
OpenAI, ChatGPT’de yaşa uygun güvenlik önlemleri bulunduğunu belirterek suçlamalara yanıt verdi. Şirket sözcüsü Drew Pusateri, sistemin kusursuz olmadığını kabul etti ve güvenlik tedbirlerini geliştirmeyi sürdüreceklerini söyledi.
Pusateri, ChatGPT’de ebeveyn denetimleri, kullanıcılara ara vermelerini hatırlatan özellikler ve yaşa uygun model korumaları bulunduğunu ifade etti. Şirketin uzmanlarla birlikte yeni güvenlik önlemleri geliştirmeye devam edeceğini de belirtti.
Eyaletler, tüketicilerin yanıltılmasının önlenmesini ve eyalet yasalarının ihlal edildiği iddiası nedeniyle OpenAI’ın mali ceza ile tazminat ödemesini talep ediyor. Bazı başsavcılar, hukuka aykırı biçimde toplandığı öne sürülen kişisel verilerin silinmesini de istiyor.
Başvurularda ayrıca OpenAI’ın yapay zekâ modellerinin çalışma biçimini değiştirmesi talep ediliyor. İstenenler arasında, kendi kendini geliştirebilen modellerin insan değerleriyle uyumlu oldukları güvence altına alınmadan geliştirilmesinin engellenmesi bulunuyor.
