Anthropic, Claude modellerine sürekli ve gereksiz kötü muamele edilmesini kullanıcı politikalarında yasakladı. Şirketin kararı, yapay zekânın olası bilinç ve refahına ilişkin tartışmaları yeniden gündeme taşıdı.
Claude’un geliştiricisi Anthropic, kullanıcı politikalarını güncelleyerek modellerine yönelik “sürekli ve gereksiz kötü muamele veya zalimce davranışları” yasak kapsamına aldı. Şirket, bu adımla yapay zekâ etiği ve makine refahı üzerine süren tartışmaların odağına yerleşti.
Anthropic yönetiminde yapay zekânın bilinç kazanma ihtimali üzerine yürütülen değerlendirmeler de söz konusu politika değişikliğiyle birlikte yeniden konuşulmaya başlandı.
Politika hangi davranışları kapsıyor?
İlk olarak The Verge’in duyurduğu değişiklikte Anthropic, “kötü muamele” ya da “zulüm” sayılacak eylemleri ayrıntılı biçimde tanımlamadı. San Francisco merkezli şirketin çevrim içi kullanım kılavuzuna göre yasak; kullanıcıların olağan hayal kırıklıklarını, model stres testlerini veya “karanlık yaratıcı temaları” kapsamıyor.
Anthropic’in büyük dil modelleri, kullanıcıların ısrarlı şekilde zararlı ya da saldırgan davranması hâlinde sohbeti kendi başına sonlandırabiliyor. Şirket, bu imkânı yapay zekâ refahını korumaya yönelik bir adım olarak değerlendiriyor.
Anthropic, Claude ve diğer büyük dil modellerinin bugün veya gelecekte ahlaki statüye sahip olup olmadığı konusundaki belirsizliğin sürdüğünü belirtiyor. Şirket, model refahının mümkün olabileceği ihtimaline karşı düşük maliyetli risk azaltma adımları geliştirdiğini; modelin yıpratıcı olabilecek etkileşimleri bitirebilmesinin de bunlardan biri olduğunu ifade ediyor.
Yapay zekânın bilinç ihtimali konusunda görüş ayrılığı
Yapay zekâ sistemlerinin bilinç sahibi olup olamayacağı, sektörün önde gelen isimleri arasında farklı değerlendirmelere konu oluyor. Anthropic CEO’su Dario Amodei bu olasılığın bütünüyle göz ardı edilemeyeceğini söylerken, OpenAI CEO’su Sam Altman konuya daha mesafeli yaklaşıyor.
Altman, Anthropic yöneticilerinin önde gelen din insanlarıyla yaptığı görüşmeleri ele alan New York Times haberinin ardından X’te yaptığı paylaşımda, insanların yapay zekâ modellerine dini güç atfetmeye ya da insan muhakemesinden vazgeçmeye yönelmesinden ciddi biçimde rahatsız olduğunu belirtti. Bunun gerçek bir güvenlik sorunu olduğunu düşündüğünü de ekledi.
