Microsoft Başkanı Brad Smith, yapay zekânın süt ürünleri ve çamaşır makinelerine kıyasla çok daha az güvenlik denetimine tabi olduğunu söyleyerek küresel ölçekte acil yasal düzenlemeler yapılmasını istedi. Smith, teknolojiyi hem bir araç hem de bir silah olarak nitelendirirken, insan kontrolünden çıkma riskine karşı gecikmeden önlem alınması gerektiğini belirtti.
Yapay zekâ, gündelik ürünlerden daha az denetleniyor
BBC’nin “Big Boss Interview” podcast’ine konuk olan Smith, mevcut düzenleme boşluğunu evlerdeki çamaşır makineleri ve marketlerde satılan sütle karşılaştırdı. Ona göre çamaşır makineleri yapay zekâ sistemlerinden daha fazla güvenlik kuralına tabi; süt ürünleri de sıkı denetimlerden geçiyor.
Smith, yapay zekânın insanlık için tehdit oluşturabileceğine dair kaygıların arttığına dikkat çekti. Anthropic, OpenAI ve Google DeepMind gibi şirketlerin de kontrollü ilerleme yaklaşımına sıcak baktığını hatırlatarak düzenleme çalışmalarının hemen başlatılması çağrısı yaptı.
“Acil durum freni” ve bağımsız denetim önerileri
Smith, kontrolden çıkan yapay zekâ sistemlerinin durdurulması ya da yavaşlatılması için sektörde “kill switch” olarak anılan mekanizmaların bulunmasını savundu. Şirketlerin olası bir kriz anında devreye sokabilecekleri acil durum frenlerine sahip olması gerektiğini ifade etti.
Microsoft Başkanı’nın önerdiği diğer yasal adımlar şöyle sıralandı:
- Olay bildirimi: Kötü niyetli veya kontrol dışına çıkan bir yapay zekâ ajanı sistemleri ihlal ederse, etkilenen taraflara durumun yasal olarak bildirilmesi.
- Bağımsız değerlendirme: Yeni yapay zekâ modellerinin piyasaya çıkmadan önce bağımsız hükûmet denetçileri tarafından kapsamlı biçimde incelenmesi.
Smith, benzer denetim uygulamalarının başka tüketici ürünlerinde uzun süredir kullanıldığını ve bu deneyimin yapay zekâ alanına da aktarılması gerektiğini söyledi.
Denetim çağrısının dayanağı
Smith’in değerlendirmesine göre, yapay zekâ için güvenlik kuralları gündelik tüketici ürünlerine uygulanan denetimlerin gerisinde kalıyor. Önerileri, riskli sistemlerin durdurulabilmesini, olayların ilgili taraflara bildirilmesini ve modellerin kullanıma sunulmadan önce bağımsız incelemeden geçmesini kapsıyor.
