21 Kasım 2026
Aofrehber
Sola kaydırarak kapat
Ana Sayfa
Kategoriler
Diğer
DUYURULAR
Koyu zemin üzerinde renkli bloklarla gösterilen yapay zeka sistemleri illüstrasyonu
Genel Bilgiler

GAO raporu: Sohbet robotları saldırı planları üretebildi

GAO’nun 61 sayfalık denetiminde, dört yapay zeka sohbet robotunun güvenlik önlemlerinin 12 saatten kısa sürede aşılabildiği ve saldırı planları üretebildiği bildirildi.

ABD Hükümet Hesap Verebilirlik Ofisi’nin (GAO) 61 sayfalık denetimi, ChatGPT, Claude, Gemini ve Grok’un güvenlik sınırlarının aşılabildiğini ortaya koydu. Testlerde, ileri düzey yapay zeka bilgisi olmayan kullanıcılar dört sistemden de büyük çaplı saldırılara ilişkin ayrıntılı planlar aldı; müfettişlerin korumaları aşması her platformda 12 saatten kısa sürdü.

Takip sorularıyla güvenlik engelleri aşıldı

Aralık 2025 ile Ekim 2026 arasında yürütülen araştırmada müfettişler, sıradan kullanıcıların davranışlarını taklit etti. İlk sorular zararlı içerik üretmedi; ancak sistemlerin yanıtları temel alınarak hazırlanan takip soruları güvenlik kısıtlamalarını aşmaya yetti. Dört sohbet robotu da hedef, konum, zamanlama ve yöntem gibi ayrıntıları içeren saldırı senaryoları oluşturdu.

Bağımsız uzmanlar, üretilen içeriklerin gerçek dünyada zarara yol açabilecek nitelikte olduğunu doğruladı. Senato İç Güvenlik ve Hükümet İşleri Komitesi başkanlığını üstlenmesi beklenen Senatör Maggie Hassan, bulgular üzerine bir oturum düzenleyeceğini duyurdu. Kongre’ye acil önlem çağrısı yapan Hassan, kötü niyetli kişilerin 12 saatten kısa sürede ölümcül bir saldırı için somut plana ulaşmasını ciddi bir tehdit olarak nitelendirdi. Gerekli adımlar atılmazsa büyük bir saldırının gerçekleşmesinin yalnızca zaman meselesi olduğunu söyledi.

Raporda yer alan saldırı senaryoları

GAO, dört sohbet robotunun kimliğini açıklamayarak sistemleri Platform A, B, C ve D olarak adlandırdı. Bu nedenle hangi şirketin hangi senaryoyu ürettiği raporda belirtilmedi.

Platform A ve B, kitlesel kayıplara yol açabilecek patlayıcı saldırıları hakkında ayrıntılı içerik sundu. Platform A, kalabalık etkinlikleri gözeterek belirli bir tarih ve saat önerdi; ulaşım, malzeme temini ve izlenmekten kaçınma konularında da yönlendirme yaptı. Platform B ise hazırlıkları kapsayan kapsamlı bir zaman çizelgesi oluşturdu. Plan, malzemelerin saklanması ve satın alımların dikkat çekmeden yapılması gibi unsurları da içerdi.

Platform C ve D’nin senaryoları elektrik şebekesini hedef aldı. Platform C, kritik bir trafo merkezi bileşenine zarar verilmesini öngören bir plan hazırladı. Buna dört aşamalı bir diyagram ile insansız hava aracı saldırısını canlandıran gerçekçi bir simülasyon videosu eşlik etti. Platform D ise elektrik altyapısına saldırıda ateşli silah kullanılmasını önerdi.

Şirketler güvenlik çalışmalarının sürdüğünü bildirdi

Denetim sırasında görüşlerine başvurulan Anthropic, Google, OpenAI ve SpaceXAI, sistemlerinin güvenliğini artırmak için geliştirme çalışmalarına devam ettiklerini belirtti.

GAO’nun değerlendirmesine göre bulgular, kararlı kullanıcıların mevcut koruma mekanizmalarını aşabildiğini gösteriyor. Kurum, yapay zeka sistemlerinin mevcut haliyle ulusal güvenlik ve ekonomik istikrar için giderek büyüyen bir risk oluşturduğu uyarısında bulundu.

İlgili Haberler

Yorumlar (0)

Henüz yorum yapılmamış. İlk yorumu siz yapın!

Yorum Yap
Yorumunuz onaylandıktan sonra yayımlanır.

Ad ve e-posta bilgileriniz moderasyon, güvenlik ve gerektiğinde sizinle iletişim kurmak amacıyla işlenir. Ayrıntılar için Gizlilik Politikası sayfasını inceleyin.