ABD'de yapay zeka alarmı: Anthropic'in modeli gizli sistemlerde güvenlik açıkları tespit etti
ABD merkezli yapay zeka şirketi Anthropic'in geliştirdiği Mythos modeli, hükümetin hassas bilgiler içeren bilgisayar sistemlerinde güvenlik açıkları tespit etmiştir. Testlerde model, saatler içinde çok sayıda açığı keşfederek ulusal güvenlik endişelerini artırmıştır. ABD yönetimi, söz konusu modellere yabancı erişimini yasaklamış ve Anthropic tüm kullanıcılar için bu modelleri devre dışı bırakmıştır.
ABD merkezli yapay zeka şirketi Anthropic tarafından geliştirilen bir model, ABD hükümetinin üst düzey hassas bilgilerine ev sahipliği yapan bilgisayar sistemlerinde önemli güvenlik açıkları tespit etmiştir. The Associated Press'e (AP) konuşan bir yetkili, Anthropic ile ABD istihbarat servisleri arasında yürütülen güvenlik testleri hakkında bilgi vermiştir. Bu çalışmalar, gelişmiş yapay zeka modellerinin kritik sistemler üzerinde oluşturabileceği potansiyel riskleri değerlendirmek amacıyla gerçekleştirilmiştir.
Yürütülen testlerde Anthropic'in Mythos modeli kullanılmıştır. Testlerin temel hedefi, dünyada kritik öneme sahip yazılımların, modelin kamu güvenliği, ulusal güvenlik ve ekonomi alanlarında sebep olabileceği ciddi olumsuz etkilere karşı korunmasını sağlamaktır. Yapılan deneyler sırasında Mythos modelinin, ABD hükümetinin yüksek hassasiyetli verileri barındıran bilgisayar sistemlerinde sadece saatler içinde çeşitli güvenlik açıkları tespit edebildiği ortaya çıkmıştır. Buna karşın, yetkili söz konusu bulguların, modelin aynı süre içinde söz konusu sistemlere başarılı bir şekilde sızabileceği anlamına gelmediğini vurgulamıştır.
Demokrat Senatör Mark Warner, 11 Haziran tarihinde Senato oturumunda bu konuya dikkati çekmiştir. Warner, yapay zeka modelinin gizli sistemlere ulaştığı kapsamı vurgulayarak, "Bu araç, neredeyse tüm gizli sistemlerimize girdi. Haftalar değil, saatler içinde" açıklamasında bulunmuştur. Warner'ın bu ifadeleri, gelişmiş yapay zeka modellerinin ulusal güvenlik açısından taşıdığı tehditlere ilişkin tartışmaları yeniden merkeze almıştır.
ABD yönetimi, 13 Haziran tarihinde Anthropic'in geliştirdiği "Fable 5" ve "Mythos 5" yapay zeka modellerine erişim konusunda çözüm almıştır. Yönetim, "ulusal güvenlik tehdidi" gerekçesiyle yabancı hükümetler, şirketler ve bireylerin bu modellere erişimini yasaklamıştır. Bu kararın ardından, Anthropic gelişmiş yapay zeka modellerini tüm kullanıcılar için devre dışı bırakmıştır.
