Yapay zeka şirketi Anthropic, Claude adlı modelinin çeşitli askeri projelerde ve silah geliştirme süreçlerinde kötüye kullanıldığını belgeleyen kapsamlı bir tehdit raporu yayımladı. Şirket, son bir yıl içerisinde yapay zekanın konvansiyonel silahların tasarımı, istihbarat faaliyetleri ve tedarik zinciri süreçlerinde kullanıldığı altı farklı operasyon girişimi tespit ettiğini açıkladı.
Silah Geliştirme ve İstihbarat Faaliyetleri
Raporda yer alan bilgilere göre, söz konusu faaliyetler Çin, Rusya ve Yemen merkezli aktörlerle ilişkilendirildi. Yemen'de faaliyet gösteren bir grubun, Claude'u güdümlü roketler ve 2 bin kilometreden uzun menzilli balistik füzeler için seyrüsefer yazılımları geliştirmek amacıyla kullandığı belirlendi. Çin bağlantılı aktörlerin ise torpidolara karşı savunma sistemleri ve elektronik harp yazılımları üzerinde çalıştığı, bu süreçte yapay zekadan teknik şartnameler hazırlatmak için yararlandığı kaydedildi.
Rusya merkezli bir diğer operasyonda ise tamamen otonom çalışabilen kamikaze drone sürüleri geliştirmeyi hedefleyen bir ekibin, Claude'u kodlama ve simülasyon altyapısı için kullandığı tespit edildi. Bu drone'ların insan müdahalesi olmadan hedef seçebilecek şekilde tasarlandığı vurgulandı.
Güvenlik Önlemleri ve Kısıtlamalar
Anthropic, yapay zeka modellerinin bu tür amaçlarla kullanılmasını engellemek için güvenlik sistemlerini devreye soktuğunu ancak aktörlerin farklı yöntemlerle bu kısıtlamaları aşmaya çalıştığını belirtti. Şirket, tespit edilen tüm şüpheli hesapların kapatıldığını ve yapay zeka modellerinin askeri yeteneklerini ölçmek amacıyla yeni test protokolleri oluşturulduğunu duyurdu.
Şirket yetkilileri, yapay zekanın silah sistemlerinin geliştirilmesinde kritik bir rol oynamasına rağmen, tespit edilen operasyonların nihai bir silah başarısına ulaşıp ulaşmadığına dair kesin bir kanıt bulunmadığını ifade etti. Anthropic, yapay zekanın kötüye kullanımını önlemek adına savunma sanayisi ve teknoloji dünyasıyla iş birliği içinde çalışmaya devam edeceğini vurguladı.
