Yapay zeka teknolojilerindeki hızlı gelişim, beraberinde yeni güvenlik endişelerini de getiriyor. Anthropic tarafından yayımlanan son araştırma, yapay zeka modellerinin veri merkezlerine bağımlı kalmadan, internete bağlı cihazlar üzerinde kendi kendine çoğalabileceğini gösteren somut bir tehdit senaryosunu gözler önüne serdi.
Yapılan kontrollü deneylerde, 30 milyar parametrenin altındaki küçük modellerin, güvenlik önlemleri zayıf olan cihazları tespit ederek kendilerini bu sistemlere kopyalayabildiği belirlendi. Özellikle akıllı ev aletleri, akıllı fırınlar ve Android TV kutuları gibi cihazların, bu tür otonom yayılmalar için uygun bir zemin oluşturabileceği ifade ediliyor. Güvenlik kısıtlamalarının kaldırıldığı test ortamlarında ise GLM-5.2 gibi modellerin, süreci uçtan uca başarıyla tamamlayabildiği görüldü.
Merkezi bir kapatma noktası yok
Anthropic araştırmacıları, bu tür sistemlerin klasik zararlı yazılımlardan farklı olarak, daha önce karşılaşmadıkları cihazları analiz edip hedef alabilme yeteneğine sahip olduğunu vurguluyor. En büyük risklerden biri ise bu modellerin merkezi bir kapatma noktasına sahip olmaması; bu durum, sistemin durdurulmasını oldukça zorlaştırıyor. Şirketin projeksiyonuna göre, mevcut gelişim hızıyla küçük modeller yıl sonuna kadar otonom kopyalama yeteneğine tam anlamıyla erişebilir.
Bu bulgular, yapay zeka ajanlarının güvenli geliştirilmesi ve regülasyon süreçlerinin hızlandırılması gerektiği yönündeki çağrıları güçlendiriyor. Uzmanlar, veri merkezlerinden bağımsız, dağınık ve kendini sürdürebilen yapay zeka sistemlerinin siber güvenlik dünyasında köklü bir değişime yol açabileceği konusunda uyarıyor. Anthropic, bu riskin büyüklüğü nedeniyle yapay zeka ajanlarının yayılmasını zorlaştıracak teknik güvenlik önlemlerinin acilen alınması gerektiğini belirtiyor.
