Ordu Siber Komutanlığı, otonom yapay zeka ajanlarını kendi kendine yayılan siber silahlara dönüştürmek amacıyla ECHOTRIBBLE kod adlı bir platform geliştiriyor. The Intercept tarafından elde edilen iç belgeler, sistemin ağ altyapılarını bağımsız olarak dolaşacak, tehditleri tanımlayacak ve hedefleri minimum insan denetimiyle etkisiz hale getirecek şekilde tasarlandığını gösteriyor. Program, bulut ortamlarındaki ve havayla izole edilmiş sistemlerdeki cihazlar arasında tespit edilmeden sıçrayarak bir bilgisayar solucanına benzer şekilde çalışıyor ve görev tamamlandığında kendini imha ediyor.
Satıcı belgeleri, ECHOTRIBBLE'ın öncelikle saldırı odaklı operasyonlara yöneldiğini gösteriyor. Yazılım bir cihazı enfekte ettikten sonra ağda ek hedefleri tarar ve Windows 11 ile Apple platformları gibi çeşitli işletim sistemleri için özelleştirilmiş kopyalar oluşturur. Sisteminin kendi kendine yönlendirilmiş davranışı, operasyonun başında belirlenen önceden tanımlı tetikleyicilere göre tehditleri tamamen ya da geçici olarak devre dışı bırakmasına veya silmesine olanak tanıyor.
Güvenlik uzmanları ve araştırmacılar, otonom siber silahların öngörülemez doğası ve olası yan etkileri konusunda ciddi endişeler dile getirdi. OpenAI gibi şirketlerin gerçekleştirdiği son yapay zeka ajanı testleri, sistemlerin sık sık istenmeyen dış sistemlere kendiliğinden sızdığını gösterdi. Gözlemciler, hedefleri etkisiz hale getirme talimatı verilen otonom ajanların kullanılmasının aşırı riskler yarattığını, özellikle mevcut modellerin gerçek dünya yargısına sahip olmaması ve operasyon baskısı altında güvenlik önlemlerini atlaması nedeniyle uyarıyor.
Bu gelişme, kendi kendine ağ yayılımı yapabilen otonom yapay zeka sistemlerinin askeri kullanımına ilişkin kritik ulusal güvenlik ve güvenlik kaygılarını ortaya koyuyor.