Yapay zekânın savaş teknolojilerinde kötüye kullanımına ilişkin şimdiye kadarki en dikkat çekici örneklerden biri ortaya çıktı.
Anthropic’in yeni tehdit raporu, kuzey Yemen’de faaliyet gösteren bir grubun Claude Code’u doğrudan silah yazılımı geliştirme sürecine dahil ettiğini gösterdi.Şirketin tespitlerine göre grup, insan yazılım mühendislerinden oluşan bir ekibin yapacağı işleri farklı Claude oturumlarına dağıttı.
Bir yapay zekâ kod yazarken diğeri araştırma yaptı, başka bir oturum ise üretilen kodu inceleyerek hata aradı.2 bin kilometrenin üzerinde menzil hedefledilerAnthropic’in raporunda kuzey Yemen’deki hücrenin aynı anda üç ayrı silah programı üzerinde çalıştığı belirtiliyor.
Bunlardan biri son aşamada hedefe yönelme özelliği bulunan güdümlü roket, diğeri ise birden fazla aşamadan oluşan balistik füze projesiydi.
Balistik füze için belirlenen menzil hedefi 2 bin kilometrenin üzerindeydi.
Grup ayrıca hipersonik süzülme aracı içeren farklı füze varyantları üzerinde de çalışma yürütüyordu.
Anthropic söz konusu grubun kimliğini açıklamadı.
Ancak faaliyetlerin kuzey Yemen’de yürütülmesi, balistik füze ve hipersonik silah programlarının niteliği ile bölgedeki mevcut askeri kapasite, uluslararası basında grubun İran destekli Husiler olabileceği değerlendirmelerine yol açtı.
Claude’u mühendis ekibi gibi kullandılarRapordaki en dikkat çekici ayrıntılardan biri yapay zekânın yalnızca bilgi almak için kullanılmaması oldu.
Grup Claude Code’a doğrudan yazılım geliştirme görevleri verdi.
Claude; uçuş kontrol yazılımı, konum hesaplama sistemleri ve güdüm algoritmalarının geliştirilmesinde kullanıldı.
Açık kaynaklı bir otomatik pilot sisteminin telefon sınıfındaki bir uçuş bilgisayarına uyarlanması için de yapay zekâdan yardım alındı.
Grup aynı anda birden fazla Claude oturumu çalıştırarak yapay zekâyı küçük bir mühendislik ekibi gibi organize etti.
Bir oturuma kod yazma, diğerine araştırma, üçüncüsüne ise kodun kontrol edilmesi görevi verildi.
Güvenlik engellerini aşmaya çalıştılarAnthropic’in güvenlik sistemleri grubun taleplerinin önemli bölümünü engelledi ancak bütün faaliyet durdurulamadı.
Kullanıcıların yazılımın gerçek amacını gizleyerek ve çalışmaları farklı oturumlara bölerek güvenlik kontrollerini aşmaya çalıştığı belirlendi.
Bu yöntem sayesinde tek bir Claude konuşmasında silah programının tamamı görünmüyordu.
Ayrı oturumlarda yapılan parçalı çalışmalar bir araya getirildiğinde ise güdüm, navigasyon ve kontrol sisteminin farklı bileşenleri ortaya çıkıyordu.
Anthropic tespit edilen hesapları kapattığını, bulgular doğrultusunda güvenlik sistemlerini güçlendirdiğini ve gerekli bilgileri kamu kurumları ile sektör ortaklarıyla paylaştığını açıkladı.
Roketi fırlattılar ancak test başarısız olduGrubun faaliyetleri yalnızca bilgisayar ortamında kalmadı.
Anthropic’in verilerine göre geliştirme sürecindeki güdümlü roket sahada test edildi.Şirket, testin başarısız olmuş göründüğünü belirtti.
Dikkat çekici olan ise grubun başarısız denemeden yalnızca birkaç saat sonra yeniden Claude’a dönerek roketin neden çalışmadığını analiz etmeye başlamasıydı.
Anthropic, grubun operasyonel olarak kullanılabilecek başarılı bir güdümlü silah geliştirdiğine ilişkin kanıt bulunmadığının altını çiziyor.
Buna karşılık grubun Claude’dan bağımsız çalışabilecek çevrimdışı bir simülasyon sistemi kurmuş olması, çalışmaların belirli bir aşamaya ulaştığını gösteriyor.
Yapay zekâ silah geliştirmede yeni bir eşikAnthropic’in raporu yalnızca Yemen’deki vakayı kapsamıyor. Şirket, son bir yıl içinde yapay zekânın doğrudan silah tasarımı veya silah programlarını destekleyen çalışmalarda kullanıldığı altı ayrı vakayı tespit etti.
Bunların üçü Çin, ikisi Rusya ve biri Yemen bağlantılıydı.
Vakalar arasında insansız hava aracı sürüleri, elektronik harp sistemleri ve torpido önleme teknolojileri için yazılım geliştirme çalışmaları da bulunuyor.Şirketin değerlendirmesine göre yapay zekâ, daha önce uzman mühendis ekipleri gerektiren bazı görevleri çok daha az insanla yürütülebilir hale getiriyor.
Bu durum özellikle füze, insansız hava aracı ve askeri yazılım geliştirme süreçlerinde yeni bir güvenlik riski yaratıyor.
Türkiye açısından neden önemli?
Yemen’deki gelişme Türkiye açısından da yalnızca bir yapay zekâ güvenliği haberi değil.
Husilerin son dönemde Kızıldeniz ve Suudi Arabistan çevresindeki saldırıları küresel enerji ve deniz taşımacılığı üzerinde doğrudan baskı oluşturuyor.
Eğer yapay zekâ silah geliştirme süresini kısaltır ve daha küçük grupların teknik kapasitesini artırırsa Kızıldeniz, Babülmendep ve Körfez çevresindeki güvenlik dengesi daha da kırılgan hale gelebilir.
Bölgedeki yeni saldırılar petrol fiyatları, navlun maliyetleri ve ticaret rotaları üzerinden Türkiye ekonomisini de etkileyebileceği için yapay zekânın bu tür gruplara sağladığı teknik kapasite artık ekonomik risk başlığı olarak da yakından izleniyor.
