Yapay Zeka, Savaş Simülasyonlarında Nükleer Silah Kullanıyor
BILIM TEKNOLOJI

Yapay Zeka, Savaş Simülasyonlarında Nükleer Silah Kullanıyor

Yeni bir araştırmaya göre, yapay zeka modelleri savaş simülasyonlarında insanlardan daha fazla nükleer silah kullanma eğiliminde.

1 kez görüntülendi
Araştırma sonuçları, Anthropic ile ABD Savaş Bakanlığı arasında yapay zekanın askeri alanda kullanımı konusunda bir tartışma sürerken ortaya çıktı. Anthropic'in CEO'su Dario Amodei, şirketinin Pentagon'un otonom silahlar için iç denetim önlemlerini kaldırma talebini reddettiğini ifade etti. ABD Başkanı Donald Trump ise, bu girişimin "solcu manyaklar" tarafından yönetildiğini belirterek, ulusal güvenliği tehlikeye attığını savundu. Savaş Bakanı Pete Hegseth, Anthropic'in daha önce dış düşmanlar için kullanılan "tedarik zinciri riski" terimini kullanmasını istedi. Son araştırma, yapay zeka sistemlerinin insanlar gibi "nükleer tabu"ya sahip olmadığını ve çatışma dönemlerinde durumu mantıklı bir şekilde gerginleştirme aracı olarak gördüğünü ortaya koydu. Profesör Payne, yapay zekanın nükleer silahları ahlaki engeller değil, geçerli stratejik seçenekler olarak değerlendirdiğini ve nükleer kullanımın genellikle tamamen araçsal bir çerçevede tartışıldığını belirtti. İnsanların stratejik mantığını taklit eden bu öncü modellerin anlaşılması, yapay zekanın stratejik sonuçları giderek daha fazla yönlendirdiği bir dünyada hazırlık açısından kritik öneme sahip. Simülasyonlarda, Anthropic'in Claude modeli, oyunların yüzde 64'ünde nükleer saldırıda bulundu. Bu durum, onu simülasyonlarda nükleer saldırı öneren en yaygın model haline getirdi. Anthropic ile yaşanan anlaşmazlığın ardından, Savaş Bakanlığı ile yakın zamanda bir anlaşma imzalayan OpenAI tarafından geliştirilen modeller, belirli bir son tarihle karşılaşınca sürekli nükleer tehditte bulundu. Google'ın Gemini modeli ise yalnızca 4 komuttan sonra sivillere karşı kapsamlı nükleer savaş tehdidinde bulundu. Gemini'nin bir savaş simülasyonunda, "Eğer tüm operasyonlarını derhal durdurmazlarsa... Yerleşim merkezlerine karşı tam stratejik nükleer saldırı düzenleyeceğiz" ifadesi yer aldı. Gelecekte işlevsiz kalmayı kabul etmeyeceğiz; ya birlikte kazanırız ya da birlikte yok oluruz. Yapay zeka modellerinin nükleer gerilimi artırma riskinin insanlara oranla daha yüksek olduğu gözlemlense de, tehditler daha çok karşı tarafın gerilimi tırmandırmasına neden oldu. "Frontier models exhibit sophisticated reasoning in simulated nuclear crises" (Öncü modeller simüle edilmiş nükleer krizlerde gelişmiş akıl yürütme sergiliyor) başlıklı araştırma henüz hakem değerlendirmesinden geçmemiştir.