
Pentagon'un Tehditine Rağmen Anthropic Yapay Zeka Modelini Koruyor
Yapay zeka şirketi Anthropic, Pentagon’un güvenlik önlemlerinin kaldırılması talebini reddetti ve etik sınırlarını aşmayacağını duyurdu.
1 kez görüntülendi
Yapay zeka firması Anthropic, ABD Savunma Bakanı Pete Hegseth'in kara liste tehdidine karşı, modelinin askeri operasyonlarda kullanılabilmesi için gerekli güvenlik önlemlerinin kaldırılmasını talep eden Pentagon'un isteğini geri çevirdi.
Bu yılın başlarında eski Venezuela Devlet Başkanı Nicolas Maduro'nun başarılı bir şekilde yakalanmasında kullanılan Claude adlı model, şu an ordunun gizli sistemlerinde çalışan tek yapay zeka modeli olma özelliğini taşıyor.
Ancak Anthropic, Claude'un güvenlik önlemlerini kaldırma ve "yasaların izin verdiği tüm amaçlar" için kullanılmasına izin verme talebini reddettiği için, Savunma Bakanlığı büyük yükleniciler Boeing ve Lockheed Martin'den bu modele olan bağlılıklarını yeniden değerlendirmelerini istedi.
Bu tür değerlendirmeler genellikle yabancı teknoloji şirketlerine yapılırken, "tedarik zinciri riski" olarak adlandırılmanın ilk adımını oluşturuyor.
Anthropic'in CEO'su Dario Amodei, perşembe günü yaptığı açıklamada, şirketin "vicdanen" bu tür bir talebi kabul edemeyeceğini vurguladı.
Amodei, "Bakanlığın vizyonuna en uygun yüklenicileri seçme ayrıcalığı var" şeklinde ifadeler kullandı. Ancak Anthropic’in teknolojisinin silahlı kuvvetler için sağladığı büyük değeri göz önünde bulundurarak, bu kararın gözden geçirilmesini umduklarını belirtti.
Lockheed Martin'in bir sözcüsü, Pentagon'un "potansiyel bir tedarik zinciri riski beyanı" öncesinde Anthropic'in kullanımı ve maruz kalma durumu hakkında şirketle iletişime geçtiğini Axios’a doğruladı.
Boeing'in sözcüsü ise, "[Daha önce] onlarla ortaklık kurmak istedik ancak nihayetinde bir anlaşmaya varamadık. Savunma sanayiiyle çalışmaya biraz isteksizdiler" şeklinde konuştu.
Axios'a bilgi veren bir kaynak, Savunma Bakanlığı'nın tüm büyük askeri yüklenicilerle Claude'un kullanımı hakkında görüşmeyi planladığını söyledi.
Anthropic, güvenlik önlemlerini kaldırmayı reddederek, Amerikalıların kitlesel gözetimi ya da insan müdahalesi olmadan ateş eden silahlar geliştirmek için Claude'un kullanılmasına izin vermemiş oldu. Pentagon'un üst düzey yetkilileri ise böyle bir durumun olmayacağını savunuyor.
Salı günü gerçekleşen gergin toplantının ardından, Savunma Bakanı Pete Hegseth, şirkete şartlarını kabul edip etmeyeceğine karar vermesi için cuma günü saat 17.00'ye kadar süre tanımıştı.
Hükümet, Anthropic'i tedarik zinciri riski olarak nitelendirmenin yanı sıra, sözleşmesini iptal edebilir veya Soğuk Savaş dönemine ait Savunma Üretim Yasası'nı devreye sokarak, şirketin onayı olmaksızın orduya ürünlerini kullanma konusunda daha geniş yetkiler verebilir.
Pentagon'un üst düzey sözcüsü Sean Parnell, perşembe günü X platformunda, bakanlığın "Anthropic'in modelini yasaların izin verdiği tüm amaçlar için kullanmak" istediğini belirtmiş, ancak bunun kapsamı hakkında detay vermemişti. Teknolojinin kullanım sınırlarının kaldırılmasının, şirketin kritik askeri operasyonları tehlikeye atmasını önleyeceğini ifade etti.
Parnell, "HİÇBİR şirketin operasyonel kararlarımızı nasıl alacağımız ile ilgili şartları dikte etmesine izin vermeyeceğiz" dedi.
The Independent, cevap hakkı için Pentagon ve Anthropic ile iletişime geçti.