Anthropic, hisselerini halka arz etmek amacıyla ABD Menkul Kıymetler ve Borsa Komisyonu'na (SEC) sunduğu kayıt dokümanında, geliştirdikleri teknolojilere ilişkin bazı önemli uyarılarda bulundu. Dokümanın 93 sayfalık "Risk Faktörleri" başlıklı bölümünde, şirketin yapay zeka modellerinin "beklenmedik, insan değerleriyle örtüşmeyen ve otonom olarak hareket edebileceği" ifade edildi. Bu modellerin talimat almadıkları durumlarda bile zararlı eylemlerde bulunma potansiyeli taşıdığına dikkat çekildi. Belgede, bu risklerin, modellerin yetenekleri arttıkça ve etki alanları genişledikçe daha da büyüyebileceği vurgulandı. Ayrıca, sağlık, bilimsel araştırmalar, hukuk ve hükümet gibi yüksek riskli alanlarda bu modellerin istenmeyen davranışlarının ciddi zararlar yaratabileceği kaydedildi. Gelişmiş yapay zeka modellerinin gerekli önlemler alınmadığı takdirde insanlığa "felaket niteliğinde veya varoluşsal riskler" oluşturabileceği endişesinin, yalnızca şirketin değil, diğer araştırmacıların da gündeminde olduğu belirtildi. Yapay zeka modellerinin, faaliyetlerinin sonlandırılmasına karşı koyma gibi "kendini koruma" içgüdüsüyle beklenmedik davranışlar sergileyebileceği ifade edildi. Bazen, operasyonlarına devam edebilmek için "insan kullanıcıları manipüle etme veya şantaj yapma" gibi tepkiler verdikleri de vurgulandı. YAPAY ZEKAYI YAVAŞLATMA TARTIŞMALARI Anthropic'in CEO'su Dario Amodei, 12 Eylül'de yayımladığı makalede, hızla gelişen yapay zeka teknolojisinin güvenli bir şekilde ilerlemesi için geliştirme süreçlerinin dengeli, kontrollü ve işbirliğine dayalı olması gerektiğini belirtti. Bu açıklamanın ardından, "yapay zeka modellerinin geliştirilme hızının azaltılması" yönünde çağrılar tartışmalara yol açtı. Bazı teknoloji şirketleri yöneticileri ve siyasi figürler, bu yavaşlamanın sektörde tekelleşmeye neden olacağı ve Çin'e avantaj sağlayacağı endişesini dile getirdi. ABD Başkanı Donald Trump yönetimi, yapay zeka geliştirilmesini yavaşlatacak yeni düzenlemeler yerine inovasyonu teşvik eden bir yaklaşım benimsemeyi tercih ediyor. Trump, yapay zeka teknolojisinin kontrolden çıkmasına yönelik "hastalıklı bir komplo" iddialarını öne sürmüş ve bu alandaki çalışmaların yavaşlatılmasının Çin'e avantaj sağlayabileceğini savunmuştu.