ABD basınındaki haberlere göre, Google DeepMind ve Google Cloud gibi yapay zeka alanında çalışan 600'den fazla kişi, Pentagon ile süren yapay zekada işbirliği konulu görüşmelere ilişkin Pichai'ye açık mektup gönderdi.
Mektupta, Pentagon ile devam eden görüşmelerden endişe duyulduğuna işaret edilerek, yapay zeka sistemlerinin hata yapabildiği belirtildi.
Çalışanların, bu teknolojinin etik dışı ve tehlikeli kullanımının önlenmesi için sorumluluk duyduğu vurgulanan mektupta, şunlar kaydedildi:
"Bu nedenle sizden yapay zeka sistemlerimizin gizli çalışmalar için erişilebilir hale getirilmesini reddetmenizi talep ediyoruz. Yapay zekanın insanlığa faydalı olduğunu görmek istiyoruz, insanlık dışı veya son derece zararlı şekilde kullanıldığını görmek istemiyoruz."
Mektupta, bu zararlı kullanımlara "ölümcül otonom silahlar ve toplu gözetim" örnek verilerek bu işbirliğinin reddedilmemesi halinde Google'ın bilgisi dışında olacak zararlı kullanımları durduramayabileceği belirtildi.
Bu konuda "yanlış karar vermenin Google'ın itibarına, dünyadaki rolüne ve işine geri dönülemez zarar verebileceği" ifade edilen mektupta, geliştirilmesinde rol oynadıkları teknolojinin yanlış kullanımı nedeniyle dünyada çok sayıda can kaybı olduğuna dikkati çekildi.
HÜKÜMET İLE ANTHROPİC ARASINDAKİ GERİLİM
Yapay zeka firması Anthropic'in, Claude modelini "tüm yasal askeri amaçlar" için kullanıma açmayı reddetmesi ve askeri kullanıma dair güvenlik endişeleri, Pentagon ile anlaşmazlıklara yol açmıştı.
ABD Savunma Bakanı Pete Hegseth, 24 Şubat'ta Anthropic'e ültimatom vermiş, Pentagon'un şirketin yapay zekasını istediği şekilde kullanmasına 27 Şubat'a kadar izin vermedikleri takdirde hükümetle sözleşmelerini kaybetme riskinin bulunduğunu söylemişti.
ABD Başkanı Donald Trump da 27 Şubat'ta Pentagon ile Anthropic arasında yaşanan tartışmaların ardından tüm federal kurumlara Anthropic teknolojisinin kullanımının derhal durdurulması talimatı vermişti.
Ardından Pentagon, 6 Mart'ta teknolojisinin ABD vatandaşlarının gözetlenmesinde ve tam otonom silahlarda kullanılmasını kabul edemeyeceğini açıklayan firmayı "tedarik güvenliği açısından riskli" ilan etmişti.
Anthropic, 9 Mart'ta ABD hükümetine karşı iki dava açarak, Pentagon yetkililerinin yapay zeka güvenliği konusundaki tutumundan dolayı şirkete yasa dışı şekilde misilleme yaptığını iddia etmişti.
OpenAI ve Google çalışanlarının imzaladığı açık mektupta ise Pentagon'un Anthropic'e baskı yaptığı belirtilerek duruma tepki gösterilmişti.
ABD MEDYASI: PENTAGON, GİZLİ ÇALIŞMALAR İÇİN GOOGLE İLE YAPAY ZEKA ANLAŞMASI İMZALADI
The Information haber sitesinin konuyla ilgili bilgi sahibi bir kişiye dayandırdığı haberinde Pentagon'un, yapay zeka modellerini gizli çalışmalar için kullanmak üzere Alphabet bünyesindeki teknoloji şirketi Google ile anlaşma imzaladığı ifade edildi. Anlaşmanın, Pentagon'un Google'ın yapay zekasını "hükümetin yasal amaçları için" kullanmasına izin verdiği belirtildi. Anlaşmanın, hükümetin talebi üzerine Google'ın yapay zeka güvenlik ayarlarını ve filtrelerini düzenlemeye yardımcı olmasını içerdiği aktarıldı. Anlaşmada, "Taraflar, yapay zeka sisteminin uygun insan gözetimi ve kontrolü olmaksızın yurt içi kitlesel gözetim veya otonom silahlar (hedef seçimi dahil) için tasarlanmadığı ve kullanılmaması gerektiği konusunda mutabıktır" ifadeleri kullanıldı. Ancak anlaşmanın, Google'a yasal operasyonel karar alma süreçlerini kontrol etme veya veto etme hakkı vermediği de vurgulandı.
