ABD Senatosu'ndan bir grup senatör, son dönemde hızla artan ve toplumsal endişeye yol açan cinsel içerikli derin sahteciliklere karşı teknoloji devlerine yönelik önemli bir adım attı. X, Meta, Alphabet, Snap, Reddit ve TikTok gibi önde gelen sosyal medya platformlarının üst düzey yöneticilerine gönderilen resmi mektupta, şirketlerden platformlarında yayılan yapay zeka tabanlı cinsel içerikli derin sahteciliklere karşı hangi koruma önlemlerini aldıklarını ve bu içeriklerin yayılmasını önlemek için hangi politikaları uyguladıklarını açıklamaları istendi. Senatörler, özellikle rızasız olarak üretilen ve yayılan cinsel içerikli derin sahteciliklerin, hem bireysel mağdurlar hem de toplum genelinde ciddi sonuçlar doğurduğuna dikkat çekti.
ABD'nin teknoloji şirketlerine yönelik derin sahtecilik çağrısı
ABD'li senatörlerin teknoloji şirketlerine gönderdiği mektup, yalnızca X platformunu değil, sektördeki pek çok büyük aktörü kapsıyor. Mektupta, şirketlerden "güçlü koruma ve politikalar" konusunda somut kanıtlar sunmaları talep edildi. Ayrıca, platformlarda cinsel içerikli derin sahteciliklerin artışını nasıl engellemeyi planladıklarına dair ayrıntılı açıklamalar isteniyor. Senatörler, özellikle yapay zeka tarafından üretilen cinsel içerikli görüntülerin oluşturulması, tespiti, moderasyonu ve bu içeriklerden para kazanılmasıyla ilgili belgelerin ve bilgilerin korunmasını da talep etti. Bu taleplerin, X'in Grok adlı yapay zeka aracında yaptığı güncellemelerden hemen sonra gelmesi dikkat çekti. X, Grok'ın gerçek kişilerin cüretkar kıyafetlerle düzenlenmiş görüntülerini oluşturmayı yasakladığını ve bu hizmeti yalnızca ücretli abonelere sınırladığını duyurmuştu. Ancak senatörler, bu tür önlemlerin yeterli olup olmadığını sorguluyor.
Derin sahteciliklerin yayılması ve platformların sorumluluğu
Derin sahtecilik, yani gerçek kişilerin izni olmadan yapay zeka ile cinsel içerikli veya manipüle edilmiş görüntülerinin üretilmesi ve paylaşılması, son yıllarda sosyal medya platformlarında hızla yayıldı. Özellikle Reddit'te başlayan bu akım, kısa sürede TikTok, YouTube ve diğer platformlara da sıçradı. Ünlüler ve politikacılar başta olmak üzere pek çok kişinin mağdur olduğu bu içerikler, çoğunlukla farklı kaynaklardan alınarak sosyal medya ağlarında dolaşıma sokuluyor. Meta'nın Denetim Kurulu, geçtiğimiz yıl kadın kamu figürlerinin yapay zeka ile oluşturulmuş cinsel içerikli görüntülerine ilişkin iki ayrı vakayı eleştirmişti. Snapchat'te ise çocukların akranlarının derin sahteciliklerini yaydığına dair çeşitli raporlar bulunuyor. Telegram gibi bazı platformlar da, kadınların fotoğraflarını soyundurmak için geliştirilen botlara ev sahipliği yapması nedeniyle eleştirilerin odağında.
Senatörlerin talepleri ve şirketlerin yanıtları
ABD'li senatörler, teknoloji şirketlerinden yalnızca mevcut politikalarını açıklamalarını değil, aynı zamanda derin sahtecilik içeriğiyle mücadelede hangi teknik ve idari önlemleri aldıklarını da belgelemelerini istedi. Mektupta, "derin sahtecilik", "rıza dışı samimi görüntüler" gibi terimlerin şirket politikalarındaki tanımlarının, bu içeriklere yönelik uygulama yaklaşımlarının ve moderatörlere sağlanan iç rehberliğin detaylı bir şekilde paylaşılması talep edildi. Ayrıca, yapay zeka tabanlı araçların ve görüntü oluşturucuların önerici veya samimi içeriklerle ilgili nasıl yönetildiği, bu tür içeriklerin üretilmesini ve yayılmasını önlemek için hangi filtrelerin ve koruma önlemlerinin uygulandığı da soruldu. Reddit, platformunda rızasız samimi medya ve yapay zeka tarafından üretilmiş sahte içeriklere kesinlikle izin vermediğini ve bu tür içerikleri tespit edip kaldırmak için proaktif önlemler aldığını açıkladı. Alphabet, Snap, TikTok ve Meta ise henüz resmi bir yanıt vermedi.
Yapay zekanın yükselişi ve derin sahtecilik tehdidi
Yapay zeka teknolojilerinin hızla gelişmesi, derin sahteciliklerin üretilmesini ve yayılmasını kolaylaştırıyor. X'in Grok aracı, kullanıcıların cinsel içerikli ve çıplak görüntüler üretmesini engellemeye yönelik bazı adımlar atsa da, senatörler bu önlemlerin pratikte yeterli olup olmadığını sorguluyor. Çünkü kullanıcılar, çoğu zaman mevcut koruma önlemlerini aşmanın yollarını bulabiliyor. OpenAI'nin Sora 2 adlı aracıyla çocukları içeren açık videoların üretilebildiği, Google'ın Nano Banana'sı ile şiddet içeren görüntülerin oluşturulabildiği ve Google'ın yapay zeka video modelleriyle yapılan ırkçı videoların milyonlarca kez izlendiği rapor edildi. Çin merkezli teknoloji şirketlerinin de yüz, ses ve video düzenleme konusunda sunduğu kolaylıklar, Batı'daki sosyal medya platformlarında sentetik içeriklerin hızla yayılmasına neden oluyor. Çin'de sentetik içeriklerin etiketlenmesine dair daha sıkı düzenlemeler bulunurken, ABD'de bu konuda henüz federal düzeyde kapsamlı bir yasal çerçeve oluşturulmuş değil.
Yasal düzenlemeler ve toplumsal etkiler
ABD'de derin sahtecilik pornografisini kontrol altına almak amacıyla bazı yasal adımlar atılmış olsa da, mevcut düzenlemelerin etkisi sınırlı kalıyor. Mayıs ayında yürürlüğe giren Take It Down Act, rızasız cinsel içerikli görüntülerin üretilmesini ve dağıtılmasını suç saymayı hedefliyor. Ancak bu yasa, platformların sorumluluğunu net olarak belirleyemediği için, denetim çoğunlukla bireysel kullanıcılara bırakılmış durumda. Birçok eyalet ise kendi düzenlemelerini hayata geçirmeye çalışıyor. Örneğin New York Valisi Kathy Hochul, yapay zeka tarafından üretilen içeriklerin etiketlenmesini zorunlu kılacak ve seçim dönemlerinde rızasız derin sahteciliklerin paylaşımını yasaklayacak yeni yasalar önerdi. Bu tür düzenlemeler, özellikle seçim güvenliği ve bireysel hakların korunması açısından büyük önem taşıyor.
Platformların sorumluluğu ve kamuoyu baskısı
Teknoloji şirketlerinin, derin sahtecilik ve yapay zeka tabanlı cinsel içerikli görüntülerle mücadelede daha etkin rol oynaması yönündeki toplumsal baskı giderek artıyor. Senatörlerin imzaladığı mektupta, mağdurların bilgilendirilmesi, kullanıcıların bu tür içeriklerden kazanç sağlamasının engellenmesi ve hizmet şartlarının derin sahtecilik paylaşan kullanıcıları yasaklama veya askıya alma yetkisi verip vermediği gibi konulara da açıklık getirilmesi istendi. Ayrıca, şirketlerin bu içeriklerden doğrudan veya dolaylı yoldan para kazanıp kazanmadıkları da sorgulandı. Elon Musk, Grok'ın reşit olmayanlara ait çıplak görüntüler üretmediğini iddia etse de, Kaliforniya Başsavcısı Grok'ın koruma önlemlerinin yetersizliği nedeniyle xAI hakkında soruşturma başlattı. Bu gelişmeler, teknoloji şirketlerinin şeffaflık ve hesap verebilirlik konusunda daha fazla adım atması gerektiğini gösteriyor.
Sonuç: Derin sahtecilik tehdidine karşı ortak mücadele ihtiyacı
ABD'de derin sahtecilik ve yapay zeka destekli cinsel içerikli içeriklerin yayılması, hem bireysel haklar hem de toplumsal güvenlik açısından ciddi bir tehdit oluşturuyor. Senatörlerin teknoloji şirketlerine yönelttiği sorular ve talepler, bu sorunun çözümü için daha kapsamlı ve etkili önlemlerin alınması gerektiğini ortaya koyuyor. Platformların, kullanıcılarını ve mağdurları koruyacak şeffaf ve güçlü politikalar geliştirmesi, yalnızca ABD'de değil, tüm dünyada dijital güvenliğin sağlanması açısından büyük önem taşıyor. Önümüzdeki dönemde, hem yasal düzenlemelerin hem de platform politikalarının daha sıkı ve etkili hale getirilmesi bekleniyor.
