HABER MERKEZİ
Google, bir soruşturmanın insanların yanlış ve yanıltıcı bilgiler nedeniyle ciddi sağlık riskleri altında olduğunu ortaya koyduktan sonra, AI Overviews'ın bazı sağlık alanında özetlerini arama sonuçlarından kaldırdı. Şirket, üretken yapay zeka teknolojisini kullanarak bir konu hakkında anlık bilgi görüntüleri sağlayan bu aracın "faydalı" ve "güvenilir" olduğunu savunmuş olsa da, arama sonuçlarının başında yer alan bazı özetler kullanıcıları ciddi sağlık tehlikelerine maruz bırakmıştır.
Uzmanlar tarafından "tehlikeli" ve "endişe verici" olarak nitelendirilen bir durumda, Google'ın AI Overviews aracı karaciğer fonksiyon testleri konusunda sahte ve yanıltıcı bilgiler sunmuştur. Ciddi karaciğer hastalığı olan hastalar, bu yanlış bilgiler sayesinde kendilerinin aslında sağlıklı olduğunu düşünme riski altına girmiştir. Guardian'ın araştırması, "karaciğer kan testleri için normal aralık nedir" şeklinde bir arama yapıldığında, yapay zeka aracının yığınla sayı sunduğunu ancak çok az bağlam, hastanın milliyeti, cinsiyeti, etnik kökeni veya yaşı gibi kritik faktörleri dikkate almadığını bulmuştur. Uzmanlar, Google'ın AI Overviews'ının normal olduğunu söylediği değerlerin, gerçekte normal kabul edilen aralıklardan büyük ölçüde farklılık gösterebileceğini belirtmiştir. Bu durum, ciddi şekilde hasta olan kişilerin yanlışlıkla normal bir test sonucuna sahip olduklarını düşünmelerine ve takip sağlık hizmetlerine başvurmaktan kaçınmalarına yol açabilir.
Soruşturmanın ardından, Google "karaciğer kan testleri için normal aralık nedir" ve "karaciğer fonksiyon testleri için normal aralık nedir" arama terimleri için AI Overviews'ı kaldırmıştır. Şirketin sözcüsü, arama içindeki bireysel kaldırmalar hakkında yorum yapmadığını ancak AI Overviews'ın bazı bağlamları kaçırdığı durumlarda geniş iyileştirmeler yapmak için çalıştıklarını ve uygun olduğunda politikaları kapsamında harekete geçtiklerini belirtmiştir. Ancak, karaciğer sağlığı alanında çalışan British Liver Trust kuruluşunun iletişim ve politika direktörü Vanessa Hebditch, bu kaldırmanın memnuniyet verici olsa da, soru farklı bir şekilde sorulursa potansiyel olarak yanıltıcı bir AI Overview'ın yine de verilebileceğini uyarmıştır. Guardian'ın ek araştırması, orijinal sorguların hafif varyasyonlarının, örneğin "lft referans aralığı" veya "lft test referans aralığı" gibi terimlerin, AI Overviews'ı tetiklediğini ortaya çıkarmıştır. Hebditch, bunun büyük bir endişe olduğunu vurgulayarak, bir karaciğer fonksiyon testinin farklı kan testlerinin bir koleksiyonu olduğunu ve sonuçlarını anlamanın karmaşık bir süreç olduğunu açıklamıştır. AI Overviews'ın testlerin bir listesini kalın harflerle sunması, okuyucuların bu sayıların kendi testleri için doğru olmayabileceğini kaçırmalarını çok kolaylaştırmaktadır. Ayrıca, bu araç, birinin ciddi karaciğer hastalığı olduğunda ve daha fazla tıbbi bakıma ihtiyaç duyduğunda bu testler için normal sonuçlar alabileceği konusunda uyarmamaktadır.
Küresel arama motoru pazarının yüzde 91'ine sahip olan Google, Guardian tarafından kendisine sağlanan yeni örnekleri incelediğini söylemiştir. Hebditch, tüm bunlarla ilgili daha büyük endişesinin, tek bir arama sonucunu detaylı biçimde incelemesi ve Google'ın bunun için AI Overviews'ı kapatabilmesi ama sağlık alanında AI Overviews'ın daha geniş sorununu ele almaması olduğunu belirtmiştir. Kanıta dayalı sağlık bilgilerini hastalara, halka ve sağlık profesyonellerine tanıtan Patient Information Forum'un başkanı Sue Farrington, özetlerin kaldırılmasını memnuniyetle karşılamış ancak hala endişeleri olduğunu söylemiştir. Farrington, bunun iyi bir sonuç olduğunu ancak Google'ın sağlıkla ilgili arama sonuçlarına olan güveni sürdürmek için gerekli olanın sadece ilk adım olduğunu vurgulamıştır.
Dünya çapında milyonlarca yetişkin zaten güvenilir sağlık bilgilerine erişmekte zorlanmaktadır. Bu nedenle, Google'ın insanları sağlam, araştırılmış sağlık bilgilerine ve güvenilir sağlık kuruluşlarından gelen bakım tekliflerine yönlendirmesi son derece önemlidir. AI Overviews, Guardian'ın başlangıçta Google'a vurguladığı diğer örnekler için hala ortaya çıkmaya devam etmektedir. Bunlar, uzmanların "tamamen yanlış" ve "gerçekten tehlikeli" olarak nitelendirdiği kanser ve ruh sağlığı hakkındaki bilgilerin özetlerini içermektedir. Bu AI Overviews'ların neden kaldırılmadığı sorulduğunda, Google bunların iyi bilinen ve saygın kaynaklara bağlantı verdiğini ve uzman tavsiyesi aramanın önemli olduğu durumlarda insanları bilgilendirdiğini söylemiştir. Şirketin sözcüsü, dahili klinisyen ekibinin Guardian tarafından paylaşılanları incelediğini ve birçok durumda bilginin yanlış olmadığını ve ayrıca yüksek kaliteli web siteleri tarafından desteklendiğini bulduğunu belirtmiştir.
Teknoloji web sitesi Futurism'de kıdemli editör olan Victor Tangermann, Guardian'ın soruşturmasının sonuçlarının, Google'ın yapay zeka aracının tehlikeli sağlık yanlış bilgisi dağıtmadığından emin olmak için yapması gereken işin ne kadar geniş olduğunu gösterdiğini söylemiştir. Bu bulgular, yapay zeka teknolojisinin sağlık bilgisi sunumunda ne kadar dikkatli ve sorumlu olunması gerektiğini ortaya koymaktadır. Google'ın aldığı adımlar önemli olsa da, sağlık alanında yapay zeka uygulamalarının daha kapsamlı bir şekilde gözden geçirilmesi ve iyileştirilmesi gerekmektedir.