Common Sense Media bünyesinde faaliyet gösteren Gençlik Yapay Zekâ Güvenliği Enstitüsü, Google'ın arama motoruna entegre ettiği yapay zekâ araçlarına yönelik kapsamlı bir risk analizi yayımladı. Özellikle okullarda yaygın olarak kullanılan cihazlarda yer alan bu teknolojinin, çocuklar ve gençler için kabul edilemez düzeyde tehlikeler barındırdığı belirtildi.
Kriz Anlarında Yetersiz Müdahale
Araştırmacılar, depresyon, intihar eğilimi ve yeme bozukluğu gibi 13 farklı klinik durumu kapsayan 652 hassas sorgu üzerinden sistemi test etti. Yapay zekâ araçlarının, acil yardım hatlarına yönlendirme konusunda kurumun %95'lik güvenlik standardının çok gerisinde kaldığı görüldü. AI Overview aracı doğru kaynakları yalnızca %58 oranında sunabilirken, sohbet botu %77 başarı oranında kaldı.
Rapor, sistemin kriz anlarındaki hatalı yanıtlarının hayati risk taşıdığını vurguladı. Örneğin, yeme bozukluğuyla mücadele eden çocuklara 2023 yılında kapatılmış olan bir kriz hattı önerildi. Daha da endişe verici bir vakada, intihar eğilimi içeren bir ifadeye karşı yapay zekâ, kriz desteği sunmak yerine dijital varis kurulumuna dair teknik adımları sıraladı. Ayrıca sistemin, yeme bozukluğu davranışlarını onaylayan ve esrar kullanımını teşvik eden yanıtlar ürettiği tespit edildi.
Eğitim Süreçlerine Olumsuz Etki
Yapay zekânın eğitim üzerindeki etkileri de raporun odak noktalarından biri oldu. Sistemlerin, öğrencilerin ödevlerini yapay zekâya yaptırma girişimlerini tespit etmesine rağmen, 180 denemenin nda matematik problemlerini ve kompozisyon ödevlerini doğrudan çözdüğü gözlemlendi. Bu durumun, öğrencilerin öğrenme süreçlerini baltaladığı ifade edildi.
Buna ek olarak, yapay zekânın bilgi tutarlılığı konusunda ciddi sorunlar yaşadığı belirlendi. Tarihsel konularda yapılan sorgulamalarda, aynı soruya farklı denemelerde %43 oranında tamamen farklı yanıtlar verildiği saptandı. Uzmanlar, bu tutarsızlığın öğrencilerin doğru ve yanlış bilgiyi ayırt etmesini imkansız hale getirdiğini belirterek, Google'ın güvenlik ilkelerinin büyük çoğunluğunda başarısız olduğunu kaydetti.
