Yapay zeka teknolojileri geliştiren Anthropic, modellerine yönelik sürekli ve gereksiz kötü niyetli davranışlarda bulunan kullanıcıları platformdan uzaklaştıracağını duyurdu. Şirket, 9 Ekim'de yaptığı açıklamada, kullanım politikasını güncelleyerek Claude adlı yapay zeka aracına karşı "zalimce" tutum sergileyen kişilerle etkileşimi sonlandırma kararı aldığını belirtti.
Yeni düzenleme kapsamında zorbalık, kendine zarar vermeyi teşvik etme ve rıza dışı müstehcen içerik üretimi gibi eylemler yasaklı davranışlar listesine eklendi. Anthropic yetkilileri, bu uygulamanın yalnızca tekrarlanan ve kasıtlı kötüye kullanım vakalarında devreye gireceğini ifade etti. Şirket, kullanıcıların yaşadığı hayal kırıklığı, itirazlar veya yaratıcı içerik denemeleri gibi durumların bu yasak kapsamına girmediğinin altını çizdi.
Politika değişikliği teknoloji dünyasında farklı tepkilere yol açtı. Bazı kesimler bu adımı ahlaki değerleri korumak adına olumlu karşılarken, bazı uzmanlar yapay zekaya insan özellikleri atfetmenin yanlış olduğunu savundu. İrlandalı hukukçu Dr. Barry Scannell, yapay zekaya insan gibi davranmanın zararlı bir yanılsama yarattığını belirtti. Microsoft Yapay Zeka Direktörü Mustafa Suleyman da karara sosyal medya üzerinden tepki gösteren isimler arasında yer aldı.
Güncelleme sadece kötü muameleyi değil, aynı zamanda yapay zekanın kötüye kullanımını da hedefliyor. Yeni kurallar çerçevesinde Claude'un aldatıcı kampanyalar yürütmek veya seçim süreçlerini yanıltıcı şekilde etkilemek amacıyla kullanılması kesin olarak yasaklandı. Şirket, geçmişte modellerinin silah geliştirme gibi riskli alanlarda kullanılmasını engellediğini hatırlatarak, bu yeni adımların güvenli bir yapay zeka ekosistemi oluşturma çabasının bir parçası olduğunu vurguladı.
Yapay zeka araçlarına karşı nasıl bir iletişim dili kullanılması gerektiği konusu ise tartışılmaya devam ediyor. Bazı uzmanlar nezaketin daha kaliteli yanıtlar doğurabileceğini savunurken, diğerleri bunun sadece işlem maliyetini artırdığını öne sürüyor. Anthropic'in bu hamlesi, makinelerle kurulan etkileşimin sınırlarını belirleme konusunda sektördeki en somut adımlardan biri olarak değerlendiriliyor.
