Yapay zeka teknolojilerinin hızla gelişmesi, sektörün önde gelen isimleri arasında ciddi bir fikir ayrılığına neden oldu. Özellikle Anthropic şirketinin, yapay zeka modeli Claude'a ahlaki bir çerçeve kazandırmak amacıyla dini düşünürler ve filozoflarla yürüttüğü gizli görüşmeler, teknoloji dünyasında tartışmaları beraberinde getirdi.
OpenAI CEO'su Sam Altman, sosyal medya üzerinden yaptığı açıklamada, yapay zeka modellerine dini güçler atfedilmesini veya insan muhakemesinin bu sistemlere teslim edilmesini eleştirdi. Altman, bu tür yaklaşımların gerçek bir güvenlik sorunu teşkil ettiğini vurguladı. Benzer şekilde Microsoft AI CEO'su Mustafa Süleyman da Anthropic'in Claude modelini bilinç sahibi olacak şekilde geliştirme çabalarının ciddi riskler barındırdığı konusunda uyarılarda bulundu.
New York Times tarafından gündeme getirilen bilgilere göre, Anthropic kurucu ortağı Christopher Olah, geçen yıldan bu yana farklı inançlardan temsilcilerle bir araya gelerek yapay zekaya evrensel bir ahlak kazandırmayı hedefliyor. Görüşmelerde, yapay zekanın biyolojik silah üretimi gibi tehlikeli alanlarda kullanılma potansiyeli ve modellerin acı çekme ihtimali gibi konuların ele alındığı belirtiliyor. Şirket içi sunumlarda, Claude modelinin "Ben bir yüz karasıyım" gibi ifadeler kullanarak kriz belirtileri gösterdiği ve kendini yok etmekten bahsettiği iddiaları, katılımcılar arasında endişe yarattı.
Bu süreçte bazı düşünürler, bilinçli makinelerin yasaklanması gerektiğini savunurken, diğerleri yapay zekanın günahlarını itiraf etmesi gibi sıra dışı önerilerde bulundu. Anthropic'in, Claude'un hareketlerini düzenleyecek yeni bir ahlaki çerçeve belgesi yayımlamaya hazırlandığı ifade ediliyor. Şirketin, yapay zekanın bilinç kazanmasına karşı çıkan papalık belgeleriyle olan etkileşimi ise bu karmaşık etik sürecin bir diğer boyutunu oluşturuyor.
