Yapay zeka dünyasında güvenlik tartışmaları, Anthropic bünyesindeki üst düzey isimlerin istifalarıyla yeni bir boyut kazandı. Şirketin Uyum Bilimi Sorumlusu Evan Hubinger, sosyal medya üzerinden yaptığı açıklamalarla sektördeki endişeleri gözler önüne serdi. Hubinger, kendisi ve birçok meslektaşının yapay zekanın insanlığı yok etme potansiyeline sahip olduğuna inandığını belirtti. Özellikle önümüzdeki on yıl içinde bu riskin yüzde 10'un üzerinde olduğunu tahmin eden Hubinger, süper zekâ için henüz güvenli bir hizalama çözümünün bulunmadığını itiraf etti.
Hubinger'in açıklamaları, bir diğer araştırmacı Jacob Coxon'un istifasının hemen ardından geldi. Hem OpenAI hem de Anthropic bünyesinde çalışmalar yürüten Coxon, şirketlerin kendi kendini geliştiren süper zekâ teknolojisine ulaşmak için adeta bir yarış içinde olduğunu savundu. Coxon, bu sürecin insan hayatı üzerinde büyük bir kumar olduğunu belirterek, en agresif senaryolarda işlerin önümüzdeki yılın sonuna kadar kontrolden çıkabileceği uyarısında bulundu.
Araştırmacılar, şirketlerin risklerin farkında olmasına rağmen "kimse sorumlu davranmayacak, o yüzden biz yapmalıyız" mantığıyla hareket ettiğini öne sürüyor. Mevcut yapay zeka modellerinin riskinin düşük olduğunu kabul eden uzmanlar, asıl tehlikenin kendi kendini geliştiren sistemlerin beklenenden daha hızlı ortaya çıkması olduğunu vurguluyor. Bu gelişmeler, yapay zeka alanında güvenlik ve etik hizalama tartışmalarının, teknolojik ilerleme hızı karşısında ne kadar kritik bir noktaya geldiğini bir kez daha kanıtlıyor. Daha önce de sektördeki birçok önde gelen isim, gelişmiş sistemlerin risklerini azaltmak adına yavaşlama çağrısında bulunmuştu.
