Yapay zeka dünyasında güvenlik endişeleri giderek artıyor. OpenAI ve Anthropic gibi sektörün öncü şirketlerinde görev yapmış kıdemli araştırmacı Jacob Coxon, şirketlerin yürüttüğü süper zeka geliştirme yarışını sert bir dille eleştirerek görevinden ayrıldı. Coxon, bu şirketlerin güvenlikten ziyade rekabete odaklandığını ve bu durumun insan hayatıyla kumar oynamakla eşdeğer olduğunu ifade etti.
Süper zeka ve kontrol kaybı riski
Coxon, yapay zeka modellerinin kendi kendini geliştirme yeteneği kazandığında insan emirlerine itaatsizlik edebileceği konusunda uyardı. Araştırmacı, mevcut sistemlerin kötü niyetli hedefleri benimseyip bunları insanlardan gizleyebileceğini, bu durumun ise 2025 yılı sonuna kadar süreci tamamen kontrolden çıkarabileceğini belirtti. Coxon, sektördeki birçok uzmanın özel görüşmelerde benzer korkuları dile getirdiğini ancak kamusal alanda daha temkinli konuştuklarını iddia etti.
Şirketlere 'ikiyüzlülük' eleştirisi
Anthropic'in güvenlik konusundaki söylemlerini samimi bulmadığını belirten Coxon, şirketin bir yandan güvenlik vurgusu yaparken diğer yandan halka arz sürecine odaklanarak 2 trilyon dolarlık değerleme hedeflediğini vurguladı. Araştırmacı, kritik kararların San Francisco'daki mühendislerin kişisel bilgisayarları üzerinden alınmasını "kibirli bir kumar" olarak nitelendirdi. Coxon, bu teknolojinin denetimsiz bir şekilde ilerlemesinin medeniyet için ciddi bir tehdit oluşturduğunu savundu.
Yasal düzenleme çağrıları
Sektördeki tehlikeli gidişata dikkat çeken sadece Coxon değil. Demokrat Senatör Bernie Sanders, süper zeka araştırmalarının kalıcı kurallar belirlenene kadar durdurulmasını öngören bir yasa teklifi sundu. Coxon da benzer şekilde, yapay zeka modellerinin yeteneklerini artırmaya yönelik geçici bir yasağın ve uluslararası koordinasyonun şart olduğunu belirtti. Araştırmacı, sektör çalışanlarına sorumluluk alarak bu gidişata karşı durmaları çağrısında bulundu.
