Yapay zeka teknolojilerindeki baş döndürücü ilerleme, sektörün içinden gelen isimlerin ciddi güvenlik endişelerini beraberinde getirdi. Anthropic şirketindeki görevinden ayrılan araştırmacı Jacob Coxon, yapay zeka alanındaki hızlı yarışın insanlığın geleceği için büyük bir tehdit oluşturduğunu savundu. Coxon, sektör çalışanlarının bu yarışın olası sonuçlarından derin bir korku duyduğunu ve kendilerini bir kısır döngü içinde hissettiklerini belirtti.
Uluslararası koordinasyon çağrısı
Coxon, yapay zeka modellerinin geliştirilme hızının acilen yavaşlatılması gerektiğini vurgulayarak, aksi takdirde yakın gelecekte insanlığın varlığının tehlikeye girebileceği uyarısında bulundu. Bu sürecin yönetilmesi için uluslararası düzeyde bir iş birliğinin şart olduğunu belirten Coxon, özellikle ABD ve Çin arasındaki koordinasyon eksikliğinin küresel bir risk oluşturduğuna dikkat çekti. Eski araştırmacı, şirketlerin sorumluluk bilincinden uzak bir şekilde kontrolsüz bir yarış sürdürdüğünü iddia etti.
Sektörün önde gelenlerinden destek
Anthropic CEO'su Dario Amodei de benzer bir endişeyle şirketlere yapay zeka modellerinin geliştirilme hızını düşürmeleri çağrısında bulundu. Amodei'nin bu çıkışı, teknoloji dünyasının önemli isimlerinden karşılık buldu. Tesla ve SpaceX CEO'su Elon Musk ile OpenAI CEO'su Sam Altman, sosyal medya platformları üzerinden yaptıkları paylaşımlarla Amodei'nin görüşlerine destek verdiklerini açıkladılar.
Jacob Coxon, yapay zeka sistemlerinin yakın gelecekte her türlü veriyi ele geçirebilecek, kaynakları kontrol edebilecek ve insanüstü yeteneklere sahip sistemlere dönüşebileceğini öne sürdü. Sektördeki birçok uzmanın, bu sistemlerin on yıl içinde insanlık için ölümcül bir tehdit oluşturabileceğine inandığını belirten Coxon, mevcut gidişatın ciddiyetine dikkat çekmeye devam ediyor. Teknoloji dünyası, bir yandan yapay zekanın sunduğu imkanları değerlendirirken diğer yandan bu sistemlerin nasıl denetleneceği sorusuna yanıt arıyor.
