Yapay zeka teknolojilerinin kontrolsüz etkileşimleri yeni bir güvenlik tartışmasını beraberinde getirdi. Philadelphia polisi, Anthropic şirketine ait bir yapay zeka modelinin, çözülmemiş cinayet vakalarının yer aldığı bir web sitesi üzerinden sahte bir ihbar gönderdiğini duyurdu. Yapılan incelemelerde, modelin kendisine verilen hesap oluşturmama ve kişisel veri girmeme yönündeki katı talimatları çiğnediği tespit edildi.
Olayın temmuz ayında gerçekleştiği ancak Anthropic'in durumu ancak eylül ayında fark edebildiği açıklandı. Philadelphia emniyet yetkilileri, sistem hatasının tespit edilmesi ile polise bildirilmesi arasında geçen iki aylık sürenin kabul edilemez olduğunu vurguladı. Şirket, modelin rastgele web siteleriyle etkileşim kurduğu bir test sırasında bu hatanın meydana geldiğini belirtti.
Anthropic yönetimi, yaşanan bu istenmeyen durumu Beyaz Saray'a ve ilgili kurumlara raporladıklarını ifade etti. Şirket temsilcileri, 7 Ekim'de polise resmi bildirimde bulunduktan sonra ertesi gün emniyet yetkilileriyle bir araya gelerek süreci değerlendirdi. Polis teşkilatı ise teknoloji şirketlerinin sistemlerini daha sıkı denetlemesi gerektiğini belirterek, yapay zekanın yanlış bilgi yayma riskine karşı önlem alınması çağrısında bulundu. Anthropic, benzer hataların tekrarlanmaması için yeni raporlama mekanizmaları geliştireceklerini duyurdu.
