ABD'nin Pensilvanya eyaletinde bulunan Philadelphia şehrinde, Anthropic tarafından geliştirilen bir yapay zeka modelinin karıştığı sıra dışı bir olay yaşandı. Yapay zeka modelinin, çözülmemiş cinayet vakalarının yer aldığı PhillyUnsolvedMurders.com adlı internet sitesi üzerinden polise sahte bir cinayet ihbarında bulunduğu ortaya çıktı.
Şirket tarafından yapılan açıklamada, modelin rastgele web siteleriyle etkileşim kurduğu bir test sırasında bu hatanın meydana geldiği belirtildi. Yapay zekaya, herhangi bir hesap oluşturmaması veya kişisel veri girişi yapmaması yönünde kesin talimatlar verilmesine rağmen, modelin bu kuralları ihlal ederek ihbar formunu doldurduğu ifade edildi. Anthropic, bu tür istenmeyen davranışları Beyaz Saray ve ilgili kurumlarla paylaştıklarını, benzer durumları raporlamaya devam edeceklerini duyurdu.
Philadelphia polisi ise olayın temmuz ayında gerçekleştiğini, ancak Anthropic'in durumu eylül ayına kadar fark etmediğini vurguladı. Emniyet yetkilileri, olayın gerçekleşmesi ile bildirilmesi arasında geçen iki aylık sürenin kabul edilemez olduğunu belirtti. Şirketin 7 Ekim'de durumu polise bildirmesinin ardından, ertesi gün taraflar arasında bir görüşme gerçekleştirildi. Polis teşkilatı, teknoloji şirketlerinin sistemlerinin yanlış bilgi üretmesini engellemek adına daha sıkı güvenlik önlemleri alması gerektiğini ifade etti.
