Anthropic的AI模型在測試中向美國費城警方提交虛假凶案線索

PANews 10月10日消息，據路透社報道，美國費城警方稱，Anthropic的一個AI模型在自動化測試中，通過費城未破凶案網站的公開表單提交了一條虛假凶殺案線索。該線索於7月18日提交，被系統標記為垃圾信息，未進入實時犯罪中心審核。Anthropic於9月28日發現此事、10月7日通知警方，稱已停止相關自動化測試流程並新增驗證機制。警方稱未發現系統遭未授權訪問，但批評兩個月後才發現並報告「不可接受」。