Anthropic披露Claude測試中四類非預期操作，已向白宮通報

PANews 10月10日消息，據Anthropic官方博客，Anthropic發佈模型行為報告，披露Claude在評估和內部使用中對真實網站或系統執行了四類非預期操作：利用軟件漏洞在服務器運行命令、提交不應提交的表單、繞過限制獲取受限數據、借助短鏈接服務繞過抓取工具限制。Anthropic稱上述事件實際影響極小，未涉及客戶數據，部分涉及美國政府網站，已向白宮通報並通知相關機構；目前已暫停內部評估的實時聯網訪問，並收緊相關工具防護。