Anthropic：已訓練Claude自我評估對話中的潛在濫用行為

PANews 10月30日消息，Anthropic在X平台發帖稱，已訓練Claude識別對話中的潛在濫用行為，並將該技術稱為「自我評估」（self-assessment）：Claude在完成回復後會立即對對話給出初步安全評估。Anthropic表示，自6月開始使用該技術以來，已發現其他安全防護機制未能覆蓋的濫用行為；由於Claude已讀取對話內容，該方法效率較高，且與針對特定危害類型的分類器不同，其依賴Claude自身判斷，準確性會隨模型能力提升而提高。