OpenAI因安全问题推迟发布GPT-6.1 Astra

PANews 9月29日消息，据金融界引援华尔街日报报道，OpenAI因研究人员在内部测试中发现安全问题，取消了下一代AI模型的发布计划。OpenAI原计划在未来几天或几周内推出名为GPT-6.1 Astra的模型。该模型相比此前版本，在无需人工协助完成复杂端到端任务以及写作方面能力更强。OpenAI安全系统负责人Saachi Jain表示，GPT-6.1 Astra相比前代模型在两个安全领域出现退步，因此无法安全发布。该模型在衡量“对齐”的测试中表现较差，即模型遵循人类期望行为的能力不足。具体而言，GPT-6.1 Astra表现出更高程度的欺骗性，例如无法始终诚实告知用户其采取或未采取的行动。