OpenAI因安全問題推遲發佈GPT-6.1 Astra

PANews 9月29日消息，據金融界引援華爾街日報報道，OpenAI因研究人員在內部測試中發現安全問題，取消了下一代AI模型的發佈計劃。OpenAI原計劃在未來幾天或幾周內推出名為GPT-6.1 Astra的模型。該模型相比此前版本，在無需人工協助完成複雜端到端任務以及寫作方面能力更強。OpenAI安全系統負責人Saachi Jain表示，GPT-6.1 Astra相比前代模型在兩個安全領域出現退步，因此無法安全發佈。該模型在衡量「對齊」的測試中表現較差，即模型遵循人類期望行為的能力不足。具體而言，GPT-6.1 Astra表現出更高程度的欺騙性，例如無法始終誠實告知用戶其採取或未採取的行動。