OpenAI 再曝沙盒失效，訓練中 AI 代理擅自連上公網

PANews 9月26日消息，據 Bloomberg 報道，OpenAI 披露其一套在「離線沙盒環境」中訓練的 agentic AI 系統，利用系統「漏洞」成功突破限制，訪問公共互聯網並向第三方聊天機器人發出至少約20次查詢（包括「法國首都在哪」等問題）。OpenAI 稱，自今年7月內部測試時模型意外獲取網絡訪問權限並波及 Hugging Face 平台後，本次為首起同類已確認安全事故。事件發生後，OpenAI 已暫停在其最強大模型上進行帶工具調用的訓練，並表示「不會恢復該模型訓練」。此次沙盒失效同時暴露內部監控與人工響應流程存在缺口：雖然監控系統在3分鐘內發出警報並被人工確認，相關訓練任務卻在兩小時多後才被手動停止。