跳到主要內容
727財經
繁體中文

代季峰NaiveAI首模開源:AI參與6天跑151輪優化

動察 Beating AI 快訊,清華大學副教授代季峰創辦的 NaiveAI 發佈 Naive-N0.5-Flash,並開放模型權重。模型基於小米 MiMo-V2.5 Base 改造,使用 MIT 協議開源。

NaiveAI 保留了原有的 MoE 架構,重點改了注意力機制。團隊把全局注意力換成滑動窗口注意力和 DeepSeek 稀疏注意力,再繼續訓練 3.25 萬億 tokens。改造後的模型原生支持 100 萬 token 上下文,可以減少處理超長文本時的計算量。

AI 也直接參與了研發。它負責寫代碼、跑實驗、分析結果和繼續優化,研究員負責定方向和做關鍵決定。以推理系統 NaiveRT 為例,團隊 6 天跑了 151 輪優化實驗,其中 63 輪被採用。

官方公佈的最高推理速度為 2122 tok/s,但測試條件比較特殊:使用 8 張 GPU,關閉思考模式,不計算輸入處理時間,而且取的是 41 次請求中表現最好的一秒。標準模式下,官方給出的速度約為每位用戶 50 tok/s。

相關資訊

  1. 從落選到復出:加密資本為何對Sherrod Brown展開「世紀圍剿」?

    曾任參議院銀行委員會主席的Sherrod Brown,為何成為加密行業政治勢力眼中的「頭號公敵」,讓Fairshake等組織不惜連續兩屆選舉投入上億美元,阻止他重返國會?

  2. 香港完成首筆代幣化黃金跨行交易,真正改變的是甚麼?

    香港金管局EnsembleTX完成首筆「代幣化黃金×代幣化存款」跨行交易,由招金礦業、建行(亞洲)、東亞銀行等參與。交易把黃金賬本與資金賬本放進同一清算閉環,以港元RTGS完成...

  3. 高通:高通AI Hub現已面向中國開發者開放

  4. 某巨鯨剛剛開設超1.47億美元的原油多頭倉位

  5. OpenAI下一代GPT-6.2 Astra正灰度測試,Codex用量統計中已單獨列出