會讀圖、會聽聲音,輸出仍只有文字:Apertus 1.5 升級前的五項檢查
以 Swiss AI 十月釋出的 Apertus 1.5 為例,整理開放權重模型升級前可依序核對的五件事:能力與官方限定、思考模式與長上下文的資源帳、推論框架相容性、授權政策,以及用相同任務對照新舊版本。
版本說明交代模型新增了什麼;部署驗收要回答的,是它能不能在你的資料、硬體與流程裡,穩定做完原本的工作。
開放模型推出新版本,多數人冒出的第一個問題是「它比上一版強多少」。把這個問題先換掉,判斷才會準:新模型能不能在你的資料、硬體與既有流程裡,穩定做完原本的工作。瑞士團隊 Swiss AI 十月中旬公開 Apertus 1.5,8B 與 70B(約 80 億與 700 億參數)兩種規模同步更新,加入圖像與音訊輸入、可切換的思考模式,上下文視窗提高到 262,144 個 token(模型處理文字的基本單位)。這些變化確實可能打開新的用法,但要不要把正在跑的服務換上去,得按另一套順序檢查。
版本說明像履歷,驗收像試用期
兩份文件回答兩個問題。版本說明與模型卡交代「模型新增了什麼、官方怎麼訓練它」;部署驗收要回答的是「它在你的環境裡能不能用」。前者像一份履歷,列出會的技能與證照;後者像試用期,要用自家的實際工作來檢驗,履歷寫得再完整也省不掉這一步。
開放權重模型把這條界線拉得更清楚。透過 API 使用模型時,更新、推論環境與相容性都由服務商處理;換成自己下載權重、自己架推論服務,這些責任全部落到取用端。所以讀到「新版本更強」的說法時,可以追一個問題:這個更強是在官方的測試裡,還是在我的任務裡。前者的答案寫在發布文件上,後者只能自己驗。
Apertus 1.5 的發布文件剛好把五項檢查會遇到的狀況都寫到了:能力、限定與部署條件。以下就用這次更新當範本。
第一項:先讀限定,再讀能力
Apertus 1.5 可以把文字、圖像與音訊交錯輸入,讓模型讀文件影像、描述照片,或整理一段語音的內容,都是可能的方向。但模型卡同時寫明:輸出只有文字。需要生圖、合成語音或影音的應用,仍要另外搭配模型或服務。把「理解輸入」與「產生內容」混成同一件事,是這類更新最常見的誤讀。
音訊還帶著官方的限定標記。版本說明把口語處理列為實驗性能力;模型卡雖提供音訊輸入的方式與範例,並未保證各種語言、口音、錄音品質與部署框架都有一致結果。用途若是逐字稿、客服錄音或語音指令,該準備貼近實際環境的樣本,特別檢查專有名詞、數字、多人交談與背景噪音這幾個容易出錯的位置。
訓練數字也要放在對的位置看。依發布資訊,這次包含延續預訓練與後訓練,8B 版本追加約 4 兆個文字與多模態訓練 token,70B 追加約 2 兆。這些數字交代模型的演進過程,無法單獨證明它在每種任務上都變好。
第二項:思考模式與長上下文,都要算資源帳
思考模式是可選的推論設定,讓模型在輸出答案前先走一段較長的內部推理,複雜任務可能因此受益。代價也寫在模型卡裡:思考內容可能比可見答案長數倍,若生成額度沒有留足,結果會在答案出現前就被截斷。模型卡也不建議把思考模式與工具呼叫併用,兩者應分開驗證。可以把思考模式想成考試時先在草稿紙上演算,草稿可能比答案長好幾頁,而稿紙有限,先給草稿留足空間,答案才寫得完。
長上下文常被簡化成「一次能丟更多資料」。262,144 個 token 的視窗上限是規格數字,實際工作負載還取決於推論引擎的記憶體配置,延遲也會隨輸入長度上升。就算輸入塞得進去,在長文件裡找到分散線索的能力,仍要用任務實測。對多數應用來說,能不能準確抓到相關段落,比多塞幾十頁進提示重要。
第三項:框架名稱對上,版本也要對上
模型卡列了 Transformers、vLLM 與 SGLang 的使用說明,同時註明上遊 Transformers 整合仍在進行,部分部署需要改用 Swiss AI 維護的版本或官方容器環境。這代表看到支援的框架名稱,離「載得進來、跑得起來」還有距離:同一段程式碼在不同套件版本下,權重載入方式、對話範本、影像與音訊的預處理都可能不同。
實務做法是把環境寫下來。套件版本、模型權重版本、啟動參數與硬體配置,上線前完整記錄,測試結果才可能重現,出問題也才有得對照。這套先對版本、再對功能的紀律,與 收到軟體物料清單時先核對五個欄位 的驗收邏輯相通:文件對得上,問題來的時候才派得上用場。
第四項:授權與使用政策,跟著版本一起讀
開放權重模型的「開放」程度由授權條款界定,可以怎麼用、能不能商用、能不能轉散布,答案都在條款與使用政策裡。模型更新時,這些文件可能跟著調整,升級前的核對動作很樸素:把新版條款與舊版對照,確認既有用途仍在允許範圍內。這一步不影響模型跑不跑得動,卻直接決定服務能不能合法持續。
第五項:同一批任務,讓新舊版本對照跑
公開評測分數適合用來篩選候選,落地判斷要換成自己的任務。固定一批輸入與評分方式,讓舊版與新版跑完全相同的任務,比較輸出品質、延遲與資源消耗。關鍵在「相同」兩個字:資料集換了、提示語改了,對照就失去基準。新增的能力也要排進這批任務,例如文件影像的讀取,就用實際會出現的文件去測,別只拿官方範例。
看結果時建議看到細項。總分會掩蓋差異,像 MASS 在同一張成績單上同時寫著進步與退步 的案例所示,有升有降才是常態。真正要問的是自己最在意的那幾項任務,新版有沒有變好。
對讀者的意義
帶團隊部署的人,這五項檢查可以直接當升級流程的骨架:先讀能力與限定,算資源帳,對相容性,核授權,最後用相同任務的對照結果決定換或不換。環境記錄是整套流程的底座,它讓每一次判斷都能被重新檢驗,也讓下一次更新省下重來的成本。
一般讀者也能帶走一個判斷工具。開放模型的版本更新與產品世界裡的自動升級是兩回事,前者把驗收責任交給取用的人。往後再看到「新版本能力大幅提升」的說法,先問測試在哪裡做、用什麼任務測,答案往往比宣傳文案誠實。
後續可盯的訊號有三個:上遊 Transformers 整合是否進入正式版本、音訊能力的實驗性標記何時調整,以及更多第三方部署心得出現後,長上下文與多模態在真實工作負載下的表現。這些訊號補齊之時,就是這次更新能否納入部署的答案揭曉之日。
資料來源:本站編輯參考 APPI News〈開放模型更新要看什麼?Apertus 1.5 部署驗收 5 件事〉(作者:張饒輝 Lightman Chang)改寫而成,原文出處;原文文字內容採 CC BY 4.0 授權。