跳至主要內容
科技 新聞

30 瓦的機身,標榜本地跑 122B 模型:聯想 P7 AI 主機 1024 開放預約

聯想將於 10 月 24 日程式設計師節活動上開放 AI 主機 P7 預約,本文整理此芯 P1 搭配後摩 M50 的雙晶片方案、122B 模型本地部署等規格要點,以及預約日當天可依序確認的訊號。

Techroomage 編輯部 閱讀約 7 分鐘
30 瓦的機身,標榜本地跑 122B 模型:聯想 P7 AI 主機 1024 開放預約

聯想選在程式設計師節當天,於長沙智谷舉辦 P7 活動並同日開放預約;此芯 P1 搭配後摩 M50 的雙晶片方案,把 122B 模型部署寫進 300 公克、30 瓦的機身。

一罐 330 毫升的罐裝可樂,重量約 350 公克。聯想(Lenovo)即將開放預約的 AI 主機 P7,整機 300 公克,比一罐可樂還輕;最大功耗 30 瓦,運轉噪音低於 35 分貝。與這組輕巧數字擺在一起的,是另一個量級的宣稱:190 TOPS 本地算力,支援 122B 參數大型語言模型在地端部署,上下文視窗最大 128K,本地推理速度 50 TPS。

聯想本週稍早宣布,10 月 24 日(1024 程式設計師節)下午 2 時 30 分,將在湖南長沙智谷舉行「聯想 AI 主機 P7 超能創享會」,P7 同日開啟預約。這臺機器並非首次亮相,今年 5 月的發布會上,聯想已經介紹過它的核心方案:由晶片新創此芯科技的 P1 SoC,搭配後摩智慧的 M50 dNPU。兩家中國設計公司聯手供貨、聯想掛牌量產整機,在迷你主機市場上是少見的組合。

五月亮相的方案:一顆 SoC 加一顆 AI 加速晶片

方案中的 P1 SoC 出自此芯科技,這家公司主攻 Arm 架構的終端處理器;M50 則來自後摩智慧,這家新創以存算一體(記憶體內運算)架構聞名,產品鎖定 AI 推理加速。dNPU 的 d,指獨立在主處理器之外的神經網路加速晶片,通用運算交給 P1,AI 算力主要由 M50 供應,官方標榜的 190 TOPS 即來自這對組合。從「AI 主機」這個命名看,聯想把賣點直接壓在推理算力上,與迷你 PC 常見的通用運算定位拉開距離。

統計圖卡呈現聯想 P7 AI 主機標榜的 190 TOPS 本地算力,由 P1 SoC 與 M50 dNPU 兩顆晶片合計
數字來自此芯 P1 與後摩 M50 的組合方案

122B、128K、50 TPS:規格數字怎麼讀

122B 指模型參數量約 1,220 億。目前多數能在消費級硬體上運行的開源模型落在 7B 到 70B 之間,122B 已經越過這個區間,這個等級的模型過去多半要靠資料中心等級的顯示卡,才談得上流暢推理。128K 上下文視窗,代表模型一次能讀入的文本量大約相當於一本中等篇幅的書,長文件摘要或整個程式碼庫的問答都依賴這個數字。50 TPS 是生成速度,token 是模型處理文字的最小單位,每秒輸出 50 枚,快過多數人逐字閱讀的速度,實際體感接近答案邊生成邊顯示。

清單圖列出聯想 P7 的五項規格,包括此芯 P1 SoC、後摩 M50 dNPU、122B 大型語言模型本地部署、128K 上下文視窗與 50 TPS 推理速度
依聯想 5 月發布會公布的資訊整理

190 TOPS 的量級也可以橫向對照。目前筆電平臺 NPU 的算力多在 40 到 50 TOPS 上下,P7 宣稱的數字是四倍有餘。不同廠商對 TOPS 的計算口徑未必一致,直接比較有風險,但量級差距仍看得出來:這是一臺把算力當第一賣點的機器,附屬功能順帶就好。

這組數字也留下一個待解的問題。122B 參數的模型即使以 4 位元量化,權重檔案仍然超過 60 GB,要撐住 50 TPS 還得有足夠的記憶體頻寬。偏偏記憶體是眼下最搶手的零組件,AI 伺服器優先吸走產能,手機端已經出現新機記憶體配置縮水的現象。P7 在 30 瓦與 300 公克的限制下如何安排記憶體、如何壓縮模型,目前公開資訊尚未交代,這會是預約啟動後最值得優先核對的欄位。

機身條件則是另一個看點。300 公克放得進隨身包,30 瓦擺得上任何桌面,噪音低於 35 分貝,比一般圖書館的環境音再安靜一些。多數標榜本地推理的 AI 主機功耗動輒百瓦以上,P7 的 30 瓦走的是明顯不同的省電路線,代價與上限則要等實機檢驗。

統計圖卡呈現聯想 P7 機身重量 300 公克、整機最大功耗 30 瓦的輕量省電設定
運轉噪音低於 35 分貝

1024 與長沙智谷:檔期和地點都帶著訊息

1024 是 2 的十次方,長期被中國技術圈用來自我指涉,近年固定成為廠商向程式設計師族羣溝通的行銷檔期。聯想把發表活動與預約排在同一天,目標對象相當明確:想在自己機器上跑模型的開發者與技術團隊。地點選在長沙智谷,這是湖南主打計算產業的園區,與「本地算力」的產品訴求相互呼應。

時間點上,地端 AI 的需求確實在升溫。開源模型的權重取得越來越容易,資料不出門的隱私考量,也讓企業重新計算雲端 API 的長期費用,本地部署的吸引力隨之上升。模型供應商持續釋出適合地端的中大型權重,「公司內部自己跑」從概念變成採購清單上的一行。就連販售資料中心算力的 Cerebras,其執行長先前也把家用 AI 設備成真的距離說成不遠。

從買家輪廓看,需要先在內網驗證模型的開發團隊,以及基於合規考量、資料不能上雲的企業單位,是這類機器最合理的客羣;對一般使用者來說,雲端服務的門檻目前仍低得多。

貨架上的位置,與當天該核對的四件事

迷你主機的貨架近期相當熱鬧,從 AMD 平臺的新配置到採用龍芯的儲存機種都有新品,但這些機器的重心仍在通用運算與儲存。P7 以本地跑大模型當主要賣點,晶片又是兩家中國設計公司的組合,貨架上還找不到直接對應的競品,售價也就難以用市場慣例推估。

10 月 24 日當天,值得依序確認的訊號有四個:預約的管道與正式開賣時間;售價,以及記憶體與儲存的完整規格表;122B 模型在實機上的獨立實測,尤其長上下文時 TPS 是否守得住;軟體面的承諾,包括模型清單從哪裡來、能否自行更換模型、更新維護期多長。預約開啟當天,規格表上還沒填上的欄位,往往比發布會的投影片更能回答「本地跑 122B」這句話的成色。

#科技#新聞#本地ai運算