Palette 3.0软件让单芯片同时并行运行多个模型
一、核心突破与产品
北京时间 2026 年 11 月 17 日,美国加州圣何塞的边缘人工智能芯片公司 SiMa.ai 发布软件套件 Palette 3.0。Palette 3.0 的核心能力是并发模型执行:让单块 Modalix MLSoC 芯片同时运行多个不同的人工智能模型,每个模型运行在片上独立的 Docker 容器中,互不干扰。按照 SiMa.ai 的说法,一台机器人或无人机可以在同一块芯片上同时运行感知模型、深度估计模型和语言模型或视觉语言模型,而不必像过去那样为每个模型配一块电路板。SiMa.ai 称,Palette 3.0 在低功耗预算内把模型每秒生成 token 数最高提升 3.5 倍,面向机器人与无人机集成商。Palette 3.0 延续了 SiMa.ai 在 2026 年 6 月发布的 Agentic Palette 平台,新增传感器融合工具、神经网络深度估计方法和面向数字孪生的闭环仿真工作流,并上线了新的模型浏览器(Model Browser),公布了面向全自主无人机和机器人关键模型的实测性能数据。Palette 3.0 的代码已经开源,托管在 GitHub 的 sima-neat 组织名下,文档见 SiMa.ai 开发者中心。
二、底层架构与关键参数
Palette 3.0 的并发能力建立在 Modalix MLSoC 芯片的资源调度之上。软件把芯片的计算、显存和功耗预算分配给多个容器,让感知、深度和语言模型共享同一块芯片,同时保持各自的运行节奏。提速的关键是推测解码技术:Palette 3.0 支持 EAGLE3、DFlash 和 Gemma 4 多 token 预测(MTP)推测解码,用小模型先预测多个 token,再由大模型一次性验证,从而减少大模型的串行推理次数。SiMa.ai 公布的细化数据显示,3.5 倍的上限是在 DFlash N16 结合 Qwen3.5 9B 模型的条件下测得的解码吞吐量提升,约为 3.49 倍,衡量的是解码阶段的吞吐量,而非整机应用的端到端响应时间。Palette 3.0 还扩展了对大型混合专家模型的支持:OpenAI 的开源模型 GPT-OSS-20B 可以在 Modalix MLSoC 16GB 系统级模块版本上运行,其他容量版本暂不支持这一规模的模型。SiMa.ai 表示,Palette 3.0 的全部性能数据均在真实功耗约束下测得,模型浏览器列出了各模型的功耗与速度对照,开发者可以根据实际模型组合自行验证。需要注意的是,从 2.1.3 版本升级到 3.0.0 版本需要完整迁移,操作系统和更新布局均有变化,现有客户需要预留重建时间。
三、产业生态与行业影响
Palette 3.0 瞄准的是具身智能落地中最现实的瓶颈:机器人和无人机没有数据中心的供电和散热条件,却要在本地同时完成看、理解和决策。过去,集成商往往为感知、深度和语言模型各配一块硬件,成本、体积和功耗随之上升;Palette 3.0 把多个模型压到单块芯片上,直接回应了这一痛点。开源代码和模型浏览器的组合也有助于降低集成商的试错成本:开发者可以先查阅公开的性能数据,再决定自己的模型组合能否在功耗预算内跑起来。SiMa.ai 在 2026 年 9 月底刚完成 1.5 亿美元融资,Palette 3.0 是这轮融资后推出的重要软件版本,显示这家公司的重心已经从单纯卖芯片转向芯片加软件的整套方案。不过,3.5 倍的 headline 数字需要理性看待:它来自特定模型组合的解码吞吐量测试,不同模型搭配下的实际收益会有差异,集成商仍需按自己的任务做基准测试。总体看,Palette 3.0 的价值在于把边缘端多模型并行从概念变成了可下载、可验证的软件,具身智能的硬件集成方式可能因此变得更紧凑。
信源跟踪: SiMa.ai、RobotAIGeek | 数据时间: 北京时间 2026-11-17
