具身智能領(lǐng)域的 VLA 模型部署，因存在巨大算力缺口，長期被 “機器人外掛桌面端顯卡” 的方案束縛。該方案不僅拉高了部署成本、降低了使用靈活性，更會引發(fā)端側(cè)推理遲滯問題，最終嚴(yán)重拖累作業(yè)流暢性。

智元研發(fā)團隊直擊行業(yè)痛點，打造算法與工程協(xié)同優(yōu)化的一站式解決方案：成功將π0.5 VLA模型在Jetson Thor平臺的推理幀率從1.4Hz飆升至22.1Hz，性能躍升超15倍！實測性能超越業(yè)界開源方案，成為全新的業(yè)界標(biāo)桿。

01/

行業(yè)對標(biāo)：

用數(shù)據(jù)定義端側(cè)推理新高度

我們將智元優(yōu)化方案與業(yè)內(nèi)主流π0.5端側(cè)性能優(yōu)化方案開展全面對標(biāo)，結(jié)果顯示，智元成果顯著領(lǐng)先行業(yè)水平。值得注意的是，這一突破并非依賴單一的模型剪裁與量化技術(shù)，而是融合工程優(yōu)化與編譯技術(shù)的系統(tǒng)性勝利。

02/

性能飛躍背后：

三大核心技術(shù)突破

構(gòu)建可復(fù)制的優(yōu)化體系

15倍性能躍升的背后，是智元一套可復(fù)制、系統(tǒng)化的端側(cè)優(yōu)化技術(shù)體系，打通了從模型到真機的全鏈路關(guān)鍵路徑：

1. 首次成功實現(xiàn)了 π0.5 在Jetson Thor芯片上的完整推理，并在精靈G2機器人上完成真機驗證，打通了從模型到真機的關(guān)鍵路徑。

2. 深度適配 Jetson Thor 芯片硬件特性，依托NVIDIA TensorRT與Model Optimizer工具鏈構(gòu)建全流程優(yōu)化方案，在編譯調(diào)優(yōu)、FP8/nvFP4低精度量化、高性能算子開發(fā)等核心環(huán)節(jié)持續(xù)攻堅，實現(xiàn)技術(shù)突破與創(chuàng)新。

3. 基于智元自研的一站式算法發(fā)布平臺，構(gòu)建“模型優(yōu)化-量化編譯-集成發(fā)布-端側(cè)部署”全流程標(biāo)準(zhǔn)化體系，讓高性能端側(cè)部署成為標(biāo)準(zhǔn)化、可復(fù)制的服務(wù)。

03/

五大層面協(xié)同優(yōu)化

實現(xiàn)性能代際飛躍

當(dāng)行業(yè)仍依賴單一技術(shù)提升性能時，智元憑借五大優(yōu)化策略的系統(tǒng)性協(xié)同，實現(xiàn)了真正的代際飛躍：

1. 全棧搭建 Jetson Thor 推理系統(tǒng)，優(yōu)化底層基建，實現(xiàn)JAX/PyTorch推理及轉(zhuǎn)換，確保π0.5模型在Jetson Thor側(cè)穩(wěn)定運行；

2. 重構(gòu)算法邏輯：通過批量處理提升特征提取效率，重構(gòu)AE（Action Expert）計算邏輯依賴以促進計算融合，優(yōu)化圖計算性能；

3. 編譯優(yōu)化雙路線探索：

1. PyTorch 編譯，借編譯模塊與 Triton 加速，適配前期快速驗證；

2. 自研編譯器路線，拓展NVIDIA生態(tài)，整合TVM與TensorRT，挖掘 Jetson Thor 硬件潛力實現(xiàn)最優(yōu)性能。

4. FP8/nvFP4低精度量化：針對π0.5模型中占計算耗時超85%的線性層與MHA層，開展低精度量化優(yōu)化，依托Jetson Thor低精度硬件加速實現(xiàn)性能躍遷，且MSE僅微增0.53%，完美平衡性能與精度；

1. 實際業(yè)務(wù)場景下的裁剪優(yōu)化：結(jié)合業(yè)務(wù)場景優(yōu)化 π0.5 的 AE 模塊，適度減少迭代次數(shù)，通過局部微調(diào)保障推理精度，兼顧效率與應(yīng)用效果。

04/

技術(shù)突破的核心價值：

解鎖具身智能規(guī)?；涞?/strong>

這一性能突破不僅是數(shù)字的躍升，更從根本上解決了VLA模型端側(cè)部署的核心痛點，為具身智能規(guī)?；涞貟咔逭系K：

1. 擺脫外掛依賴：機器人本體即可承載先進VLA模型，無需外掛桌面端顯卡，同時擺脫網(wǎng)絡(luò)通信約束，大幅降低部署成本、提升場景適配靈活性；

2. 提升作業(yè)流暢度：22.1Hz的端側(cè)推理幀率，讓機器人決策響應(yīng)更敏捷，決策與動作銜接更緊密，任務(wù)執(zhí)行行云流水；

3. 樹立行業(yè)新標(biāo)桿：性能不僅遠超此前業(yè)內(nèi)最佳的11.7Hz，更驗證了Jetson Thor平臺承載前沿大模型的巨大潛力，為行業(yè)端側(cè)智能發(fā)展指明方向。

05/

優(yōu)化效果

真機效果演示：動作敏捷絲滑，響應(yīng)速度顯著提升

LIBERO評測基準(zhǔn)：模型精度近零損失

05/

未來展望：

深耕端到端優(yōu)化，引領(lǐng)端側(cè)智能進化

從1.4Hz到22.1Hz的性能躍升，不僅標(biāo)志著推理性能不再是端側(cè)算法部署的瓶頸，更彰顯了智元以持續(xù)科研輸出驅(qū)動技術(shù)迭代的核心堅守。未來將繼續(xù)以全鏈路端到端優(yōu)化體系為依托，在低比特壓縮、編譯優(yōu)化、算子引擎等關(guān)鍵技術(shù)領(lǐng)域持續(xù)攻堅，不斷突破復(fù)雜模型端側(cè)部署的性能邊界與場景限制。

更深遠的價值在于，這套可復(fù)用、可擴展的技術(shù)體系，不僅將賦能更多VLA架構(gòu)模型的端側(cè)落地，更將為行業(yè)構(gòu)建起“科研突破-技術(shù)轉(zhuǎn)化-生態(tài)賦能”的良性循環(huán)，引領(lǐng)端側(cè)智能從“單點優(yōu)化”邁向“體系化進化”。

作為具身智能領(lǐng)域的科研深耕者，智元始終將核心技術(shù)自研與持續(xù)創(chuàng)新作為發(fā)展根基，本次實踐沉淀的系統(tǒng)優(yōu)化方法論，正是智元持續(xù)科研輸出的重要成果之一。智元將持續(xù)科研深耕，推動具身智能技術(shù)普惠，讓每臺機器人都擁有高效、智能的本地“大腦”，助力部署態(tài)在各行業(yè)落地，為人機協(xié)作的未來場景開辟更廣闊的想象空間。