CANN适配Spirit-v1.5昇腾推理

📅 2026/7/5 10:43:45 👁️ 阅读次数 📝 编程学习
CANN适配Spirit-v1.5昇腾推理

Spirit-v1.5具身大模型适配昇腾310P

【免费下载链接】cann-recipes-embodied-intelligence本项目针对具身智能业务中的典型模型、加速算法,提供基于CANN平台的优化样例项目地址: https://gitcode.com/cann/cann-recipes-embodied-intelligence

Spirit-v1.5介绍

Spirit v1.5是由千寻智能自研的具身智能模型,在2026.1.12的RoboChallenge评测中取得综合排名第一,在多项任务中保持较高成功率,尤其在多任务连续执行、复杂指令拆解以及跨构型迁移等维度中表现稳定。

本样例展示了如何在昇腾310P平台上适配Spirit v1.5模型并进行推理。

支持的产品型号

昇腾310P系列

代码与权重准备

  1. 拉取本代码仓:git clone https://gitcode.com/cann/cann-recipes-embodied-intelligence.git

  2. 从千寻智能官方开源的代码仓拉取源码:git clone https://github.com/Spirit-AI-Team/spirit-v1.5.git

  3. 将本代码仓内的下列文件拷贝至Spirit v1.5的代码仓(若有同名文件,则进行替换)

    文件在本代码仓内的位置Spirit v1.5代码仓内的位置
    manipulation/spirit-v1.5/infer_with_torch/pyproject.tomlpyproject.toml
    manipulation/spirit-v1.5/infer_with_torch/requirements.txtrequirements.txt
    manipulation/spirit-v1.5/infer_with_torch/modeling_spirit_vla.pymodel/modeling_spirit_vla.py
    manipulation/spirit-v1.5/infer_with_torch/attention_processor_patch.pymodel/attention_processor_patch.py
    manipulation/spirit-v1.5/infer_with_torch/infer_mozrobot_ascend.pyscripts/infer_mozrobot_ascend.py
  4. 下载千寻智能提供的模型权重 | Model | Type | |----------|-------------| | Spirit-v1.5 | Base Model | | Spirit-v1.5-move-objects-into-box | Fine-tuned Model |

  5. 下载[Qwen/Qwen3VL-4B-Instruct] (https://huggingface.co/Qwen/Qwen3-VL-4B-Instruct)的权重(可选)

运行环境准备

安装CANN软件包

本样例的执行依赖CANN开发套件包(cann-toolkit)与CANN二进制算子包(cann-kernels),支持的CANN软件版本为CANN 8.3.RC1

请从软件包下载地址下载Ascend-cann-toolkit_8.3.RC1_linux-${arch}.runAtlas-cann-kernels_310p_8.3.RC1_linux-${arch}.run,并参考CANN安装文档进行安装。

  • ${arch}表示CPU架构,根据host机器的架构选择aarch64或x86_64。

配置Python环境

与千寻智能官方保持一致,使用uv工具进行环境管理,首先检查本地是否已安装了uv,若没有,可以使用pip install uv进行安装。

进入Spirit v1.5的代码路径,执行uv sync,这个过程将自动解析各种包的依赖关系并进行安装。

在代码仓根目录下会生成.venv路径,执行source .venv/bin/activate以激活虚拟环境,此时可以执行uv pip list检查是否所有依赖包都已安装完成。

推理

按照Spirit v1.5代码仓内的README文档指导,执行推理脚本。

【免费下载链接】cann-recipes-embodied-intelligence本项目针对具身智能业务中的典型模型、加速算法,提供基于CANN平台的优化样例项目地址: https://gitcode.com/cann/cann-recipes-embodied-intelligence

创作声明:本文部分内容由AI辅助生成(AIGC),仅供参考