HIVM 内建指令操作

【免费下载链接】cannbot-skillsCANNBot 是面向 CANN 开发的用于提升开发效率的系列智能体，本仓库为其提供可复用的 Skills 模块。项目地址: https://gitcode.com/cann/cannbot-skills

关键词：IntrinOp, GET.BLOCK.IDX, SET.FLAG.IMM, WAIT.FLAG.IMM, BARRIER, SET.FFTS.BASE.ADDR, SET.CROSS.CORE, INTRA.BLOCK

概述

HIVM 内建指令操作（Intrinsic Operations）是 HIVM 方言中最底层的操作，直接对应 NPU 硬件指令。这些操作从 HIVMIntrinOps.td 定义，继承自LLVM_IntrOpBase，在 Lowering 的最终阶段由高层 HIVM 操作转换而来。

内建指令操作通常不由用户直接编写，而是由编译器 Pass 自动生成。了解这些操作有助于理解 HIVM IR 到硬件指令的映射关系。

指令分类

1. Block 索引指令

2. Pipe 同步指令

3. FFTS 同步指令

4. Intra-Block 同步指令

5. 控制指令

6. 缓存指令

指令详细说明

SET.FLAG.IMM / WAIT.FLAG.IMM

立即数模式的 Pipe 同步指令，Event ID 编码在指令中。

// 参数 set_pipe: I64Attr -- 发送信号的 Pipe（立即数） wait_pipe: I64Attr -- 接收信号的 Pipe（立即数） event_id: I64Attr -- Event ID（立即数） // 无返回值

SET.FLAG.REG / WAIT.FLAG.REG

寄存器模式的 Pipe 同步指令，Event ID 来自寄存器值。

// 参数 set_pipe: I64Attr -- 发送信号的 Pipe（立即数） wait_pipe: I64Attr -- 接收信号的 Pipe（立即数） event_id: I<64> -- Event ID（寄存器值） // 无返回值

SET.CROSS.CORE

FFTS 跨核同步指令，发送数据（包括模式和 Flag ID）到 FFTS 目标地址。

// 参数 pipe: I64Attr -- Pipe 类型（立即数） config: I<64> -- 配置值（寄存器） // config 编码格式： // config = (0x0001 | ((mode & 0x0f) << 4) | ((flagID & 0x0f) << 8)) // // mode: // 0: inter block synchronization // 1: inter subblock synchronization // 2: intra block synchronization // // flagID: 8-bit flag ID，每个 flag ID 有一个计数器

INTRA.BLOCK 同步指令

Block 内 Cube Core 和 Vector Core 之间的同步指令。

ID 映射规则（Mix-Mode Block，1 CUBECORE + 2 VECCORE）：

同步机制：

• 每个 sync ID 有一个 4-bit 计数器
• SET 操作：递增对方 Core 对应 ID 的计数器，不阻塞当前 Pipeline
• WAIT 操作：如果对应 ID 的计数器为 0 则阻塞，否则递减计数器

高层操作到内建指令的映射

常见问题

Q: 为什么有 IMM 和 REG 两种模式？A: IMM（Immediate）模式将参数编码在指令中，适用于编译时已知的常量参数，执行效率更高。REG（Register）模式从寄存器读取参数，适用于运行时计算的动态参数。

Q: SET.CROSS.CORE 的 config 如何编码？A:config = 0x0001 | ((mode & 0x0f) << 4) | ((flagID & 0x0f) << 8)，其中 mode 为同步模式（0=跨Block，1=跨Sub-Block，2=Block内），flagID 为 8-bit Flag ID。

Q: INTRA.BLOCK 同步的 ID 映射规则是什么？A: 在 Mix-Mode Block 中，CUBECORE 有 32 个 ID，每个 VECCORE 有 16 个 ID。VECCORE0 的 ID 0-15 映射到 CUBECORE 的 ID 0-15，VECCORE1 的 ID 0-15 映射到 CUBECORE 的 ID 16-31，反之亦然。

相关文档

• 源码参考：HIVMIntrinOps.td
• 高层同步操作：04-Synchronization/01-pipe-sync.md
• 跨核同步：04-Synchronization/02-block-sync.md

【免费下载链接】cannbot-skillsCANNBot 是面向 CANN 开发的用于提升开发效率的系列智能体，本仓库为其提供可复用的 Skills 模块。项目地址: https://gitcode.com/cann/cannbot-skills