cann/asc-devkit:MulAddDst复合计算API
📅 2026/7/16 23:35:12
👁️ 阅读次数
📝 编程学习
# MulAddDst
【免费下载链接】asc-devkit本项目是CANN 推出的昇腾AI处理器专用的算子程序开发语言,原生支持C和C++标准规范,主要由类库和语言扩展层构成,提供多层级API,满足多维场景算子开发诉求。项目地址: https://gitcode.com/cann/asc-devkit
产品支持情况
- Ascend 950PR/Ascend 950DT:支持
- Atlas A3 训练系列产品/Atlas A3 推理系列产品:不支持
- Atlas A2 训练系列产品/Atlas A2 推理系列产品:不支持
- Atlas 200I/500 A2 推理产品:不支持
- Atlas 推理系列产品 AI Core:不支持
- Atlas 推理系列产品 Vector Core:不支持
- Atlas 训练系列产品:不支持
功能说明
头文件路径为:"basic_api/reg_compute/kernel_reg_compute_vec_binary_intf.h"。
该接口按元素将srcReg0与srcReg1相乘再加上dstReg,根据mask将计算结果写入dstReg。计算公式如下:
$$ dstReg_i = srcReg0_i \times srcReg1_i + dstReg_i $$
函数原型
template <typename T = DefaultType, MaskMergeMode mode = MaskMergeMode::ZEROING, typename U> __simd_callee__ inline void MulAddDst(U& dstReg, U& srcReg0, U& srcReg1, MaskReg& mask)参数说明
表1模板参数说明
| 参数名 | 描述 |
|---|---|
| T | 操作数数据类型。 |
| mode | MaskMergeMode枚举类型。选择MERGING模式或ZEROING模式。 • ZEROING模式下,mask未筛选的元素在dstReg中置零。 • MERGING模式当前不支持。 |
| U | 目的操作数和源操作数的RegTensor类型,例如RegTensor<half>,由编译器自动推导,用户不需要填写。 |
表2参数说明
| 参数名 | 输入/输出 | 描述 |
|---|---|---|
| dstReg | 输出 | 目的操作数。 类型为RegTensor。计算前作为被乘数参与运算,计算后存储结果。 |
| srcReg0 | 输入 | 源操作数。 类型为RegTensor。数据类型需要与目的操作数保持一致。 |
| srcReg1 | 输入 | 源操作数。 类型为RegTensor。数据类型需要与目的操作数保持一致。 |
| mask | 输入 | 源操作数元素有效性的指示,详细说明请参考MaskReg。 |
返回值说明
无
数据类型
表3数据类型组合
| srcReg0 | srcReg1 | dstReg |
|---|---|---|
| int16_t | int16_t | int16_t |
| uint16_t | uint16_t | uint16_t |
| half | half | half |
| bfloat16_t | bfloat16_t | bfloat16_t |
| int32_t | int32_t | int32_t |
| uint32_t | uint32_t | uint32_t |
| float | float | float |
| int64_t | int64_t | int64_t |
| uint64_t | uint64_t | uint64_t |
约束说明
- 本接口支持寄存器重叠。
- 本接口操作数为寄存器,不涉及地址对齐。
- 本接口不修改全局寄存器的值。
关键特性说明
对于非软仿实现的数据类型,在硬件层面单条指令完成乘加融合计算,精度高于分开执行Mul和Add。
调用示例
template<typename T> __simd_vf__ inline void MulAddDstVF(__ubuf__ T* dstAddr, __ubuf__ T* src0Addr, __ubuf__ T* src1Addr, uint32_t count, uint32_t oneRepeatSize, uint16_t repeatTimes) { AscendC::Reg::RegTensor<T> srcReg0; AscendC::Reg::RegTensor<T> srcReg1; AscendC::Reg::RegTensor<T> dstReg; AscendC::Reg::MaskReg mask; for (uint16_t i = 0; i < repeatTimes; i++) { mask = AscendC::Reg::UpdateMask<T>(count); AscendC::Reg::LoadAlign(srcReg0, src0Addr + i * oneRepeatSize); AscendC::Reg::LoadAlign(srcReg1, src1Addr + i * oneRepeatSize); AscendC::Reg::LoadAlign(dstReg, dstAddr + i * oneRepeatSize); AscendC::Reg::MulAddDst(dstReg, srcReg0, srcReg1, mask); AscendC::Reg::StoreAlign(dstAddr + i * oneRepeatSize, dstReg, mask); } }【免费下载链接】asc-devkit本项目是CANN 推出的昇腾AI处理器专用的算子程序开发语言,原生支持C和C++标准规范,主要由类库和语言扩展层构成,提供多层级API,满足多维场景算子开发诉求。项目地址: https://gitcode.com/cann/asc-devkit
创作声明:本文部分内容由AI辅助生成(AIGC),仅供参考
编程学习
技术分享
实战经验