cann/asc-devkit:MulAddDst复合计算API

📅 2026/7/16 23:35:12 👁️ 阅读次数 📝 编程学习
cann/asc-devkit:MulAddDst复合计算API

# MulAddDst

【免费下载链接】asc-devkit本项目是CANN 推出的昇腾AI处理器专用的算子程序开发语言,原生支持C和C++标准规范,主要由类库和语言扩展层构成,提供多层级API,满足多维场景算子开发诉求。项目地址: https://gitcode.com/cann/asc-devkit

产品支持情况

  • Ascend 950PR/Ascend 950DT:支持
  • Atlas A3 训练系列产品/Atlas A3 推理系列产品:不支持
  • Atlas A2 训练系列产品/Atlas A2 推理系列产品:不支持
  • Atlas 200I/500 A2 推理产品:不支持
  • Atlas 推理系列产品 AI Core:不支持
  • Atlas 推理系列产品 Vector Core:不支持
  • Atlas 训练系列产品:不支持

功能说明

头文件路径为:"basic_api/reg_compute/kernel_reg_compute_vec_binary_intf.h"

该接口按元素将srcReg0与srcReg1相乘再加上dstReg,根据mask将计算结果写入dstReg。计算公式如下:

$$ dstReg_i = srcReg0_i \times srcReg1_i + dstReg_i $$

函数原型

template <typename T = DefaultType, MaskMergeMode mode = MaskMergeMode::ZEROING, typename U> __simd_callee__ inline void MulAddDst(U& dstReg, U& srcReg0, U& srcReg1, MaskReg& mask)

参数说明

表1模板参数说明

参数名描述
T操作数数据类型。
modeMaskMergeMode枚举类型。选择MERGING模式或ZEROING模式。
• ZEROING模式下,mask未筛选的元素在dstReg中置零。
• MERGING模式当前不支持。
U目的操作数和源操作数的RegTensor类型,例如RegTensor<half>,由编译器自动推导,用户不需要填写。

表2参数说明

参数名输入/输出描述
dstReg输出目的操作数。
类型为RegTensor。计算前作为被乘数参与运算,计算后存储结果。
srcReg0输入源操作数。
类型为RegTensor。数据类型需要与目的操作数保持一致。
srcReg1输入源操作数。
类型为RegTensor。数据类型需要与目的操作数保持一致。
mask输入源操作数元素有效性的指示,详细说明请参考MaskReg。

返回值说明

数据类型

表3数据类型组合

srcReg0srcReg1dstReg
int16_tint16_tint16_t
uint16_tuint16_tuint16_t
halfhalfhalf
bfloat16_tbfloat16_tbfloat16_t
int32_tint32_tint32_t
uint32_tuint32_tuint32_t
floatfloatfloat
int64_tint64_tint64_t
uint64_tuint64_tuint64_t

约束说明

  • 本接口支持寄存器重叠。
  • 本接口操作数为寄存器,不涉及地址对齐。
  • 本接口不修改全局寄存器的值。

关键特性说明

对于非软仿实现的数据类型,在硬件层面单条指令完成乘加融合计算,精度高于分开执行Mul和Add。

调用示例

template<typename T> __simd_vf__ inline void MulAddDstVF(__ubuf__ T* dstAddr, __ubuf__ T* src0Addr, __ubuf__ T* src1Addr, uint32_t count, uint32_t oneRepeatSize, uint16_t repeatTimes) { AscendC::Reg::RegTensor<T> srcReg0; AscendC::Reg::RegTensor<T> srcReg1; AscendC::Reg::RegTensor<T> dstReg; AscendC::Reg::MaskReg mask; for (uint16_t i = 0; i < repeatTimes; i++) { mask = AscendC::Reg::UpdateMask<T>(count); AscendC::Reg::LoadAlign(srcReg0, src0Addr + i * oneRepeatSize); AscendC::Reg::LoadAlign(srcReg1, src1Addr + i * oneRepeatSize); AscendC::Reg::LoadAlign(dstReg, dstAddr + i * oneRepeatSize); AscendC::Reg::MulAddDst(dstReg, srcReg0, srcReg1, mask); AscendC::Reg::StoreAlign(dstAddr + i * oneRepeatSize, dstReg, mask); } }

【免费下载链接】asc-devkit本项目是CANN 推出的昇腾AI处理器专用的算子程序开发语言,原生支持C和C++标准规范,主要由类库和语言扩展层构成,提供多层级API,满足多维场景算子开发诉求。项目地址: https://gitcode.com/cann/asc-devkit

创作声明:本文部分内容由AI辅助生成(AIGC),仅供参考