三亩地 三亩地SAN MU DI · CODE DIARY
ARTICLE DETAIL

日记详情

真实记录编程学习的某一天,欢迎挑你感兴趣的翻一翻。

CANN/Ascend C Mull乘法API

CANN/Ascend C Mull乘法API

Mull

【免费下载链接】asc-devkit本项目是CANN 推出的昇腾AI处理器专用的算子程序开发语言,原生支持C和C++标准规范,主要由类库和语言扩展层构成,提供多层级API,满足多维场景算子开发诉求。项目地址: https://gitcode.com/cann/asc-devkit

产品支持情况

产品

是否支持

Ascend 950PR/Ascend 950DT

√

Atlas A3 训练系列产品 / Atlas A3 推理系列产品

x

Atlas A2 训练系列产品 / Atlas A2 推理系列产品

x

功能说明

根据mask对输入数据srcReg0、srcReg1按元素相乘操作,将结果写入dstReg0,溢出部分写入dstReg1。

函数原型

template <typename T = DefaultType, typename U> __simd_callee__ inline void Mull(U& dstReg0, U& dstReg1, U& srcReg0, U& srcReg1, MaskReg& mask)

参数说明

表 1模板参数说明

参数名

描述

T

操作数数据类型。

Ascend 950PR/Ascend 950DT,支持的数据类型为:uint32_t/int32_t

U

srcReg0/srcReg1/dstReg为RegTensor类型, 例如RegTensor<uint32_t>,由编译器自动推导,用户不需要填写。

表 2参数说明

参数名

输入/输出

描述

dstReg0

输出

目的操作数。

类型为RegTensor。

dstReg1

输出

目的操作数。

类型为RegTensor。

srcReg0

输入

源操作数。

类型为RegTensor。

两个源操作数的数据类型需要与目的操作数保持一致。

srcReg1

输入

源操作数。

类型为RegTensor。

两个源操作数的数据类型需要与目的操作数保持一致。

mask

输入

源操作数元素操作的有效指示,详细说明请参考MaskReg。

返回值说明

无

约束说明

无

调用示例

template<typename T> __simd_vf__ inline void MullVF(__ubuf__ T* dst0Addr, __ubuf__ T* dst1Addr, __ubuf__ T* src0Addr, __ubuf__ T* src1Addr, uint32_t count, uint32_t oneRepeatSize, uint16_t repeatTimes) { AscendC::Reg::RegTensor<T> srcReg0; AscendC::Reg::RegTensor<T> srcReg1; AscendC::Reg::RegTensor<T> dstReg0; AscendC::Reg::RegTensor<T> dstReg1; AscendC::Reg::MaskReg mask; for (uint16_t i = 0; i < repeatTimes; i++) { mask = AscendC::Reg::UpdateMask<T>(count); AscendC::Reg::LoadAlign(srcReg0, src0Addr + i * oneRepeatSize); AscendC::Reg::LoadAlign(srcReg1, src1Addr + i * oneRepeatSize); AscendC::Reg::Mull(dstReg0, dstReg1, srcReg0, srcReg1, mask); AscendC::Reg::StoreAlign(dst0Addr + i * oneRepeatSize, dstReg0, mask); AscendC::Reg::StoreAlign(dst1Addr + i * oneRepeatSize, dstReg1, mask); } }

【免费下载链接】asc-devkit本项目是CANN 推出的昇腾AI处理器专用的算子程序开发语言,原生支持C和C++标准规范,主要由类库和语言扩展层构成,提供多层级API,满足多维场景算子开发诉求。项目地址: https://gitcode.com/cann/asc-devkit

创作声明:本文部分内容由AI辅助生成(AIGC),仅供参考

← 返回列表