三亩地 三亩地SAN MU DI · CODE DIARY
ARTICLE DETAIL

日记详情

真实记录编程学习的某一天,欢迎挑你感兴趣的翻一翻。

CANN/Ascend C SetSkipMsg API

CANN/Ascend C SetSkipMsg API

SetSkipMsg

【免费下载链接】asc-devkit本项目是CANN 推出的昇腾AI处理器专用的算子程序开发语言,原生支持C和C++标准规范,主要由类库和语言扩展层构成,提供多层级API,满足多维场景算子开发诉求。项目地址: https://gitcode.com/cann/asc-devkit

产品支持情况

产品

是否支持

Ascend 950PR/Ascend 950DT

√

Atlas A3 训练系列产品 / Atlas A3 推理系列产品

x

Atlas A2 训练系列产品 / Atlas A2 推理系列产品

√

功能说明

AIC跳过指定个数假消息的处理,仅在回调函数中调用。下图中Block0通过调用SetSkipMsg跳过三个假消息。

图 1SetSkipMsg示意图
![](https://raw.gitcode.com/cann/asc-devkit/raw/f35dfef9af78af31a0418d6061f7969c5ffc6990/docs/api/context/figures/SetSkipMsg示意图.png "SetSkipMsg示意图"?utm_source=gitcode_repo_files)

函数原型

__aicore__ inline void SetSkipMsg(uint8_t skipCnt)

参数说明

表 1接口参数说明

参数

输入/输出

说明

skipCnt

输入

AIC需要跳过的消息数。

返回值说明

无。

约束说明

该任务的消息空间后skipCnt个消息队列需要发送FAKE消息。

调用示例

__aicore__ inline static void Call( MatmulApiCfg &mm, __gm__ CubeMsgBody *rcvMsg, CubeResGroupHandle<CubeMsgBody> &handle) { // AIC上计算逻辑,用户自行实现 auto skipNum = 3;//(rcvMsg->head).skipCnt,假消息个数可由用户在回调计算结构体中定义,也可以通过自定义消息结构体传递。 auto tmpId = handle.FreeMessage(rcvMsg, AscendC::CubeMsgState::VALID); // 当前消息处理完,调用FreeMessage,代表rcvMsg已处理完 for (int i = 1; i < skipNum + 1; i++) { // 由于后续发了三个假消息,也需要调用FreeMessage,代表假消息处理完毕。 auto tmpId = handle.FreeMessage(rcvMsg + i, AscendC::CubeMsgState::FAKE); } // 当假消息存在,需要调用SetSkipMsg,通知Cube核不去处理后面三个假消息。 handle.SetSkipMsg(skipNum); };

【免费下载链接】asc-devkit本项目是CANN 推出的昇腾AI处理器专用的算子程序开发语言,原生支持C和C++标准规范,主要由类库和语言扩展层构成,提供多层级API,满足多维场景算子开发诉求。项目地址: https://gitcode.com/cann/asc-devkit

创作声明:本文部分内容由AI辅助生成(AIGC),仅供参考

← 返回列表