一、本文介绍

本文记录的是利用RecurrentAttention循环注意力机制改进YOLOv10的特征提取部分。RecurrentAttention通过循环神经网络实现序列式注意力学习。

二、RecurrentAttention注意力机制介绍

2.1 设计出发点

传统注意力机制只考虑当前时刻的特征，RecurrentAttention通过循环神经网络建模时间序列上的注意力变化。

2.2 模块结构

RecurrentAttention块：

1. LSTM单元：建模时间序列依赖
2. 注意力计算：基于隐藏状态计算注意力权重
3. 特征融合：应用注意力权重到特征

三、RecurrentAttention注意力机制的实现代码

importtorchimporttorch.nnas