三亩地 三亩地SAN MU DI · CODE DIARY
ARTICLE DETAIL

日记详情

真实记录编程学习的某一天,欢迎挑你感兴趣的翻一翻。

从《Attention is All You Need》 到 当代大模型架构

从《Attention is All You Need》 到 当代大模型架构

挖坑中

2017 年《Attention is All You Need》论文提出的Transformer架构,是现代大模型的起点。如今的大模型架构相比之前有了很多改变。

Encoder-Decoder 转向 Decoder-Only

← 返回列表