https://blog.tanteng.space/tags/transformer/Recent content in Transformer on Tony老师的博客HugozhFri, 03 Apr 2026 00:00:00 +0800https://blog.tanteng.space/posts/transformer-architecture-explained/Fri, 03 Apr 2026 00:00:00 +0800https://blog.tanteng.space/posts/transformer-architecture-explained/<p>Transformer 是当今大语言模型（GPT、BERT、T5 等）的基础架构，由 Google 在 2017 年论文 <em>&ldquo;Attention Is All You Need&rdquo;</em> 中提出。它彻底抛弃了 RNN 的递归结构，仅依靠<strong>注意力机制</strong>实现序列建模，在效果和效率上都带来了革命性突破。</p> <p>本文通过一张架构图 + 核心公式 + 基础概念解释，帮你快速建立对 Transformer 的整体理解。</p>