深度学习革命
深度学习的兴起
Section titled “深度学习的兴起”深度学习使用多层人工神经网络学习数据的层次化表示。
关键推动因素
Section titled “关键推动因素”- 海量数据、GPU计算、算法突破、开源生态
AlexNet时刻（2012）
Section titled “AlexNet时刻（2012）”AlexNet在ImageNet竞赛取得突破，被视为深度学习革命起点。
关键架构创新
Section titled “关键架构创新”处理图像数据，代表作：AlexNet、ResNet
RNN / LSTM
Section titled “RNN / LSTM”处理序列数据，LSTM解决梯度消失问题
GAN（2014）
Section titled “GAN（2014）”生成器和判别器博弈，生成逼真内容
Transformer（2017）
Section titled “Transformer（2017）”完全基于注意力机制，成为LLM的基础架构
| 年份 | 事件 | 意义 | |------|------|------| | 2012 | AlexNet | 开启深度学习时代 | | 2016 | AlphaGo击败李世石 | AI在围棋上超越人类 | | 2017 | Transformer提出 | 基础架构的重大突破 | | 2020 | GPT-3发布 | 大语言模型的崛起 |