深度学习

不知不觉间，深度学习已经成为了主流的机器学习模型。深度学习的兴起，得益于它对多模数据（视觉、文本、音频）的强大模型能力。目前最强大的模型，比如大语言模型、深度增强学习模型，都是基于深度学习的。因此，我们必须掌握深度学习模型。

我们首先学习前向神经元网络，然后学习卷积神经元网络（CNN）、RNN 模型的原理、设计和优化，包括 LSTM、解码输入的方法，并在 RNN 的基础上，我们介绍 Attention 和 Self-Attention。

我们然后基于 Self-Attention，介绍 Transformer 这个强大的序列模型。目前所有的主流深度学习模型都是基于 Transformer 构建的，应用非常广泛。

我们最后介绍最近兴起的 Mamba。

到这里，我们就基本上掌握了主流的深度学习模型了。下面是详细的内容。