Skip to content

深度学习基础

在了解了若干的数学基础以及计算机基础之后,此时本质上读者已经可以踏上深度学习的学习之路了,实际上大多数的深度学习的内容是在借助神经网络强大的拟合能力并通过抽象思维创建的算法,其固然具有复杂的可解释性,但是形而上学的进行理解也是可接受的,因而并不需要十分深入的数学知识。

读者可以在网上查阅相关的教程,了解从 MLP 开始的深度学习的发展历史,以及在这其中的经典算法,从过去直到现在,这其中的算法如此之多,读者或许需要很长的时间才可以保证完全学完并且了解,当然,读者也可以阅读笔者书写的《简明深度学习教程》(开发中,暂无),不过彻底了解这些内容的同时,我们也同样推荐读者伴随着代码的实践,这都很重要。

在众多优质的教程中,李沐的 动手学深度学习 是十分值得推荐的,其不仅详细地讲解了深度学习的基础知识,还提供了大量的代码,并且读者可以跟随教程进行实践,这十分有利于读者对于知识的掌握,与此同时,教程同样提供视频版本的讲解,使得读者可以在更加轻松惬意的环境下学习这些内容。

同时,笔者的另一个项目,AI wiki是一个正在建设中的人工智能的自学指南,其中推荐的内容或许是本教程的补集,可以帮助读者从快速入门科研的角度学习深度学习领域的知识。

警告

AI wiki 尚且在建设过程中,目前并未有合作者,且由于笔者事务众多,开始进一步完善最早也要在 2024 年 12 月才能开始。

在了解了深度学习领域中的大多数基本内容之后,我们依然建议尝试论文的阅读,这些内容均可以在 李沐于 bilibili 的账号 中找到,包括上文提到动手学深度学习的视频版本,以及一系列的论文精读。值得一提的是,笔者并不鼓励读者事无巨细地观看完论文精读中的每一个视频。事实上这一系列视频制作极为精良,使得初学者也可以看懂,但同时也导致读者在具备了一定论文阅读能力的时候,并不需要进行如视频中所进行的精度的阅读,从而造成时间的浪费。

一种更加合理的方式是,跟随精读阅读若干论文之后,自己尝试自行阅读在 arxiv 上的论文,并且尝试使用下一篇章中的提到的递归学习的方法来阅读某一领域中的最新成果,并在较为吃力的情况下回到论文精读的视频中寻找阅读论文的感觉与节奏,如此往复以正式进入阅读论文并自主探索的节奏。

同时一个值得推荐的工具是 chat with paper,这一项目具有 挂在于网络的公益版,同时也可以在 Github 的仓库 中下载并自行部署,其提供根据 arxiv 来进行论文翻译这一功能,可以帮助英语阅读水平不佳的读者也可以快速阅读论文。即使是英语水平较高的读者,在笔者阅读的体验中,英文阅读一般也难以做到中文阅读的“扫视”程度,批量翻译英文论文并进行快速阅读,是阅读论文的最佳方法,并在重点论文时阅读英文版本,以获得更加准确的描述。

Released under the MIT License.