关于本站
这是一个个人维护的技术文章存档,主题是人工智能。写下来的初衷很朴素:网上的资料要么过于浅显,只做简短介绍;要么默认你已经掌握基础,直接给出公式。中间那一段——这项技术为什么会出现、它到底在解决什么难题、需要付出什么代价——反而很少有人认真写。
所以这里的文章按一条线排列:从最小的线性模型,到大语言模型,再到模型压缩、格式转换与端侧部署。顺着读下来是一套完整的东西,跳着读每一篇也尽量能独立看懂。
写作上的一些规矩
- 能用一句话讲清楚的,不放公式;非放不可的公式,后面一定跟一句解释,说明它的含义。
- 尽量给出具体数字——参数量、显存、耗时——而不是"很快""很大"这类形容词。
- 不堆术语。一个词第一次出现,先把它为什么存在讲明白,再谈它怎么实现。
- 每篇末尾列参考资料,优先引用一手论文和官方文档,方便你进一步查阅原文。
- 力求准确。如果有讲错的地方,以参考文献里的原文为准。
内容范围
四个板块,共 20 篇:
- 第一部分:神经网络的基础——模型在算什么、怎么学、卷积为什么能识图。
- 第二部分:注意力机制与 Transformer 架构——Q/K/V、多头注意力、位置编码。
- 第三部分:大语言模型的全生命周期——token、采样、预训练、LoRA 微调、对齐、KV Cache、量化。
- 第四部分:工程落地——剪枝、蒸馏、ONNX 格式转换、模型文件格式、端侧推理优化。
技术说明
本站是纯静态站点,手写 HTML、CSS 和少量原生 JavaScript,没有框架、没有构建流程、没有外部依赖。这样做的理由是它十年后依然打得开,也方便你直接查看网页源码来学习排版。
全站支持深色模式,文章页带阅读进度条和侧边目录。
联系与声明
文章内容为个人学习笔记与理解,欢迎指正。文中引用的论文、图表、代码思想的版权归原作者所有,本站仅作学习用途的转述与讲解。
站内文章可自由转载,注明出处即可。