把 AI 的原理,讲到不需要数学基础也能看懂。

这里是一个长期更新的技术存档。从最小的线性模型一直讲到大语言模型,再到模型如何压缩、如何转换格式、如何部署到移动端运行。文章按顺序排好,一路读下来,你会得到一张完整的知识地图,而不是零散的词条。

每篇都尽量写清"这项技术为什么会出现、它解决了什么难题、需要付出什么代价",末尾附一手参考文献。

20 篇文章 4 个板块 持续更新中
Part 01

模型到底是个什么东西

先把基础打牢。不必急于进入大模型,先搞清楚一个模型内部到底在算什么,它又是怎么从大量数据里"学会"的。

01

模型就是一条会拐弯的线

从线性回归讲到神经网络,说清"参数"和"拟合"到底是在干什么。

基础神经网络
02

模型是怎么"学会"的

损失函数、梯度下降、反向传播,三个词讲完训练的全部骨架。

训练反向传播
03

卷积神经网络:机器为什么能"看懂"图片

卷积核、感受野、池化,以及小模型在端侧的生存处境。

CNN视觉
Part 02

注意力和 Transformer

这是过去十年最重要的一次架构换代。四篇文章,把 Transformer 从动机到细节拆干净。

04

从 RNN 到注意力机制

老架构的不足,催生了注意力这套新机制。

RNN注意力
05

自注意力拆开看

Q、K、V 到底在做什么,为什么说它是"带着问题去找答案"。

Self-Attention核心
06

Transformer 全貌

编码器、解码器、多头注意力、残差与前馈层,各司其职。

Transformer架构
07

位置编码

"我打你"和"你打我",模型靠什么分清。从正弦编码讲到 RoPE。

RoPE位置
Part 03

大语言模型的生命周期

八篇文章走完一遍大模型的完整生命周期:从文字变成 token,到预训练、微调、对齐,再到推理阶段的显存优化。

08

从 Transformer 到 GPT

自回归、下一个词预测,以及为什么"猜下一个字"能猜出智能。

GPT自回归
09

Token 与词表

模型眼里的文字根本不是文字。BPE 分词是怎么把句子切碎的。

分词BPE
10

采样策略

temperature、top-k、top-p,为什么调错一个参数,模型就会生成混乱的内容。

解码生成
11

预训练 → 微调 → 对齐

大模型的三段式训练流程,每一段的目标和花销都不一样。

训练流程对齐
12

LoRA:大模型的低成本微调

只用 1% 的参数量完成微调,低秩分解为什么可行。

微调LoRA
13

RLHF 与 DPO

怎样让模型表达规范、遵守规则,两代对齐方法的取舍。

RLHFDPO
14

KV Cache 与上下文窗口

推理时显存到底被什么占用,长上下文为什么如此昂贵。

推理KV Cache
15

量化:把大模型装入消费级显卡

int8/int4、GPTQ、AWQ、GGUF,精度与显存之间的权衡。

量化GPTQ
Part 04

压缩与工程落地

模型训完只是半成品。剪掉、蒸馏、换格式、接推理引擎,最后能跑在真实设备上,才算交付。

16

剪枝:删除模型里贡献小的权重

结构化与非结构化剪枝,以及那个反直觉的彩票假说。

剪枝压缩
17

知识蒸馏

让小模型去模仿大模型的"软答案",而不是机械记忆标准答案。

蒸馏压缩
18

ONNX:模型的"通用翻译器"

计算图、算子集、opset 版本,模型为什么要统一格式。

ONNX格式
19

模型文件格式全景

pt、safetensors、onnx、gguf,一张表说清各自该用在哪。

safetensorsGGUF
20

端侧部署实战

按顺序走完:导出 ONNX、量化、用 ONNX Runtime 运行、量测性能。

部署ONNX Runtime