ZHY's Blog

系统梳理大语言模型推理能力的核心技术路径，涵盖推理与非推理的本质区分、思维链（CoT）范式变革、推理评估体系（Pass@k/Cons@k）、GRPO群体相对策略优化算法的数学原理与改进（DAPO/Dr.GRPO）、DeepSeek R1/R1-Zero的多阶段训练流程，以及推理链蒸馏的工程化实践。

系统梳理大语言模型偏好调优（Preference Tuning）的核心技术与方法，涵盖偏好数据的三大类型（点态/成对/列表型）与获取流程、RLHF两阶段架构（奖励建模+PPO强化学习）、BoN替代方案，以及DPO的数学原理与优势，最后对比RLHF与DPO的实现难度与性能差异。

系统梳理大语言模型（LLM）训练的全生命周期，涵盖训练范式演变（传统→迁移→预训练+微调）、预训练目标与缩放规律（含Chinchilla定律）、训练四阶段流程（初始化→前向→反向→Adam更新）、核心内存优化（ZeRO并行/Flash Attention/混合精度）、有监督微调（SFT/指令调优），以及参数高效微调（LoRA/QLoRA）原理与模型对齐目标。

系统梳理大语言模型（LLM）的核心技术全景，涵盖LLM定义与特征、混合专家模型（MoE）架构与路由坍缩解决方案、自回归解码策略（贪心/束搜索/采样/温度系数/引导解码）、提示工程（ICL/CoT/自一致性），以及推理优化技巧（KV缓存/GQA/PagedAttention/潜在注意力/推测解码/MTP）。

系统梳理Transformer进阶核心模块，涵盖缩放点积与多头注意力回顾、位置编码从绝对到相对（RoPE）的演进、层归一化（Pre-Norm/RMSNorm）优化、注意力近似方法（稀疏注意力/MQA/GQA）、三大衍生架构对比，以及BERT的预训练（MLM/NSP）、微调流程与经典变体（DistilBERT/RoBERTa）。

系统梳理Transformer的诞生背景与核心架构，涵盖分词策略、词表示演进、RNN/LSTM的痛点、自注意力与多头注意力机制、位置编码、编码器-解码器设计，并通过机器翻译端到端案例串联NLP完整技术栈。

系统讲解LSTM与GRU的门控机制设计哲学与数学原理。从LSTM的“双轨”架构（细胞状态+隐藏状态）与三门结构（遗忘门、输入门、输出门）出发，推导细胞状态更新公式如何通过按元素加法路径缓解梯度消失，并深入剖析GRU的两大简化及其参数量优势。附带讨论双向LSTM与深层堆叠LSTM的应用场景。

系统讲解循环神经网络（RNN）的数学原理与随时间反向传播（BPTT）算法。从RNN的循环结构与共享参数出发，推导BPTT的梯度表达式，揭示梯度消失与梯度爆炸的数学根源，并介绍梯度裁剪作为应对梯度爆炸的工程解法。附带讨论LSTM如何通过门控机制缓解梯度消失。

系统讲解ResNet残差网络的设计哲学与数学原理：从退化问题的本质出发，推导残差块F(x)+x如何通过恒等映射直通路径缓解梯度消失，详解Bottleneck块如何将参数量减少约94%，并对比ResNet（加法融合）与DenseNet（拼接融合）的梯度流动差异。

系统讲解卷积神经网络（CNN）的四大核心操作：从严格卷积与互相关的数学区别出发，推导感受野的递推计算公式，剖析空洞卷积如何在不增加参数的前提下扩大感受野，详解Max Pooling与Average Pooling的反向传播机制，以及1×1卷积的跨通道信息整合、降维/升维与增加非线性的三大作用。