L Longlong's Blogblog.xlonglong.cn ↗ · RSS 0 人关注 关注 生活日常随笔学习笔记炼丹开发 最近更新 1 个月前近 12 个月 10 篇 11月10月（本月） 文章 ▲ 从PPO到DPO的数学推导以及实现 讨论2026/09/03 ▲ RLHF中的PPO算法——TRL库的PPOTrainer源码分析 讨论2026/09/01 ▲ 从0强化学习基础到理解PPO 讨论2026/08/30 ▲ llava源码精读 讨论2026/08/25 ▲ RELU到SwiGLU：LLM中FFN层的演变 讨论2026/08/20 ▲ MHA、MQA、GQA小结 讨论2026/08/20 ▲ 从 LayerNorm 到 RMSNorm：为什么可以去掉均值？ 讨论2026/08/19 ▲ CLIP、SigLIP、SigLIP2小结 讨论2026/08/18 ▲ 熵、交叉熵、KL散度的区别 讨论2026/08/11 ▲ 由Sinusoidal位置编码到RoPE 讨论2026/03/02
