LLM技术详解好文指路明灯

原文: http://zhuanlan.zhihu.com/p/1965423420725494410

LLM 技术更新换代非常快,这篇文章筛选记录写的非常好(我个人认为)的文章,浅显易懂,对于初学者或者进一步理解都很有帮助,当然不排除和穿插个人私货哈哈,也欢迎大家评论区投稿,大家一起选出写得好的文章。

未来会持续更新。。。

Rope 详解:

图解RoPE旋转位置编码及其特性

PPO 详解:

拆解大语言模型RLHF中的PPO

MLA 详解:

deepseek技术解读(1)-彻底理解MLA(Multi-Head Latent Attention)

diffusion 详解:

OpenAI 的视频生成大模型Sora的核心技术详解(一):Diffusion模型原理和代码详解

分布式并行训练:

深度学习并行训练算法一锅炖: DDP, TP, PP, ZeRO

Flag Counter