- formatting
- images
- links
- math
- code
- blockquotes
•
•
•
•
•
-
OpenAI 的视频生成大模型Sora的核心技术详解（一）：Diffusion模型原理和代码详解 - marsggbo
标题党一下，顺便蹭一下 OpenAI Sora大模型的热点，主要也是回顾一下扩散模型的原理。 1. 简单理解扩散模型 简单理解，扩散模型如下图所示可以分成两部分，一个是 forward，另一个是 reverse 过程： forward：这是加噪声的过程，表示为\(q(X_{0:T})\)，即在原图（
-
vLLM 源码解析（二）
-
vLLM 源码解析（一）
-
大模型推理框架 vLLM 源码解析（一） - marsggbo
1. Quick Start 创建如下代码，命名为 run.py from vllm import LLM, SamplingParams prompts = [ "Have you followed marsggbo in Zhihu?", "你一键三连了吗？" ] # 输入prompts sam
-
vllm 安装踩坑 (The NVIDIA driver on your system is too old) - marsggbo
我的环境如下： nvidia-smi 显示 cuda 版本是 11.7 目前最新vllm 要求的 torch 版本是 2.1.2，该版本要求的 cuda 版本是 11.8，所以不匹配。执行安装会遇到如下错误 RuntimeError: The NVIDIA driver on your system