- formatting
- images
- links
- math
- code
- blockquotes
•
•
•
•
•
-
Pytorch 如何使用 storage 实现参数 offload? - marsggbo
在深入探讨 PyTorch 中的 Storage 类以及其在参数 offload 场景中的应用之前,让我们首先了解一下 PyTorch 和它的基础组件。PyTorch 是一个广泛使用的开源机器学习库,它不仅提供了强大的计算图功能和自动梯度计算,还允许开发者直接操作底层数据结构,这其中就包括 Stor
-
TACC 集群使用笔记
-
Pytorch 使用 storage 实现 offload 参数示例
-
TACC 集群使用笔记 - marsggbo
1注册账号 先在网页上注册账号,之后需要联系导师或者管理员把你添加到对应的集群里去,例如我加入的是 Lonestar6 集群。 之后需要跟着这个教程绑定 MFA 软件(可以是 DUO 或者 1password) 之后登录账号,系统会要求先后输入你的账户密码和 MFA 的 6 位数 token loc
-
图解 vLLM 的推理调度策略 - marsggbo
原文: 从continuous batching到vLLM中的batching - 不知叫什么好的文章 - 知乎 https://zhuanlan.zhihu.com/p/688551989