多模型服务
an archive of posts with this tag
| Nov 13, 2026 | SOSP'26 | SANDHI:用细粒度模型融合,缓解多模型服务的显存困局 |
|---|---|
| Nov 13, 2026 | SOSP'26 | Janus 用双时标调度与 xTensor,让多模型 LLM 服务既能混部又能秒级扩容 |
an archive of posts with this tag
| Nov 13, 2026 | SOSP'26 | SANDHI:用细粒度模型融合,缓解多模型服务的显存困局 |
|---|---|
| Nov 13, 2026 | SOSP'26 | Janus 用双时标调度与 xTensor,让多模型 LLM 服务既能混部又能秒级扩容 |