- formatting
- images
- links
- math
- code
- blockquotes
•
•
•
•
•
-
KVCOMM:让多 Agent 系统的 KV Cache 真正“通起来”,TTFT 直接砍掉 7.8 倍 - marsggbo
原文:KVCOMM: Online Cross-context KV-cache Communication for Efficient LLM-based Multi-agent Systems(Duke / MIT / NVIDIA,OpenReview 投稿) 代码:https://githu
-
MoE 推理的内存墙,被一块多芯粒芯片打穿了?
-
KV Cache 也能「语义共享」?SemShareKV 用 LSH 做到了
-
写完 Markdown 还要手动排版?我写了个 VS Code 插件一键搞定微信公众号、知乎、小红书
-
多 Agent 协作不需要说「人话」?LatentMAS 让 LLM 在隐空间里直接协作