FastMoE 框架结构解析

原文: http://zhuanlan.zhihu.com/p/671629618

https://github.com/laekov/fastmoe

fastmoe 是目前已开源的 MoE 框架中最轻量级的了（我所知道的）。大致梳理了一下 fastmoe/fmoe 下各个模块之间的关系如下图，详细的框架结构解析后面再继续添砖加瓦