概述
本文档概述Paper：MKERNEL: Fast Multi-GPU, Multi-Node Fused Kernels的具体实现；
解读
通信和gemm的fuse kernel有很多过往的工作，如flux, comet, flashoverlap等等，然而，他们主要focus在单节点内部，即利用多stage计算、intra-node communication和inter-node communication，让剩下的stage都独立穿行执行，mKernel将这三者都fuse到一个kernel中；