AI記事考察ノート

Mixture-of-Expertsの推論効率を飛躍的に向上させる新手法とは？

スティッキールーティング: メモリ効率的な推論を行うためのMoEモデルのトレーニング

査読前の可能性がある研究情報

StickyMoEは、Mixture-of-Expertsモデルの推論効率を向上させる新しい手法です。