AI記事考察ノート

スパースTransformerの内部構造を解き明かす——個々の重みが持つ意味とは？

重みスパースなTransformerにおける個々のパラメータの解釈可能性

査読前の可能性がある研究情報

個々の重みが全トレーニングデータセット上でどのように機能するかを解明し、スパースなTransformerにおける解釈可能な重みの割合が高いことを示す研究

速報・AI要約未精査