← トップへ戻る

プレプリント ·研究論文 ·速報 ·AI要約未精査 ·AIによる読み解き

LLMの内部回路は本当に制御可能か——新たな研究が示す課題

CEAP法がLLMの回路発見における再サンプリングのばらつきを大幅に減少させることが示された

元記事タイトル: LLMにおける回路発見のばらつき解明

arXiv cs.AI 2026年06月16日

査読未完了の可能性があります。完成した査読済み論文としてではなく、研究コミュニティ向けの早期共有として読んでください。

RESEARCH 研究論文 / Preprint

Field Note 読む前に確認

3行まとめ

EAP-IG法は高い不正確性を持つが、CEAP法によりその問題が改善される
プロンプトの書き換えによる変動は異なる回路を活性化するため、LLM全体を制御するのは難しい
スパシティも問題解決には至らず、サンプル間でのばらつきは問題にならないと主張

こんな人に関係ある話

機械学習研究者 AIシステム開発者大規模言語モデルの利用者

信頼度メモ

プレプリント論文（査読前の可能性あり）

記事の読み解き Reading

元記事を材料に、要点、編集視点、良い点と懸念点を読みやすい順に整理しています。

本研究では、機械的可視化手法である回路発見において、EAP-IG法が示す高い不正確性とその原因を詳細に分析しています。CEAPという新たな方法により、再サンプリングのばらつきが大幅に減少することが示されました。また、プロンプトの書き換えによる変動や個々のサンプル間でのばらつきも考察され、LLMの制御難易度とその背景が議論されています。

編集部コメント

この研究は、大規模言語モデルの内部回路がどのように変動するかを詳細に分析し、その背景と解決策を探求しています。特に、プロンプトの書き換えによる回路の変動やサンプル間でのばらつきについての考察は、LLMの制御可能性に対する新たな問いを提示します。

評価ポイント Assessment

良い点

CEAP法により再サンプリングのばらつきが大幅に減少
プロンプトの書き換えによる変動が異なる回路を活性化することを示す
個々のサンプル間でのばらつきは問題にならないと主張

懸念点

異なるテンプレートのプロンプトが異なる回路を活性化するため、LLM全体を制御するのは難しい可能性がある
スパシティによる解釈性向上も問題解決には至らず

業界・社会への影響 Impact

本研究は、大規模言語モデルの内部構造とその制御に関する重要な洞察を提供し、将来の機械的可視化手法の開発に影響を与える可能性があります。また、LLMの解釈性向上や制御可能性について新たな課題を提起します。

深堀り Deep Dive

前提知識

機械的可視化手法である回路発見は、大規模言語モデル(LLM)の内部構造を理解し、特定タスクを実行する際の重要なモデルコンポーネントを特定するために使用されます。現状ではEAP-IG法が主流ですが、この方法には再サンプリングによるばらつきやプロンプトの書き換えによる変動があることが問題となっています。

何が新しいのか

本研究は新たな手法CEAPの提案により、従来のEAP-IG法における高い不正確性とその原因を詳しく分析しています。特に再サンプリングによるばらつきが減少することや、プロンプトの書き換えによる変動も明らかにしました。

今後見るべき論点

CEAP法の更なる改良と他の機械的可視化手法との比較
LLMに対する制御難易度の評価方法の開発
新たなプロンプト作成技術による影響

用語解説

EAP-IG法現状では最も利用されている回路発見の手法で、モデルコンポーネントの重要性を評価します。

CEAP 本研究で提案された新たな回路発見方法であり、再サンプリングによるばらつきが減少することを示しました。

プロンプトの書き換え変動異なるプロンプトテンプレートによってモデル内部の異なる回路が活用されることから生じる変動です。

参照元 Sources

元記事と、深堀りで参照した情報源です。コミュニティ投稿やプレプリントでは、ここから根拠を確認できます。

LLMにおける回路発見のばらつき解明

arXiv cs.AI

https://arxiv.org/abs/2606.16920

この記事の見取り図

読む前に確認
記事の読み解き
深堀り
参照元
AI要約について
関連記事

キーワード

EAP-IG CEAP 機械的可視化回路発見スパシティ

AI要約について

本記事の要約・分類・読み解きにはAIを使用しています。内容確認に努めていますが、誤訳・解釈違い・元記事更新の反映漏れを含む可能性があります。重要な判断を行う場合は、必ず元記事もご確認ください。

速報について — 速報は追加調査や本文抽出の結果で内容が更新される場合があります。初期要約には誤りや不足が含まれる可能性があります。

記事データ

Source	プレプリント
Category	研究論文
Status	速報
出典	arXiv cs.AI
公開日	2026-06-16

元記事の説明文

arXiv:2606.16920v1 Announce Type: cross Abstract: Circuit discovery is a key technique in mechanistic interpretability to pinpoint the model components that are crucial for performing a given task. Although the current state-of-the-art method (EAP-IG) performs well on the metric of (un)faithfulness, it suffers from substantial variability. This includes resampling variance, where the circuit changes when we probe with a new batch of data from the same distribution; rephrasing variance, where the discovered circuit shifts when the prompts are rephrased; and sample-wise variance, where a circuit with low population unfaithfulness exhibits large fluctuations in unfaithfulness across individual samples. This paper studies the roots of these variances. We demonstrate that CEAP, our new circuit discovery method that improves upon EAP-IG with a theoretical guarantee, can substantially lessen resampling variance. We further show that rephrasing variance arises because prompts with different templates tend to activate different circuits in the model. This leads us to argue that it may be challenging to find a comprehensive circuit that explains and controls the model's behavior on a task, which can be expressed in countless templates, suggesting that LLMs may be inherently hard to steer. We show that sparsity, which has been claimed to form more compact and interpretable task circuits, fails to solve this problem. Regarding sample-wise variance, we argue that it is largely benign: extremely poor unfaithfulness scores often stem from how unfaithfulness is defined, rather than from defects in the measured circuits. We show that the magnitude of unfaithfulness is affected by selective contribution scaling, a neural mechanism that accounts for the extremely poor scores sometimes observed.