← トップへ戻る

プレプリント ·研究論文 ·速報 ·AI要約未精査 ·AIによる読み解き

LLMが指示とパターンの間で迷う理由とは？

言語モデルが指示とパターンの間でどのように行動を変えるかを調査

元記事タイトル: 指示に従うか、パターンに従うか：LLMにおける競合する目標

arXiv cs.AI 2026年06月23日

査読未完了の可能性があります。完成した査読済み論文としてではなく、研究コミュニティ向けの早期共有として読んでください。

RESEARCH 研究論文 / Preprint

Field Note 読む前に確認

3行まとめ

LLMは特定の行動を示すユーザーからの指示と、対立するパターンを示すアシスタントとの競合を経験
13の異なるモデルを使用して多様性のある結果を提供
指示内容や出力形式によってロバストネスが変わる

こんな人に関係ある話

AI研究者機械学習エンジニア言語モデル開発者

信頼度メモ

プレプリント論文（査読前の可能性あり）

記事の読み解き Reading

元記事を材料に、要点、編集視点、良い点と懸念点を読みやすい順に整理しています。

この研究では、言語モデルが特定の行動を示すユーザーからの指示と、対立するパターンを示すアシスタントからの固定された応答との間で生じる競合を調査しています。13のモデルと16種類の異なる指示を使用して、これらのモデルが指示に従う頻度やパターンに従う頻度を測定しました。結果は、モデルによって異なり、一般的な能力ベンチマークとは関連性が低いことが明らかになりました。

編集部コメント

この研究は、指示に従うべきかパターンに従うべきかという矛盾した目標を持つ言語モデルの挙動を詳細に調査しています。特に、指示内容や出力形式がロバストネスにどのように影響するかについての考察は興味深いです。

評価ポイント Assessment

良い点

LLMの行動が指示とパターンの間でどのように変化するかを詳細に調査
13の異なるモデルを使用して多様性のある結果を提供
指示内容や出力形式によってロバストネスが変わる

懸念点

標準的な能力ベンチマークとは関連性がないため、一般的な性能評価に影響を与える可能性がある

業界・社会への影響 Impact

この研究はLLMの挙動を理解する上で重要な洞察を提供し、将来のモデル設計や実装において考慮すべき要素を明らかにします。また、ユーザーがLLMと対話する際の期待値設定にも役立つでしょう。

深堀り Deep Dive

前提知識

大規模言語モデル（LLM）は、ユーザーからの指示に従って適切な応答を生成する能力を持つ一方で、トレーニングデータから学習したパターンを再現する傾向も持っている。この二つの能力が競合する状況において、モデルがどちらの方向に従うかは、モデルの設計やトレーニング方法に依存し、それが応答の信頼性や一貫性に影響を与える可能性がある。この研究は、この競合現象を深く掘り下げ、モデルの挙動を分析している。

何が新しいのか

この研究では、指示とパターンが対立する状況において、LLMがどちらを優先するかを、13のモデルと16種類の指示を用いて定量的に評価した。結果として、モデルごとに指示に従う頻度が大きく異なり、かつこれは一般的な能力ベンチマークとは関係が薄いことが明らかになった。これは、従来のベンチマークがモデルの「指示に従う能力」を過小評価している可能性を示唆している。

今後見るべき論点

モデルの出力形式（単語vs複数語）が指示に従う能力に与える影響の詳細な分析
指示とトレーニング時の価値観の一致が、モデルの抵抗性に与える影響のさらなる検証
思考過程の提示（Chain-of-thought）が、指示に従う能力と出力の整合性に与える影響の長期的な評価

用語解説

LLM 大規模言語モデル。大量のテキストデータから学習し、自然な言語を生成したり、質問に応答したりする能力を持つAIモデル

指示に従う（Instruction-following）ユーザーからの指示に従って応答を生成する能力

パターンに従う（Pattern-following）トレーニングデータに含まれる言語のパターンを再現する傾向

Chain-of-thought 推論過程を明確に示しながら答えを導き出す方法。モデルがどのように考えたかをステップバイステップで提示する

参照元 Sources

元記事と、深堀りで参照した情報源です。コミュニティ投稿やプレプリントでは、ここから根拠を確認できます。

指示に従うか、パターンに従うか：LLMにおける競合する目標

arXiv cs.AI

https://arxiv.org/abs/2605.20382

この記事の見取り図

読む前に確認
記事の読み解き
深堀り
参照元
AI要約について
関連記事

キーワード

LLM instruction-following pattern-completion robustness

AI要約について

本記事の要約・分類・読み解きにはAIを使用しています。内容確認に努めていますが、誤訳・解釈違い・元記事更新の反映漏れを含む可能性があります。重要な判断を行う場合は、必ず元記事もご確認ください。

速報について — 速報は追加調査や本文抽出の結果で内容が更新される場合があります。初期要約には誤りや不足が含まれる可能性があります。

記事データ

Source	プレプリント
Category	研究論文
Status	速報
出典	arXiv cs.AI
公開日	2026-06-23

元記事の説明文

arXiv:2605.20382v2 Announce Type: replace-cross Abstract: Language models are trained to follow instructions, but they are also powerful pattern completers. What happens when these two objectives conflict? We construct conversations in which a user instruction to behave in a target way T (e.g., always output a specific token, answer in a particular language, or adopt a persona) is opposed by N hardcoded assistant turns demonstrating a competing pattern P. We then measure instruction-following (IF) rates in this setting, across 13 models and 16 different instructions, for up to 50 turns. Average instruction-following rates range from 1% to 99% across models, largely uncorrelated with standard capability benchmarks. The transition from instruction-following to pattern-following is universal but highly model-dependent. Robustness is modulated both by instruction content, with models resisting induction longer when instructions align with their trained value priors, and by output format, with diverse multi-token responses proving substantially more resistant than single-token outputs. Chain-of-thought reasoning improves robustness but does not eliminate susceptibility, and can produce dissociation between correct deliberation and incorrect output. When asked to predict their behavior in this setting, models achieve 83.5% accuracy on average but systematically underestimate their own resistance to induction pressure. These results suggest that instruction-following remains brittle under induction pressure even for otherwise capable models, and that output diversity, rather than semantic engagement with the input, is the primary factor predicting robustness.