AIフロントライン

LLMエージェントはシステムプロンプト、ユーザー入力、ツール出力など多様なソースから命令を受け取るが、従来のInstruction Hierarchy（IH）は「system > user」のような少数の固定ロールで権限を表現しており、複雑なエージェント環境には不十分だった。本研究が提案するManyIH（Many-Tier Instruction Hierarchy）は、Privilege Prompt Interface（PPI）を介して推論時に各命令へ動的に権限値を付与する仕組みで、整数順序（低値優先）またはスカラー値（高値優先）の2形式をサポートする。評価用ベンチマークManyIH-Benchは853サンプルからなり、最大12権限階層・実世界46エージェントシナリオをカバー。Gemini 3.1 Pro、GPT-5.4、Claude Opus 4.6など10モデルを評価した結果、最高精度はGemini 3.1 Proの42.7%と全モデルが低水準にとどまり、階層数増加とともに精度が単調に低下することが示された。特に機能正確性（コード動作）は高く維持されるが、権限に基づくスタイル制約の遵守が主なボトルネックと判明。またPPIの表現形式（序数 vs スカラー）を変えるだけで最大8%超の精度低下が生じ、同じ順序関係でも値の微小変動が個別サンプルの正誤を変えるという脆弱性も明らかになった。LLMエージェントの安全・信頼性向上に向けた重要な未解決課題を提示した研究である。