Context Rotとは
Context Rotとは、LLMのコンテキストウィンドウにテキストが蓄積されるにつれて、序盤に入力された情報の検索精度や遵守率が徐々に低下する現象です。
メカニズム
LLMのAttention機構は、理論上はコンテキスト内のすべてのトークンを等しく参照できますが、実際にはトークン数が増えるほど注意が分散します。とくにコンテキストの中間部分（Middle部分）の情報が最も見落とされやすいことが複数の研究で報告されています。
対策
システムプロンプトに重要な指示を配置する、長時間セッションでは重要な制約を途中で再注入する、Context Compactionの品質を監視するといった運用上の工夫が有効です。