推論が長いほどバイアスが強くなる：推論モデルにおける長さ駆動型位置バイアスの発見
要約
Chain-of-thought（CoT）推論やDeepSeek-R1などの推論調整モデルは、慎重な思考により浅い経験的バイアスを減らすと一般的に考えられてきた。しかし、多肢選択式QAにおける位置バイアスを検証した結果、推論可能なモデルにおいて、質問ごとの位置バイアスが推論軌跡の長さに比例して拡大することが判明した。研究では13の推論モード設定（R1派生7-8Bモデル2つ、CoTプロンプト付きベースモデル2つ、671BのDeepSeek-R1）でMMLU、ARC-Challenge、GPQAを用いて実験を実施。12の設定で軌跡長と位置バイアススコア（PBS）の間に0.11から0.41の正の偏相関が確認され、すべてのオープンウェイト推論モード設定で長さ四分位全体でPBSが単調増加した。切断実験により因果関係も証明され、軌跡の後半から再開された継続では位置優先選択肢へのシフトが16%から32%増加した。671Bモデルでは全体的なPBSは0.019に低下したが、最長四分位では依然として長さ効果が現れ（PBS=0.071）、精度がバイアス表現をゲートするものの根本的メカニズムは除去されていないことが示唆された。
洞察・気づき
この研究は推論モデルの評価方法に根本的な見直しを迫る重要な発見である。従来、CoT推論は人間らしい慎重な思考によりバイアスを軽減すると期待されてきたが、実際には推論が長くなるほど位置バイアスが蓄積されることが明らかになった。これは、大規模言語モデルの推論能力向上が新たな形のバイアスを生み出す可能性を示している。特に注目すべきは、モデルサイズが大きくなってもこの現象が完全に解消されない点である。この発見は、MCQ形式の評価において推論モデルを順序に対して堅牢だとデフォルトで仮定してはならないことを意味し、評価プロトコルの見直しが急務であることを示している。また、推論の質と量のトレードオフについて新たな視点を提供し、より長い推論が必ずしもより良い結果をもたらすわけではないことを示唆している。AI システムの信頼性と公平性を確保するためには、このような隠れたバイアスを検出・監査するツールの開発が不可欠である。