手番と得点レースの特徴量を追加したら、実対局でも有意に勝ち越した

局面評価(value)の入力に手番の先後および得点レースの進捗情報を追加したペア比較実験が完了した。未知のテスト局面に対する勝敗予測精度が大幅に改善し、PUCT32による実対局評価においても有意な勝ち越しを記録したため、新たな特徴量設計(feature contract)を正式採用した。

実験群で追加した特徴量

最終的な実験群では、手番数(game_ply)を除外した上で、全体特徴量(global feature)の次元数を4次元から9次元へと拡張した。

特徴量導入の目的
手番プレイヤーが先手(starting player)か否か同手番終了ルールにおける手番差の識別
勝利点の点数差(prestige difference)得点レースにおけるリード状況
購入カード枚数の差(purchased-card difference)タイブレーク判定に必要な情報
手番プレイヤーの15点までの残り点数終局までの最短距離
対戦相手の15点までの残り点数相手の勝利リーチ状況の把握

game_ply については、ゲームのルール定義上本質的な状態変数ではなく、ゲーム手数に対するショートカット学習を招く懸念があったため、最終仕様からは意図的に除外した。

8組の対照群と実験群を同一の教師データ、局面サンプル、学習ターゲット、データ提示順序で比較し、最大16,000ステップまで学習を進めた。

オフラインの局面評価精度が顕著に改善

評価指標測定結果(実験群 − 対照群)事前設定した合否判定基準
WDL ブライアスコア差分-0.011508平均値 ≤ -0.0027
ブライアスコア片側95%上限-0.008802< 0
方策KL情報量片側95%上限+0.003634< +0.01

局面評価の精度改善は事前に設定していた統計的基準を大幅に上回り、方策模倣精度のわずかな変動も許容範囲内に収まっていた。

終局までの残り手数帯別で見ると、特に終盤局面における予測精度の向上が顕著だった。

終局までの残り意思決定数WDL ブライアスコア改善幅
1〜8手(終盤)-0.0253
33手以上(序盤)-0.0065

この測定結果は、先手・後手に関する情報が、同手番で決着するルール判定において局面の勝敗予測に直接寄与するという当初の仮説とも整合している。

実対局(arena)における実力向上も実証

オフラインの評価基準をクリアした後、対照群と実験群を32回シミュレーションのPUCT探索を用いて8回の試行、計8,192局にわたって直接対戦させた。

対戦評価指標測定結果
平均ペアスコア(mean pair score)0.523560
標準誤差0.006280
片側95%信頼区間の下限0.511662
スコア0.5以上を達成した試行数7 / 8 試行

事前プロトコルで規定していた「平均スコア0.52以上、下限値0.5超え、8試行中6試行以上で勝ち越し」というすべての昇格条件を完全に達成した。

訓練データの行数や探索シミュレーション回数を一切増やすことなく、欠落していた盤面情報を入力特徴量として補っただけで、オフラインの局面評価精度と実対局での勝率の双方が明確に向上した。今後はこの9特徴量からなる入力仕様を新たな標準ベースラインとして採用する。


この記事は、実装・実験記録をもとに、本文の大部分をLLMが執筆し、筆者が内容を確認・編集しています。