English
AobaZero は、AlphaZero の将棋の実験の追試を行うユーザ参加型の将棋人工知能プロジェクトです。


ご興味がある方は、ぜひ参加をお願いします。Google Colabを使えばどなたでも棋譜生成が可能です。

GitHub ソース、実行ファイルはこちらです。

2022-06-24 v36 更新をお願いします。歩角飛の不成を読まないように。王手での素抜き空き王手で駒を取る手の読み抜けを強制補正。kldgainを0.000006から0.000005に。平均playout数が729から772に増えます。w4062、5778万棋譜から。
2022-06-20 AobaZeroの駒の価値をAobaZeroの棋譜から計算してみました。盤上の龍の価値が高いです。
2022-04-30 v34 更新をお願いします。王手がからむ千日手のバグ修正とdfpnでの時間打ち切りを追加しました。w3977、5523万棋譜から。
2021-04-27 AlphaZeroの追試を終了して40 blockに移行しました。3982万棋譜。w3459が最後の20 blockでw3460から40 blockです。ありがとうございました!
更新履歴


2022年7月5日 08時33分現在(30分毎に更新)
過去1時間のユーザ数 3人、 642棋譜
過去1日間のユーザ数 26人、 32651棋譜
合計 58054865 棋譜。現在のweight番号= w4070。次は26.6時間後。貢献ありがとうございます!
過去 1000棋譜の平均手数 77.7手, 先手勝率 0.564, 引分率 0.023
過去 100万棋譜の平均手数 75.5手, 先手勝率 0.557, 引分率 0.021

棋力の推移。一つ前のweightとの自己対戦を元にしたグラフです。縦軸がELO。横軸は棋譜数(単位は万)です。floodgate,vs Kristallweizen 1k,10k,50k,100k,200k,500k は右側の縦軸です。
2022-06-23 時点です。

AobaZero 1手800playout 対 Kristallweizen(4.83) 1手500kノード。互角局面集で先後入れ替え、合計800局で計測。1手50kを2600点と仮定。


将棋の知識を獲得していく過程を棋譜から確認できます

ノイズを含まない自己対戦の棋譜 ページの先頭が最新のweight同士の棋譜です。

序盤の手の変遷を見ることができます。


学習用に生成された棋譜

重みにつき1局の自己対戦の棋譜 ページの先頭が最新の棋譜です。2週間おきに更新予定。

上の棋譜は自己対戦の学習中の棋譜で「序盤30手まではひどい悪手を指す」ことがあります。
また「Rootの手にノイズを加えて最善手でない手でも選びやすい」ようになっています。
序盤30手まででひどい悪手を指してる場合はコメントで確認できます。
例えば、下なら本来なら△23歩打、が最善なのですが、4/800 の確率で△31銀を指してます。
-4231GI,'800,0023FU,731,1314FU,23,5152OU,7,4231GI,4


CSA選手権のアピール文書。2019年 2020年 2021年 2022年
古いデータや感想など

棋譜

現時点での強化学習で作成した棋譜です。
xz形式で圧縮されています。1つ50MBぐらいです。2週間ごとぐらいで最新版を追加します。
0 から 4706 まで4707- 5070- 5388- 5635-

棋譜の
no000000000000.csa から
no000000121031.csa
まではニューラルネットワークを使わずにプログラムが乱数をPolicy,Valueに与えて800playoutで作った棋譜です。
実際にニューラルネットを使った棋譜は
no000000121032.csa
以降になります。
no000001017999.csa までは 64x15block、過去10万棋譜からのサンプリングで作った棋譜です。
no000001018000.csa からは 256x20block、過去50万棋譜からのサンプリングで作ってます。
棋譜の一括ダウンロードは山岡さん水たまりさんの解説をご覧ください。
ネットワークの重み

w0001 から w3702 までw3703- w3809- w3890- w4006-
w448まではネットワークのサイズは 64 x 15 block です。w449から 256 x 20 block です。
w3880まではv18をお使い下さい。w3881から構成が変わり互換性はありません。

w001  ...  64x15b,minibatch   64, 学習率 0.01,     wd 0.00005,   120000棋譜
w156  ...  64x15b,minibatch   64, 学習率 0.001,    wd 0.00005,   430000棋譜 
w449  ... 256x20b,minibatch   64, 学習率 0.01,     wd 0.0002,   1018000棋譜
w465  ... 256x20b,minibatch   64, 学習率 0.001,    wd 0.0002,   1180000棋譜
w775  ... 256x20b,minibatch 4096, 学習率 0.02,     wd 0.0002,   4220000棋譜 minibatchと学習率の変更
w787  ... 256x20b,minibatch  128, 学習率 0.0002,   wd 0.0002,   4340000棋譜 minibatchを128に
w1450 ... 256x20b,minibatch  128, 学習率 0.00002,  wd 0.0002,  10980000棋譜 学習率の下げる
w2047 ... 256x20b,minibatch  128, 学習率 0.000002, wd 0.0002,  16948000棋譜 学習率を下げる
w2250 ... 256x20b,minibatch  128, 学習率 0.000002, wd 0.0002,  18950000棋譜 勝率10%で投了するように
w2564 ... 256x20b,minibatch  128, 学習率 0.000002, wd 0.0002,  22120000棋譜 棋譜に勝率を追加
w2579 ... 256x20b,minibatch  128, 学習率 0.000002, wd 0.0002,  22272000棋譜 投了閾値の自動調節
w2750 ... 256x20b,minibatch  128, 学習率 0.000002, wd 0.00004, 23982000棋譜 weight_decayを変更
w3022 ... 256x20b,minibatch  128, 学習率 0.000002, wd 0.00004, 26706447棋譜 34285棋譜ごとにweight更新
w3077 ... 256x20b,minibatch  128, 学習率 0.000002, wd 0.00004, 28352543棋譜 過去100万棋譜
w3148 ... 256x20b,minibatch  128, 学習率 0.0000002,wd 0.00004, 30474874棋譜
w3299 ... 256x20b,minibatch  128, 学習率 0.0000002,wd 0.0002,  34987582棋譜
w3460 ... 256x40b,minibatch   64, 学習率 0.000001, wd 0.0002,  39825686棋譜 (AlphaZero追試終了)
w3616 ... 256x40b,minibatch   64, 学習率 0.0000005,wd 0.0002,  44461876棋譜
w3703 ... 256x20b,minibatch  128, 学習率 0.000002 ,wd 0.0002,  47075522棋譜 温度を1から1.3に変更
w3770 ... 256x20b,minibatch  128, 学習率 0.000002 ,wd 0.0002,  49046722棋譜 探索勝率と実際の勝敗の平均を学習
w3806 ... 256x20b,minibatch  128, 学習率 0.000002 ,wd 0.0002,  50130343棋譜 kldgain 0.0000013
w3881 ... 256x20b,minibatch  128, 学習率 0.000002 ,wd 0.0002,  52390111棋譜 NN構造をdlshogi風に。30手までの乱数性をValueで
w3933 ... 256x20b,minibatch  128, 学習率 0.000002 ,wd 0.0002,  53934959棋譜 policy出力温度を1.8。30手までの乱数性をAlphaZero方式に戻す。kldgain 0.000006
w3954 ... 256x20b,minibatch  128, 学習率 0.000002 ,wd 0.0002,  54545373棋譜 勝率の初期値を親ノードの勝率を元に。すべてのノードで訪問回数が10^nごとにdfpnで詰を。
w4062 ... 256x20b,minibatch  128, 学習率 0.000002 ,wd 0.0002,  57783603棋譜 歩角飛の不成を読まない。王手での素抜きや空き王手を強制補正。kldgainを0.000005
 momentum 0.9 はすべて共通
 w448までは 2000棋譜ごと( 4000回学習ごと)にweightを更新。
 w449からは10000棋譜ごと(20000回学習ごと)にweightを更新。
 w787からは10000棋譜ごと(10000回学習ごと)にweightを更新。
w3022からは34285棋譜ごと(32000回学習ごと)にweightを更新。
w3077からは過去100万棋譜からサンプリング(今までは過去50万棋譜)。