KataGoの1年の棋力上昇はLeelaZeroを基準として+35 ELO程度
| 投稿日 | : 2024/03/23(Sat) 16:24 |
| 投稿者 | : 山下 |
| 件名 | : Re: KataGoの1年の棋力上昇はLeelaZeroを基準として+35 ELO程度 |
| 投稿日 | : 2024/03/24(Sun) 13:29 |
| 投稿者 | : 48 |
| 参照先 | : |
KataGoも今の学習はPyTorchなのですね。
少し弄ってみようかしら。
それにしても28ブロックの512チャンネルとは巨大です。
RTX4090でも学習で使えるミニバッチはあまり大きくできないですね。
少し弄ってみようかしら。
それにしても28ブロックの512チャンネルとは巨大です。
RTX4090でも学習で使えるミニバッチはあまり大きくできないですね。
| 件名 | : Re: KataGoの1年の棋力上昇はLeelaZeroを基準として+35 ELO程度 |
| 投稿日 | : 2024/03/24(Sun) 00:06 |
| 投稿者 | : 山下 |
| 参照先 | : |
ネットワーク構成を変更した最新のb28だと同じ思考時間でb18より +40 ほど自己対戦で強いそうです。
ただし、ネットワークのパラメータ数は3倍近くなってます。
棋譜はb18で作ってるので、ほとんど同じ棋力なのですがネットワーク構成を変更して
強くなっている感じです。
b20を1としたときのパラメータ数
kata1のb20 1 SENet。ResNetにSEを追加 20 block 256 filter
kata1のb40 2.0 SENet。ResNetにSEを追加 40 block 256 filter
kata1のb60 4.6 SENet。ResNetにSEを追加 60 block 384 filter
kata1のb18 1.1 Nested Residual Bottleneck構造。b40とほぼ同一の強さ。ただ計算時間もほぼ同一
kata1のb28 3.1 Nested Residual Bottleneck構造
New 28b net!
https://discord.com/channels/417022162348802048/583775968804732928/1217296118266724352
b28の重み(実行には最新のソースが必要)
https://drive.google.com/drive/folders/1p_netnlWcy8K7YoFmKckOeBFRUmokuIp
ただし、ネットワークのパラメータ数は3倍近くなってます。
棋譜はb18で作ってるので、ほとんど同じ棋力なのですがネットワーク構成を変更して
強くなっている感じです。
b20を1としたときのパラメータ数
kata1のb20 1 SENet。ResNetにSEを追加 20 block 256 filter
kata1のb40 2.0 SENet。ResNetにSEを追加 40 block 256 filter
kata1のb60 4.6 SENet。ResNetにSEを追加 60 block 384 filter
kata1のb18 1.1 Nested Residual Bottleneck構造。b40とほぼ同一の強さ。ただ計算時間もほぼ同一
kata1のb28 3.1 Nested Residual Bottleneck構造
New 28b net!
https://discord.com/channels/417022162348802048/583775968804732928/1217296118266724352
b28の重み(実行には最新のソースが必要)
https://drive.google.com/drive/folders/1p_netnlWcy8K7YoFmKckOeBFRUmokuIp
| 件名 | : Re: KataGoの1年の棋力上昇はLeelaZeroを基準として+35 ELO程度 |
| 投稿日 | : 2024/03/23(Sat) 22:03 |
| 投稿者 | : きのあ |
| 参照先 | : |
割と最近は頭打ちなのですね。
1手50visitというかなり少ない探索の結果での推測です。
kata1_b18s*v50 はCGOSで100局程度を対局して
LZ_282_0410_p400(LeelaZero #282 の1手400playout)に30局程度当たっています。
下のグラフはLeelaZeroから見た勝率です。
対局数が少ないのでブレが大きいのですが大まかな傾向は分かります。
線形近似だと
kata1_b18s*v50 は勝率28%から勝率24%に (+165 -> +200)、 +35上昇
kata1_b60s*v50 は勝率40%から勝率36%に ( +70 -> +100)、 +30上昇
b18は1年間で+35ほど強くなっており、
最新版同士の比較だと kata1_b18s*v50 は kata1_b60s*v50 より +100 強いです。
KataGoの自己対戦による計測だと b18 は
(13525 -> 13578) +53
ほど強くなっており、だいたいLeelaZero基準と近いです。
KataGoの自己対戦による計測
https://katagotraining.org/
LZ_282_0410_p400の成績
http://www.yss-aya.com/cgos/19x19/cross/LZ_282_0410_p400.html