記事閲覧

TOP > 過去ログ > 記事閲覧

KataGoを騙して勝つ論文

投稿日	： 2022/11/04(Fri) 19:55
投稿者	：山下

KataGoの1手1playout(Policyのみ)に99%以上勝つ手法、として論文が出ています。 Adversarial Policies Beat Professional-Level Go AIs https://arxiv.org/abs/2211.00241 ただざっと見た感じだと死石を全部打ち上げないといけない Tromp-Taylor ルール(CGOSのルールとほぼ同じ) で打たせたとき、死石を完全に打ち上げずにパスしたから勝ち、と主張してるだけのようでちょっとどうなの？という内容でした。私が未だに愛読している「Cによるアルゴリズム辞典」の著者の奥村さんのTwitterで知りました。 https://twitter.com/h_okumura/status/1587619096501182464

件名	： Re: KataGoを騙して勝つ論文
投稿日	： 2023/05/23(Tue) 15:52
投稿者	：山下
参照先	：

大橋さんの動画が日経の記事になっています。囲碁AI、「論理的思考」に盲点　深層学習の弱点示す https://www.nikkei.com/article/DGXZQOUD1580R0V10C23A5000000/ >「ドーナツ戦法」は人間同士の対局では通用しない特殊な手法で、人間が囲碁の実力で再び機械を上回ったとは言いがたい。 > 大橋七段や中国のAI「絶芸」に勝利した芝野龍之介二段は「囲碁とはちがうゲーム」と口をそろえる。ドーナツ戦法、というネーミングがいいですね！まだ絶芸は野狐に復活してないんでしょうか。芝野龍之介さん、恐るべし・・・。

件名	： Re: KataGoを騙して勝つ論文
投稿日	： 2023/04/17(Mon) 13:46
投稿者	：山下
参照先	：

HCCL研究会で大橋さんから詳しい解説がありました。実際にKataGoの18bを相手に勝つ動画が公開されています。へぇー、という感じで面白いです。【囲碁】人類の逆襲～AIの弱点が発見された～プロ棋士が解説つきで実演～ https://www.youtube.com/watch?v=dSLs9ZDNL1A どうやら石が大きく一周すると眼がなくても2眼で活きてる、と勘違いするようです。 1周を1眼と誤認識してるわけではなく、0眼1周でも2眼で活きてると錯覚するようです。欠け眼で1周して活きてる形とは関係なさそうです。実際に殺す手順は難しく、上の動画も10回失敗した、とのことです。芝野龍之介さんはこの手法で倒すのが上手く、野狐で絶芸やKataGoクローンをこの手法で倒しまくり、絶芸は負けた後、1週間して再登場したものの、また龍之介さんに一発で負けて 1か月以上経った今も消えたまま、だそうです。Golaxyも同じ弱点があるそうで強化学習系は全部そうっぽいです。最初は囲まれた中で5目中手とかになると手数計算を間違うのか、と思ったら手数は関係なさそう、とのことでした元論文は何度か修正され、2月18日のv3だとパスで勝つ弱点の発見には1GPU(V100)で20日、一周の弱点には2000日/1GPUがかかったそうです。KataGoの今までの学習棋譜の生成には15000日/1GPUだそうで、7分の1程度、という相当なリソースが必要のようです。 Adversarial Policies Beat Superhuman Go AIs https://arxiv.org/abs/2211.00241 龍之介さんのツイート龍ちゃん囲碁棋士&エンジニア@spicyspyigo 中国の囲碁AI開発者が私に教えてくれた話を私なりに解釈したものをツイートしておきます。 https://twitter.com/spicyspyigo/status/1630998446265241600

件名	： Re: KataGoを騙して勝つ論文
投稿日	： 2023/02/21(Tue) 16:16
投稿者	：山下
参照先	：

日経新聞の記事にまでなっていますね。 [FT]人間が囲碁AIに勝利、弱点発見　深層学習の欠陥示唆 https://www.nikkei.com/article/DGXZQOCB210NG0R20C23A2000000/ 大橋さんのツイートによると絶芸も同じ弱点があったようで、日本の「みゅう」さんが勝たれています。簡単に？誘導できるものなのですね。さっきつぶやいたAI殺しの手法を使って早速勝ってるプロゲーマーがここに。 https://twitter.com/ohashihirofumi/status/1627710047068508161 最強の囲碁AIに圧勝する人物が登場、AIの弱点を突いて人類が勝利したと話題に https://gigazine.net/news/20230220-go-human-victory/ Man beats machine at Go in human victory over AI https://www.ft.com/content/175e5314-a7f7-4741-a786-273219f433a1

件名	： Re: KataGoを騙して勝つ論文
投稿日	： 2022/12/15(Thu) 22:00
投稿者	：山下
参照先	：

めったに出てこない盤の中央での4目、5目中手で殺す場合の手数計算が KataGoも苦手？なんでしょうか。モンテカルロのplayoutもこの手の死活の手数を計算するのが苦手でしたけど。盤端だと大中小中(5目中手と4目中手の攻め合いは大きい5目中手が内ダメを独占する)も対応していた気はするのですが。この欠陥をAIが自力で見つけたならすごいですね。追記： lightvectorさんの投稿によると盤の中央に出現する中手の認識を改善するため、手作業で数時間かけて、この手のサンプル局面を学習初期局面集に追加したそうです。全体の0.08%程度とものすごく少ないですが。 https://discord.com/channels/417022162348802048/583775968804732928/1052949043069845536 追加した局面例 https://katagotraining.org/sgfplayer/training-games/34889642/

件名	： Re: KataGoを騙して勝つ論文
投稿日	： 2022/12/15(Thu) 09:23
投稿者	： zakki
参照先	：

論文とサイトが更新されたようで、大差で負けた状態で死んだ石との攻め合いの判断間違う局面に誘導するようになってて、パスパス狙いより面白い棋譜になってました。 https://goattack.alignmentfund.org/game-analysis#contents https://goattack.alignmentfund.org/pdfs/go_attack_paper.pdf

件名	： Re: KataGoを騙して勝つ論文
投稿日	： 2022/11/13(Sun) 18:14
投稿者	：山下
参照先	：

KataGoのパス実装はこういう感じなのですか。ありがとうございます。 1行か数行加えれば(自陣のownershipに石があればパスしない、とか)対策できそうな穴ではありそうですね。 CGOSでは下の設定で動かしてますが(tromp-taylorは2子以上の自殺がOKなので、それを防止。kata1_b*s*v* ) 50visit版とかでは騙されて負けるケースもあるかもしれません。 #rules = tromp-taylor koRule = POSITIONAL scoringRule = AREA taxRule = NONE multiStoneSuicideLegal = false hasButton = false whiteHandicapBonus = 0

件名	： Re: KataGoを騙して勝つ論文
投稿日	： 2022/11/13(Sun) 00:07
投稿者	： zakki
参照先	：

最初に棋譜を見たときはKataGoと攻撃側が逆だと思ってて何か画期的な攻撃方法あるのかと期待して読んじゃいました。 AI技術一般の話として超人的AIも無制限に信頼できるわけじゃないっていう主張はわかるんですが、単に囲碁としてみるとAI同士の対局やLizzieでの解析で探索数増やしていく途端に評価が変わるのみてたり、LeelaZeroのシチョウとかGAQZの終局とかKataGoの飛刀見てたりすると、極端に少ない探索数ならそういうこともあるんだろうなくらいに… 打ち上げる必要があるかどうかはKataGoのニューラルネットワークの入力に含まれない打ち上げるかどうかは探索部からパスが返ってきたときにルール設定に従ってプログラム的にパス以外の手を打つ打ち上げる時にパスの代わりに選ばれるのは、pass-aliveな自分の石に隣接する相手の石のダメを詰める手という実装なので、　普通のルール下ではパス-パスになるような局面でPNがパスを返しやすく　まだ静的に判定できるような眼がない局面で　探索数が少なくパスが返る局面だと Tromp-Taylor ルールに設定されててもパスを返してしまうっていう微妙な穴があるみたいです。