AIは『神』になれるのか？再び囲碁棋士と考えるの公開討論に行ってきた話(1)
先日、こちらのイベントに参加してきました。そのとき聞いたことと思ったことを書いていきます。長くなったので分割していきます。
概要PDF：https://www.u-tokyo.ac.jp/content/400201410.pdf
行こうと思ったきっかけは、私の最近の趣味が囲碁ということと、トップ女流棋士の上野愛咲美さんがどのようにAIを捉えて日頃から使っているのかというところに興味がありました。
更にもっといえば、私が応援している同じくトップ棋士の一力遼さんが見ている世界の何かしらヒントが得られるかなと思い、応募しました。
あと大学時代の研究室が一応人工知能（というくくりでいいと思うんですけど）を扱っているので、多少理工学的な話になってもついていけるだろうと思いました。
===
0. 会場の話
当日行ってみれば聴衆との質疑応答がないとのことで、最初からテンションが落ちてしまいました。なぜ事前抽選式の公開形式にしたのか、だいぶ謎です。
（まあ仮にどのような議論にも深く突っ込める人間がいると、収拾がつきにくくなるのである意味仕方ないかもしれません）
モデレーターの先生による最初の自己紹介では、上野愛咲美先生が今のところ最多勝利数の先頭を走っていることに触れ、ご本人も『今年はめちゃくちゃ頑張っているなと思う』と自己評価していました。若鯉戦も二連覇したばかりだし、本当にすごい。
次に東大のAI研究センター（あるいはそれに類する機関）からいらした先生が2,3人いて、「東大でもそういう機関がやっぱり増えてるんだな〜」と母校を思い出しつつ勝手な親近感を湧かせてました。
討論では、『囲碁AIについて』、『汎用AIについて』、『多様派AIについて』、そして『人間とAIが共存共栄をどう図っていくか？』というテーマに分けて、5人の登壇者がおのおの語っていくことになります。
ちなみにメインタイトルの『神』についてですが、この討論では『人間の脳を超える何か』とするという定義にされました。
モデレーターの先生曰く、『神とは何かを詳しく定義しようとするだけで多分2時間超えちゃうので』と言われてしまいましたが、個人的には「なんだ、やっぱりそこも切り込めないのか〜」と正直ここでも残念な気持ちになりました。
まあこういうことは言い出すとキリがないんですけどね。はい。
ちなみに客層は上野愛咲美先生目当てっぽい人が多かった気がします。というのも、上野先生が場が和むようなことを言うと「ふふっ」と笑う男性客が多かったので。
トークテーマ1. 『囲碁AIについて』
まず囲碁棋士の大橋先生 が、「囲碁AIは少しずつ進歩している」と言ったものの、すぐさま上野先生が「そんなに強くなっているようには思えない」と率直な意見を述べて、会場の笑いを誘っていました。
AIの裏側のロジックや向上度合いについては察するものがあるんですけど、なかなか手厳しい感想だなと思いました。
お二人からは今日の囲碁AIの先駆けとなった、2016年のGoogle製のAlphaGoの登場と、そのAlphaGoが当時の世界トップ棋士であるリ・セドル氏に勝ったことが本当に衝撃的だったこと、それまではアマチュア有段者クラス程度のCPUならいくらでもあったけどプロと対等以上に打てるというAIが出てきたことは、シンギュラリティだったと思うという話が出ました。
しかし仮に『囲碁の神AI』が『ミスはないAI』とした場合、AlphaGoにはまだ初歩的ミスがあり、神にもランクがあると言えるのかもしれないと思えたという表現は個人的におもしろかったです。
「神にもランクがあるというか、個性ともいえるか、強いのは3種類に大別されるがそこからの派生は100種類ほどあり、しかしどれもまだ全部『最強』とまではいっていないことが不思議である」、「統一されるのかと思いきやそうでもなかった」という感想を大橋先生がおっしゃっていましたが、個人的には「棋士からすれば不思議だろうけど、中のロジックを考えればそれはそうなってしまうだろうな」と思いました。
下手に規格外の出力結果を出せば、むしろそのAIが外れ値というか、ポンコツの可能性が高いし。そもそも最強の定義って何よ？って話になりそうです。
このあたりは東大の先生からも『現段階では最強を求めようとすると、平均的な能力を持つAIになるだろう』、『今は正しい方向に強くなっているのか、それとも部分的な山に登っているのか、それすらもよくわからない状態』といったことを仰っていて、まあそりゃそうだよねという気持ちです。（さっきから『それはそう』という感想ばかりで、語彙力のなさがバレそう）
さらなる技術革新が起こらないと、囲碁棋士が望むような新たなAIは生まれないだろうと自分は思いますが、棋士のお二人はそのあたりの技術話にはわりと興味はなさそうに見えました。
別にそれがいいとか悪いとかではなく、棋士からすればAIに対してはあくまでユーザー感覚で対峙しているように見えたといいますか。
つまり『AIが強くなれるように協力します！』といった意見はおそらくマイノリティで（そういう人がいればおもしろいと思うんですけど）、むしろ『AIと戦ってみたい』、『AIに教わりたい』意識を持つ人が多いのだろうと思いました。
そういったAIに対する勝負意識や、AIと接する上での向上意識は自分の中にはない感覚だなとしみじみ思いました。あくまで自分は作る側に近いからこそ気づいたことかもしれません。
囲碁AIの定石について
大橋先生が「囲碁AIの定石は増えると思っていたのに偏りがある。それが強いから集約されていっているのか、それが強いとAIが思い込んでいるように思う」と表現していたのに対し、上野先生が「まったく逆でした。むしろ2~3年前ぐらいから二連星や三々に入ったりばかりだったのが、最近は初手小目なども種類が増えたと思う。人間たちの間で昔流行ったけど、廃れた定石も復活したというか、ループしている印象がある。AIっぽい手もあるし、人間が深く考えた手も戻っている」と表現していて、聞いているこちらも興味深いと思いました。
どちらの感覚が正しいのかはわかりかねますが、上野先生の意見を採り入れるとすれば、AIもまさしく手探りの状態なのだろうと思いました。
というか、それは結構意外でした。
AIもとい、探索問題なり教師ありの学習の手法なり、人間以上に厳密に計算をしながら（しているとは思うんですけど）、次の一手を導き出しているのかと思いきや、上野先生からすれば結構感覚的な手を打っているような印象を与えているというのが、衝撃でした。このあとの話でもちょっと触れるんですけど
AIと比較するとさすがに棋士側も厳密な計算をしきれないからこそ、感覚的な感想に陥ってしまうのかもしれませんが、それでも例えば「この手を打てば5目ぐらいが固くなるから、AIはここにしたんだろう」といった、数値的な感想が飛び出るのかなと思っていたけど、そうでもないんだな〜と、結構驚きました。
ちなみに東大の先生らは上野先生の感想に対して「多様性を許すような手を増やしたのかもしれない」、「強い棋士の手の戦略を真似していても、それだけだとやはり超えることはできないから」、大橋先生の感想については「強い棋士の手の戦略vsAI同士で対戦した際に、収束する方向性を決めているのかもしれない」、そして「それによって新たな気づきが増えているのかもしれない」といった（まあよくある）見解を述べていました。
KataGo vs KataGoにだけ勝てる最弱のAI
KataGo（かたご）とは、現時点においてトップ棋士にも迫る勢いの強さを誇る囲碁AIです。（先述のAlphaGoはセドル氏に勝ったこともあり、Googleは開発を中断しています）
そして最近、そのKataGoを倒すためだけの"最弱AI"が生まれました。
KataGo以外のAIには負ける最弱のAIだけど、KataGo相手には最初の数回は絶対に勝つという謎のプログラムだそうです。
大橋先生は『KataGoのバグを突くプログラムとでもいいましょうか、普通の感覚だと打たない手で負ける。他のAIや弱い人間にも負けるのに、KataGoには最初だけ勝ったから不思議だった』とおっしゃっていました。
ただ、それって強い棋士の対局でも起きるんじゃないかなと思ったんですけど、どうなんでしょう？
仮にですけど、いま日本の序列一位の棋士である一力遼さんと超初心者の人間が対戦したとして、超初心者の打つ手が意味不明すぎて、それが一力さんみたいなまじめな棋士ほど混乱して、思わず大石をとられて大逆転されちゃうとか、いわゆる番狂わせが起きることは普通に起こるんじゃないかなと自分は思うのです。
けど数回も対局すれば「ああ、この人はこういうときにこういう下手な手を打つ。もう惑わされない」と、絶対に一力さんの方が勝つ。そんなことは囲碁に限らずともあると思うんですけど、どうなのかなあ。ちょっと違うかもしれませんけどゲシュタルト崩壊とか、ああいう感じに近いように思います。
（プロの力を舐めるなと言われたら申し訳ないです。。。ちなみに私は棋士の中では一力先生を一番尊敬しています……）
『囲碁の神AIを作ることは可能だろうか？』
東大の先生らからは「技術的には可能だろうけど、やっぱり学習数が膨大になるだろうし、現時点では設計者は方向性を悩んでいると思う」という、（まあよくある）結論が提示されました。わかる〜〜〜。
研究者もエンジニアもみんな「技術的には可能」という言葉が好きだよね。みたぬはAIは作れるのか？ 技術的には可能だよ。みたいなね。
なお現状の課題として、東大の先生からは「各棋士の得意なところを取り入れようとして、平均的なAIになってしまっている」と述べられました。（なんかこのへんはどうしても先に出た話と似通うよね）
それが通知表で言うところのオール5だったら問題ないんでしょうけど、おそらくまだオール4.5ぐらいの状態なのかもしれません。
ちなみに上野先生たちは『AIは神にはなれないように見える。なぜならシチョウとかが読めないから。今のままだと厳しい』とおっしゃっていました。
確かに、河野臨先生が解説した第46期棋聖戦の第6局でも終盤、『いまAIの評価値は一力さんに傾いているようですが、これは人間の目だと明らかですけど間違いです。コウが読めていないんです。これはもう井山さんの勝ちです（要約）』（実際、第6局は井山先生が勝ちました）といったことがあり、やっぱりまだまだ人間の方が強いんだなと聞いてがっかりしたような、ホッとしたような、複雑な気持ちだったことをよく覚えています。
さらに続いて、『ロジカルに半目勝つ』ということも現状のAIどころか今ある技術でも難しいだろう、といったことを東大の先生も指摘しており、個人的には「なーんだ」という気持ちでした（じゃあお前が作れや）
大橋先生いわく「いまのAIってふわっといい手を見つけて、ふわっと打ってふわっと勝つ感じ」だそうです……。ううむ。
そもそも囲碁は半目でも残っていれば勝ちのゲームですが、棋士ですらその最終図を厳密に計算しながら打っている人なんていないでしょうしね……。
だいたいの囲碁の指南書でも、布石の段階では「ここに打てば何目得する」という厳密な数値のことはは書かれておらず「だいたいこのへんがおすすめ」ぐらいしか書かれていません。
それをAIに求めるのは無理というのは、確かに筋が通っていそうです。
神と打ったとき、何子置けば勝てるか？
これはおもしろかったですね。まさしく棋士の先生方にしか聞けなさそうな話です。
（囲碁はハンデをつけることができるゲームでして、ゲーム開始前に弱い人が何個かの石を盤面に置くことができます。その数え方を子（し）と呼びます。）
上野先生は、「現状のAIに対して2子を置いて打つ人もいて、最大で6子置く人もいる。私はだいたい4~5子だから、それを考えると神に対しては7子かも。適当だけど、でも7子なら勝てる気がする」と言っていたのは「おお〜〜〜〜」と思いました。
なんの参考にもならないでしょうけど、私が一力先生に勝とうとするにはおそらく17子必要です（最弱）
まあそれも神のパターンにもよるかもしれない、たとえば最善手に最善手を打ってくるタイプだとか、あるいはKataGoのように相手のミスを読み切って打つタイプだとまた違うかもしれない……というのもおもしろかったです。
プロ棋士も、やっぱり囲碁AIのタイプによって得手不得手があるのか〜と、そのへん対人間とも一緒なのがおもしろく感じました。
ちなみに、いまの囲碁AIは多神教という感じに見えるそうです、この表現もおもしろいなあと思いました。
コミの変化があるけど、将来神同士のAI対決はどうなると思いますか？
『コミ』というのは、囲碁において最初の黒番は有利なので（これは数学的に言える話です）、白番に対して何目かを渡してからスタートすることになっています。
そのコミの数値ルールは時代ごとに変わっており、たとえばヒカルの碁のsai vs toya koyoでは、当時の基準では藤原佐為が勝ちましたけど、今のルールだと負けになります。
それについて上野先生が、今も結構勝率が微妙に差が出ていて、6目半だと勝率が50%なのに7目半だと白の勝率が60%になる。
だから神同士は7目半で打つと引き分けられるんじゃないか、あるいは初手で投了になっちゃうこともあるかもしれない、と言っていました。
上野先生のその予想は鋭いというか、結構当たる気がするんですけど、どうなるのかな〜〜〜。
そうなってくると、先ほども言及された神のタイプによって、つまり神の人格みたいな部分が勝率に影響するのかもしれません。
すごく長くなったので、ひとまず今日はここまで。
