Deep Learningで将棋の評価関数の学習を行う。仮に、ResNetと呼ばれる画像識別でよく用いられるアーキテクチャを評価関数に使うとしよう。
このとき、ResNetのブロック数(≒層の数)を増やしたり、幅(中間層の特徴量の数)を広げたりすると学習能力は高くなる。
層数が20ブロックで幅が256のことをResNet20x256というように表記するとして、ResNet20x256とResNet18x288とではどちらが優れているか?みたいな問題がある。
いま話を簡単にするために1回の推論に要する時間はほぼ同じAとBのアーキテクチャがあり、どちらが優れているかを判断したいとする。
本当は、サチる(これ以上学習できなくなる)ところまで実際に学習させてみて、その時のaccuracy(強いソフトの棋譜の指し手を正解手としてそれとの一致率)が高いほうを見るのが手堅いのだが、サチるまで学習させる計算資源は持っていないのである。
そこで、数epoch(epochは学習量の単位)だけ学習させてみて、それでaccuracyが高いほうを見て判断する。
これはまあまあ妥当な方法ではある。学習能力が高いほうのアーキテクチャのほうが最初の数epochにおいてもaccuracyがわずかに高くなる傾向は確かにあるからだ。
しかし、その差が僅差である場合、サチるまで学習させたときは、逆転することも少なくはない。
何が言いたいかと言うと、数epochの学習結果からではサチった時にAとBでどちらが優れているかというのは正しく予測できないということである。なぜなら、最初の数epochではそんなに大きな差は開かないからである。
これは人間でも同じことが言えるわけだ。
例えば、子供にピアノを少し習わせてみて、他の子供より少し上達が早かったからと言って、じゃあ最終的にピアニストになれるかと言うと、そういう予測の仕方はあまり正確だとは言えないわけであるな。
その人の知能の上限値、スキルの上限値を予測するのに、初速はあまりアテにならない。
じゃあ、その上限値はどうやればわかるのだろうか?
将棋AIの評価関数であれば、それは上で書いたようにResNetのアーキテクチャで決まるが、人間の場合これは何に相当するのだろうか?脳の神経細胞の数なのか?シナプスの数なのか?
興味深いことに天才物理学者と言われたアインシュタインの脳の大きさや重さは、一般的な現代人となんら変わりがないらしい。その神経細胞の数も平均的な数だということだ。それに対して、アインシュタインの脳は、グリア細胞の(神経細胞に対する)比率が異常に高かったらしい。
グリア細胞は、従来、脳の隙間を埋めるノリのような存在と考えられてきたが、グリア細胞には脳内のエネルギー代謝やイオン環境を制御する機能があることが示されてきた。このグリア細胞の数は遺伝である程度決まるものの、生活環境、特に栄養状態、ストレス、脳の活動量などでも決まると言われている。
仮に、個々の人間の知能/スキルの上限値がグリア細胞の数で決まるのだとしたら、知能/スキルの上限値は遺伝で決まっていると言えるだろう。(生活環境が悪くて本来の上限値から下がるということは考えられるが、ここでは生活環境はつねにベストであるものとする。)
また、高IQ団体METIQの代表である幸田直樹さんは次のように語っている。
「知能はまず遺伝でMAX値が決まっており、何%まで育成できるか。」というのは、ここだけ読んだ人は本当かと疑いたくなるかも知れないが、上の文章を読んだあとだと腑に落ちるかも知れない。
付け加えるなら、知能/スキルは遺伝でMAX値が決まっているが、初期の学習の結果だけでは、そのMAX値がよくわからないということである。
最近、私は高IQ団体の人たちと話す機会が増えてきたのだが、高IQの人が皆、社会的に成功しているかというとどうもそうでもないようである。
例えば、高IQの人のなかには、学校でも少し勉強するだけで平均ぐらいの成績は取れてしまうので、怠け癖がついてしまい、勉強していても集中力が続かず、偏差値が50ぐらいの大学を出て、ヒキニートみたいな生活を送っている人もいる。
生まれ持った知能/スキルの上限値だけが高くとも、MAXまで持っていかないとその(優秀な遺伝子による)良さが発揮できないと理解している人は、勉強熱心で医者や弁護士になっていたりするのだが。
私は、高IQの人たちは前者のタイプと後者のタイプの人との二極化みたいなのが進んでいるような印象を受けた。
(努力した才能のない人に負けるのはもったいない&悔しいので、そういう思いをしたくないなら)優れた遺伝子を持って生まれたのなら、MAXまで持っていく努力をすべきだと思うし、逆に優れた遺伝子を持って生まれていなくとも、努力さえすれば、努力していない高IQの人よりは社会的に成功できる可能性は高いと思う。
私も将棋AIのブログにこんな駄文を垂れ流してないで努力しような、ということで、この文章を終えたい。
こんな簡単なことでお金をもらっちゃっていいの?って考えからお金をもらうことに罪悪感が生まれて収入につながらなくなるアレだw
(高IQだと)簡単に知識が得られることに罪悪感を感じる説。
そうですか。ブログの更新を待ちわびてました。
将棋AI開発者によって、将棋ジャーナリズムのいい加減さが暴露されたのは偉大な功績と思います。羽生マジックとは何だったのか…。
ど、、どういうことでしょう?
私はインチキくさい啓発本に騙されやすく、東大いくほうがバカという米長語録を信じてました。
棋士がAIに負けたのは一大事件。
私にとって将棋AI開発者は認知の歪みを正してくれた恩人です。
http://blog.livedoor.jp/rokkoumaster/archives/850141.html 羽生さんの悪口ばかりで恐縮ですがこの日月神示というのがすこぶるカルトっぽいようです。
サチった時の最終到達点を初速だけで予測するのは難しいかもしれませんが、初期段階で複数回計測すれば、予測式の体温計のように、実用レベルの予測が可能だったりはしないものでしょうか…?
元々がわずかな差だとすると、見極めるのも難しいですかね…?
わずかなアーキテクチャの違いのあるA,Bに対して、数epoch学習時にaccuracy高かったほうが最後で逆転負けするケースがわりとあるです。数epoch時の計測上の誤差が原因なのではなく、数epochでは将来的な可能性まで評価できてないんでしょうね…。
昔聞いた話で、知能が高いほうが神経回路がシンプルらしいです
https://x.com/yuji_ikegaya/status/996517064884932608
無駄な神経回路を削ぎ落とさないと思考が拡散してしまうのですかね…。
高IQ団体の試験ってマトリックス問題だけど、あれってサチを検出なんてできないからそもそもそれって高IQ団体なんですか?っていう疑問が。
俺はレーブンマトリックスを解ける。そしてあれはサチを検出できてるはずに違いない。だから高IQなんだ。うぉおおおおおおって言われても、さいでっかとしかならんのだけど。
確かにまれに頭いい人いるけど、頭いいのは社会不適合者のみだしなあってなってなんともって感じ。
もしも計測可能な理由を記事に書いてもらえると助かるかも。個人的にmensaもmeticも宗教団体のイメージしかないから。
サチを検出できるなら見る目変わるので、助かります。偏見はよくないし。
レーブンマトリックスで知能が計測できるとする場合、考えれる解釈って
1、ハードが強く、全てのジャンルで強い。あれは脳のハードを測れるという解釈
2、マトリックスが解けるようになる初速が早い人間はすべてにおいて初速が速いという解釈
3、レーブンマトリックスはすごく難しい。だからサチを計測可能なのだっていう妄想。
この三択になるんだけど、
1はない。実際やらせればわかるけど、何やらせてもIQ通りの成績は出せない。例えば将棋をやらせたり、プログラミングをやらせても、IQ通りの成績にはならんね。
2もない。マトリックスが解けるイコール頭いいってなんやねん。マトリックスのみ速いなら意味ないやろ。将棋が強いから頭がいいと変わらん。ただのバカ。
3もない。何であれでサチ計測できんねん。誰でも覚えられるし解けます。事前勉強しちゃダメってなってる時点でサチ計測なんてできない。プログラミングのほうがまだむずいわ。くたばれ。
結局マトリックスが得意なだけな人が俺はすごいんだーうおおおおーっていうためだけの団体ってイメージ。偏見なんで間違ってたら正してもらえると助かります。
ほんとに頭よかったら失礼だし。
RPM(レーヴン漸進的マトリックス)にせよ、WAISにせよ、IQテストはごくごく狭い範囲の知能を測ってるだけではあるんですけど、まあ、他に知能を計測する手段がいまのところないので仕方ないですな…。
手段がないから仕方がないではなく、何も計測していないってことが言いたかった感じですね。
結局レーブンで計測してると言ってる狭い範囲の知能を測るという主張は、詰め将棋でもプログラミングでも成り立つわけです。
あれらも極めて狭い領域の知能の測定手段にはなるので。なのにレーブンにこだわるところが残念だよねーってことが言いたかった感じですね。プログラミングや詰め将棋ができるから頭がいいと言ってること変わらんし。レーブンでなければならない理由ってないんだよね。
レーブンの初速が速いとすべてのジャンルで初速が速くなるってんなら特に問題ないんですが、そういう人稀ですし。
皆あれにどんな幻想を抱いてるのかと不思議な気持ちになります。
waisは145あたりから、若干サチ計測できてんのかもなーって気はしますが。まあデータしっかりとれば気のせいで終わりそうですが。
でもしよければ、高IQ者はどの辺が頭よかったのか書いてもらえると助かります。
どっかミスっててもあれだし頭いいなら興味ありますし。
> 結局レーブンで計測してると言ってる狭い範囲の知能を測るという主張は、詰め将棋でもプログラミングでも成り立つわけです。
詰将棋とプログラミングは問題が既知ですでにかなりのトレーニングをしている人が存在しているので、RPMやWAISと違って、非常に不公平になります。
(RPMやWAISも、その類題が任天堂DSの脳トレなどで存在しているじゃないかと言われるとまあそうなんですけども..)
IQ130ってクラスで一番優秀ですべての事柄で初速が速い人になるけど、頭もよくて、運動もできて、パズルもできて、会話も得意でってようなやつ、わざわざ計測し無くてもわかるでしょ。それ計測価値あるか?ってことが言いたかった感じですね。
それに既知ではないとは言いますが、マトリックス問題は図面回転がすべてだから、イラスト、将棋(図面をイメージして駒を動かすため)、プログラミングや数学系の人は既知とは言ってもいい問題な気がするので、それで正確な計測と言われましてもって気がします。だからこそ俺スゲーって言いたい人しかはまんないのではってことになるので。
まあ宗教の違いといわれちゃえばあれですが。
> マトリックス問題は図面回転がすべてだから
本家RPMにすら数的推理とか論理演算を要求する問題がありますのでその認識は誤りです。
RPMでは、情報系の人や数学得意な人は高いスコアが出やすいということでしたら、それは正しいです。
waisでサチ計測って表現だとちょっと違うか。とってる人眺めると確かに優秀そうなのいるなあって感じ。
145だとクイズノックで川村とかふくらとか入ってきてるのと、ほかのそうでもなさそうな人が入ってきてないので、ある程度優秀そうなの計測できてそうだなあって気にはなります。まあどうせ気のせいでしょうが。ビッグデータになればどうでもいい奴はいってきそうですし。
長々失礼しました。
藤井聡太さんや羽生さんの両親が将棋つよつよだったかというと・・・・
ずいぶん昔ですが、神経細胞が減少するのと並行してグリア細胞何増殖する(グリオーシス)のは、老人の脳では一般的なのに、当時解剖した研究者に知見がなかっただけってのを読んだ記憶。昔すぎて今はまた異なるかもですが
【速報】今回は機械学習の人がノーベル賞受賞する模様
ということは、次回はやねうらおさんがノーベル賞受賞か!
https://pbs.twimg.com/media/GX0kDoZbkAAGfyb.jpg
Noam Brownによると
パラメーターまたは読む量を2倍にすると120elo強くなる
これは体感にかなり近い
評価のパラメーターを2倍で+120elo 勝率68%
つまり1200elo強いと1024倍のパラメーター=知能といえる
将棋は人の1024倍以上の知能を体験している事になる
人間の1024倍速く考えられるものを「1024倍の知能」と呼んでいいのかはわかりませんが、面白い表現だと思います。
プロ入り年齢で棋士の最盛期の大体の強さが決まっちゃうのはなんでなんだろう。