Winnyの金子勇さんが考案された機械学習アルゴリズムED法を再現して実装した人がいていま話題になっている。

『Winny』の金子勇さんの失われたED法を求めて…いたら見つかりました
https://qiita.com/kanekanekaneko/items/901ee2837401750dfdad

いまから書くことは私の記憶頼りなので間違ってたらコメント欄で教えて欲しい。

1998年ごろだと思うのだが、私はWinnyの金子勇さんのホームページの熱心な読者だった。(ページも全部保存してたので私のHDDを漁れば出てくると思うが、すぐには出せない。)

Winnyのβ版が発表されたのが2002年なのでそれよりはずいぶん前である。

当時、金子さんはNekoFightという3D格闘ゲームを公開されていた。そのゲームには、自動的に対戦から学習するAIが搭載されていた。

当時の金子さんのホームページのクローン(?)があるようだし、NekoFight本体自体もInternet Archiveからダウンロードできる。以下にリンクを掲載しておく。

金子勇 ホームページ : http://kaneko-isamu.la.coocan.jp/

NekoFight : https://web.archive.org/web/20160915154005/http://homepage1.nifty.com/kaneko/nfight24.zip

このゲームがあまりに衝撃的で、私にとってはいまでも「Winnyの金子さん」と言うよりは、「NekoFightの金子さん」である。

このNekoFightのAIに今回冒頭で挙げた記事のED(誤差拡散)法という学習法が使われている。

言うまでもなく、現代のDNN(Deep Neural Network)の学習で用いられるのはほとんどがBP(誤差逆伝播)法である。

ED法は、BP法のように後ろ(output)から前方(input方向)に逆伝播して学習させずに学習できてしまう。詳しいことは、冒頭で挙げた記事を読んで欲しい。

しかし、これはSNN(Spiking Neural Network)ではないのだろうか。私にはSNNとの違いがよくわからない。SNN自体は、ED法以前に考案されているので、ED法自体に新規性があるのかは私にはよくわからない。SNNに関しては次のサイトがよくまとまっているので参考にして欲しい。

ゼロから学ぶスパーキングニューラルネットワーク : https://snn.hirlab.net/

金子さんの話に戻ると、私は当時金子さんのホームページに足繁く通い、その日記みたいなのも読んでいた。

もっと具体的に言うと、私はWWWDと言う更新チェッカーを用いて、サイトに更新があれば5分後には駆けつけて読んでいるネット中毒患者だったわけである。

話は少し脱線するが、このWWWDの作者がニコニコ動画を三日で開発したと言う戀塚昭彦さんである。私にとって、いまでも戀塚さんは「ニコニコの開発者の戀塚さん」ではなく、「WWWDの作者の戀塚さん」なのだ。当時、WWWDの挙動がよくわからなくて、WWWDの掲示板で戀塚さんに質問して直々に教えていただいたのを覚えている。

そんなわけで、私は金子さんのホームページが更新されると5分で駆けつける非常に熱心な読者であったわけだが、金子さんの日記みたいなのがホームページの片隅から飛べて、その日記も更新されて5分後には駆けつけて読んでいた。

それで、ある日の日記によると、今回のED法を金子さんが論文として書いたが、rejectされたっぽくて、その愚痴が長々と書いてあった。(その愚痴は翌日ぐらいには消されてたように思う。記憶が不確かなので違うかも？)

まあ、金子さんは「人間の神経細胞はこうなってるんじゃないか」みたいな仮定のもとにED法を考案してるので、この仮定の部分に関しては(悪く言えば)ただの妄想に過ぎないし、BP法より性能が劣るのではどこに優位性があるのかよくわからん状態だし、それってSNNじゃね？新規性ある？(SNNはそれ以前に発表されている)みたいな状態では、rejectされるのも仕方ないのかなーと私は思うんだけど、そのへんが金子さんは納得いってない様子に見えた。(私の感じた印象です。識者の意見を聞きたいです。)

いずれにせよ、BP法は、チート性能だ。人間より遥かに少ないニューロンで人間より高い性能が出せる(ことがある)のは、このBP法のお陰だと言っても過言ではないと思う。人間の脳はBP法なんて使っていない。使わせてもらえていない。だから学習がこんなに非効率なのだ。人間が社会人になるまで平均的には20数年かかけるのも、学習が非効率すぎるからだと言えよう。