祝・甘利俊一先生　京都賞受賞

甘利俊一先生が京都賞を受賞されたとのニュースが飛び込んできました。おめでとうございます！

甘利先生は、私ごときが解説するのも僭越ですが、計算論的神経科学の先駆者として、世界中で尊敬されている研究者です。

1996年に東京大学教授を定年退官された後、故・伊藤正男所長と共に、理化学研究所脳科学総合研究センターの創立メンバーとして参画され、2003～2008年には、同センターのセンター長を務められましたので、その間、大変お世話になりました。

私は甘利先生のご業績を門前の小僧として学んでは来ましたが、詳しく説明できるほど、この領域の研究を理解できている訳ではなく、説明するのに適当な人間ではありません。

私のような専門外の人間が、甘利先生のご業績を理解するのは、容易ではありませんが、ありがたいことに、先日、ブルーバックス「脳・心・人工知能　数理で脳を解き明かす」の増補改訂版が出版されました。

読んでいただければすぐに気づくと思いますが、甘利先生の文章は、わかりやすい上に格調が高い名文です。脳の話をするのに、ビッグバンから語り起こすという、実にスケールの大きな本です。

前版が出版された2016年には全く想像もしなかったほど、この10年で大規模言語モデルを中心とするAIが身近になりましたので、その進歩を取り入れて増補改訂してくださったのは、誠にありがたい限りです。例えば、大規模言語モデルの第一段階の単語のベクトル化について。

単語をベクトル化すると、

「東京」−「日本」＋「フランス」＝「パリ」

になる、と言われると、それだけで分かったような気がするではありませんか。

甘利先生のご研究の一端に触れるには、先生ご自身が書いてくださったこの本を読むのが一番でしょう。この領域の創始者の一人である甘利先生ご自身がわかりやすく説明してくださるというのは、本当にありがたいことですので、この本の紹介を兼ねて、甘利先生のことを書いてみたいと思います。

1958年に、Rosenblattが、ニューロンをモデル化した、パーセプトロンを提唱しました。これは神経細胞が発火すれば1、発火しなければ０とし、最も単純な場合、入力層、中間層、出力層の3層だけですが、これでもある程度の学習ができてしまいます。

ただし、これでは複雑な計算はできません。中間層の神経細胞が、0と1の2つの状態しかとれないと、学習がうまく進まないのです。そこで、甘利先生は、各素子の発火確率を0と1の間で変化させることにより、パラメータを最適化する方法を編み出し、1967年に提案されました。（なお、なぜ神経細胞の発火を0と1の中間に設定できるのかについても、最初の方でちゃんと説明されています。）　これが確率勾配降下法です。これにより、多層パーセプトロンは、効率的に学習することができるようになりました。甘利先生が最初に書いた英語論文がこれだと、本で初めて知りました。第一作の論文が世界を変えるだけのパワーを持っていたとは、凄すぎます。

この確率勾配降下法を知らずに再発見し、原理は同じなのですが、逆誤差伝播、という新たな解釈を与えたのがHinton氏です。

2022年11月にChatGPTが登場し、2023年がAI元年のようになり、この短い間に、もはやAIなしには仕事はできないという位に浸透していますが、ディープラーニングを用いたAIツールの基礎となったのは、こうした業績なのです。

2024年のノーベル物理学賞は、機械学習を可能にした人工神経回路の基礎、ということで、Hopfield氏とHinton氏が受賞しました。（この年は、ノーベル化学賞も、AIを用いてタンパク質構造予測を行うAlphaFold2の開発により、ディープマインド社の研究者に与えられました。）　

前述の通り、Hinton氏が1986年に発表した逆誤差伝播（バックプロパゲーション）は、確率勾配降下法と同じ原理です。しかも、Hopfield氏の脳のモデルも、甘利先生がそれよりずっと前に提案していたものと同じであるため、HopfieldとAmariのモデルと呼ばれているのです。考えれば考えるほど、本当は甘利先生にも授賞されてよかったと残念に思います。Hinton氏による逆誤差伝搬という解釈によって、より少ない計算量で計算できるようになったことが、現在のディープラーニングの隆盛につながったということで、実用性を重視するノーベル賞の性質から、このようなことになってしまったのかも知れません。その視点では、科学の発展を讃える京都賞が、甘利先生の単独受賞となったことは、納得のいくものです。（卑近な話で恐縮ですが、ノーベル賞の賞金を2人で分けるより、京都賞を単独で受賞した方が賞金が多いので、これで一件落着、という感じがします。）

また、甘利先生は、情報幾何学の創始者でもあります。この情報幾何学については、私もどんなものなのか、全く理解できていませんでしたが、今回、ブルーバックス「脳・心・人工知能　数理で脳を解き明かす」の増補改訂により、情報幾何学の一端を知ることができましたので、興味のある方はぜひ本書をご覧いただきたいと思います。

この本では、脳とは何かをコンパクトに解説した第二章だけでも、脳とはどんなものか、だいたい理解することができ、この脳の知識を土台として、計算論的神経科学がどのように生まれ、どこへ向かおうとしているのかを概観することができます。