考える達人

第2回「人間の天才は、人工知能に最後に勝てるのか?」
長沼伸一郎さん・後篇

長沼先生との対談の後篇です。話は、人間とAIの未来「シンギュラリティ」に及んでいきました。

天才vs人工知能
石川  先生はいま、どんな問題に取り組まれているんですか。
長沼  現在、人工知能が無限に発達したならば、果たして人間の天才とどっちが勝つのか、その最終的な対決を数学的に予測してみようという途方もないことをちょっと考えてまして。これは、多分世界で初めての試みだと思うんですよね。
石川  そうですよね(笑)。いったいなぜ、そんな途方もない問いを立てたんですか。
長沼  今の世界って、人工知能がさらに進化したら、もう人間は何やっても負けるんじゃないかという敗北感が高まっているように感じるんです。
 たとえば韓国は、国家的な威信をかけて、スパルタ教育で囲碁のエリートを育成していたんですよ。ところが「アルファ碁」に負けてから、囲碁の世界へ入ってくる若い人がいなくなってしまったと聞きます。
 同じことが、たぶん人間の学び全体に起きてくるんじゃないでしょうか。どうせスマホのクラウドに負けるということになると、本を読んで知識を得ること自体に意味がないと思うようになる。これは、読書離れにお墨つきを与えることになるんですよね。
 だから、自分で考える訓練を積んだ天才と、無限に発達したコンピューターとを対決させたらどっちが勝つかと。実はそこで人間が勝つ余地が数学的にあるということになれば、「人工知能絶対勝利」の予測が根底からひっくり返る。これを示すことは世界的にも求められているはずなので、やってみようと思ったんです。
石川  具体的にはどうやって証明していくんですか。
長沼  3部構成でやる予定なんですよ。第1部は、実は人工知能が数学的に限界を抱えているという話をします。
 今まで言われなかったことですが、シンギュラリティには社会的シンギュラリティと真性シンギュラリティという二種類があるんじゃないかと考えています。
 社会的シンギュラリティは、世の中の仕事の大部分がAIでできるようになって、大量失業が発生するような状態です。もう一方の真性シンギュラリティは、どんな人間の天才もコンピューターには勝てないことがわかって、人間の知性の哲学的な意義が失われてしまうことだと定義します。
 この二つは本来分けて論じるべきものなんですが、発言する人のほとんどが混同している。そうなると、読む側もただ混乱を増すばかりで、地図がよく見えなくなってしまうんです。
 だから、段階を分けて論じないといけません。さらに、それに即して、AIの限界にも2種類あるんです。一つは、物理的なハードウェアを作る限界、つまり演算速度の限界が出てしまうだろうと。
 ところが、実は数学的にアルゴリズムを組む段階で、絶対に越えられない壁が生まれてしまっているという問題がある。これこそが真性シンギュラリティの話なんです。
石川  その壁を人間の天才なら越えられる、というふうに進むわけですか。
長沼  そうです。そのためには、人間の直観力をモデル化しなければいけない。もちろん直観力についてはほとんどわかっておらず、完全なモデルも作れないんですけど、状況証拠にいちばん近いものを数学的に表現することはできるんですよ。つまり、直観力が持っている性質によく似ている数学的モデルが世の中にはあるわけですよね。それを想定したうえで、じゃあどういう法則がそこから導かれていくのかということを論証しようという話です。
 はたしてそんなモデルがあるのかと思うかもしれませんが、それ以前に人工知能に関してあまり指摘されていない重要な話があるんです。それは単純な話で、高齢の人工知能と若い人工知能を比べた場合、データの完全コピーがない場合には、高齢の人工知能が常に発想力において勝るということです。
石川   高齢の人工知能のほうが、長時間ラーニングできますからね。
長沼   そのとおりです。ところが人間は違うんですね。現実の天才たちを見ると、モーツァルトみたいに、若い時期に天才が発現する例のほうがむしろ多い。若い時期に天才性が開花して、その天才性をそのまま維持し続けるというのが天才の本質なわけです。
   ということは、AI的な直観モデルは、天才の直観力には適合しない。それは全然違うモデルなんです。

天才の直観をモデル化する
長沼  じゃあ、天才の直観にいちばん近い数学のメカニズムは何かというと、フーリエ級数という技法が数学の中にあるんです。これは、複雑な関数のグラフを、いくつかの周期的な関数の組み合わせで表す方法です。
   一つひとつの周期的な関数には、固有振動数があります。天才というのは、生まれつき、この固有振動数みたいなものがうまい形で頭に入っている人のことなんじゃないかと。
   つまり複雑な関数を解く場合、コンピューターは手間ひまかけて端っこから計算していかなければならないけれども、天才は頭の中にある四つ、五つの固有振動数の波形を組み合わせて、それと似たものをつくってしまう。
石川 いや、これはすごい。確かにそうですね。この天才が何人に1人ぐらい生まれ得るかというのが数学的に出せるかもしれないですね。
長沼  ええ。それが重要なんです。要するに今の天才じゃ解けないけども、あと何十年か待っていれば、その難問を解ける人間の天才が現れるかもしれないと。
 じゃあコンピューターと競争するとどうなるか。じつは今のAIは、問題のレベルが上がっていくと、指数関数的に手間やコストが増していくんですね。でも、天才の出現はだいたい算術的級数なんじゃないかと。今の100年に1人のレベルの天才では解けない問題も、150年か200年待っていれば、何とかなるんじゃないか。
石川  面白い! つまり、AIは連続的に進歩するが、困難のカーブもある時点で急上昇するのに対して、人間は確率的に非連続に進歩するがその困難は直線的にしか上昇しない、というイメージですかね。
長沼  そうなんですよ。だから、ある地点でAIと天才が同じレベルに達して、そのときにAIにかかる追加コストが、ほとんど垂直に上がっていくとしたら、AIはそれ以上は先に行けない。でも人間は、あと100年か200年待てば、その先を行く天才が生まれてくる可能性は十分あり得るわけですよね。そこら辺が勝敗の分かれ目になって、人間が勝つということが一応証明され得るという予想外の結論が出てくるわけなんです。

●間接的アプローチで考える
石川  論文はかなり出来上がっているんですか。
長沼  第1部はもうそろそろっていう感じですね。まず数学的、物理的な解析が一本目の柱で、その後は、モーツァルトのような音楽的天才の性質、ナポレオンのような戦略の天才に、一本目の原理を適用していく構成です。だから、原理から出発して現実への適応というところまでが、一本でつながってくるんですよ。
石川  戦略に着目したという点が面白いですね。
長沼  世界をどう動かすかという問題には、作曲の能力がいかに勝っていても、直接は無力なわけですよね。やはり外の世界に働きかけて、それを変える力において人工知能よりも勝っていることが示されないと、最終的な人間の知性の尊厳は守れないと思うんです。
 外に対して働きかける力として、科学のほかには戦略の力が、もう一つの大きなものとして残るというのが私の基本的な見方で、そうなると科学と戦略を考えれば、あとはこの二つの組み合わせで大体見ることができます。だから、この二極を押さえておくことが本質の把握になるわけです。
石川   AIとの勝負でも、戦略が重要になってくるんですね。
長沼 今まで理系の人がほとんど論じてこなかったことなんですけれど、リデル=ハートという軍事評論家が、直接的アプローチと間接的アプローチという概念を提唱したんですよね。
 たとえば、城があったら、とにかくそれを力攻めにするのが直接的アプローチです。一方、間接的アプローチは、この城を攻めても落ちないことがわかったとき、この城があることで相手はどういうメリットを得ているのかと考える。それで、城はここの街を守るために作られたんだということがわかれば、街を先に落としちゃえば、この城は存在意義がなくなっちゃうわけじゃないですか。だから、街を落とすことで、間接的に城の存在価値を失わせて勝つのが間接的アプローチという方法です。
 リデル=ハートは、昔の戦争を何百も分析して、直接的アプローチで勝ったものと、間接的アプローチで勝ったものを数え上げたんですね。そうしたら、直接的アプローチだと、ほとんど引き分けに近いものしかなかった。本当に勝ったと言える事例のほとんどは、間接的アプローチによるものだったということが明らかになっているんです。
 科学でも実は同じことが言えますよね。ある方程式が解けないと言っているときは、みんな直接的アプローチなんですね。
石川  フェルマーの最終定理なんか本当にそうですよね。直接解こうとしても解けなかった。だからちょっと回り道していくと。
長沼  そうなんです。だから、科学の世界でも、実は多大な効果をあげているケースは、間接的アプローチを使っているんですよ。
石川  ある人は城しか見えてないんだけど、別の人は街まで見えている。その違いはどこにあるんでしょうね。
長沼  直接的アプローチになっているときは、攻め方がマニュアル化されているんですね。マニュアル本どおりの経路から行くんだけど、現実はマニュアルと違うので、行ってみたら食い止められてしまう。間接的アプローチは、自分で全部調べるからできるんです。こっちの道も実は通れるんだというのは、自分で調べないとわかんないわけなんですよね。
石川  だから、試行錯誤の最中は、ものすごい非効率に思えるわけですよね。なかなか着かないし。人って、見たいものを見る傾向があるから、そうでない道を探す場合、頭の中では何が起きているんですかね。
長沼  一種の違和感だと思うんですよ。なぜみんなこっちから攻めるんだろうと。間接的アプローチを使える人は、その違和感から出発しているというのが、多くの人たちを見た感想ですね。
石川  数学とか物理の世界は、間接的アプローチで物事を解いた事例がたくさんあるのに、それがいったい何なのかはあまり整理されてこなかった気がします。
長沼  そうですね。数学の場合、体系そのものが直接的アプローチとして整備されているから、みんなそっちに乗っかってしまうんですよね。だから、よっぽど自信がないと、直接的アプローチを捨てられない。体系の効率性があだになってるっていうところはあると思います。

悲観は分析、楽観は意志
石川  いまの話もそうなんですが、長沼先生のお話や著書は、それに触れたあとに希望が残るんですよ。何か人間の力を信じているところがあると思ったんですけど、そういうことをどこか意識されてますか。
長沼  これも兵学からの影響なんですが、とにかく指揮官は楽観的でなければいけないんですね。指揮官が悲観的だと、兵士に伝染してしまう。だから、兵士がもう負けそうだと悲観的になっても、指揮官1人は絶対勝つんだと楽天的にかまえ、それをみんなに伝染させなきゃいけないというのは、統率の大原則なんですよ。
 学問の世界も同じだと思います。トップに立つ人は、どこかに楽観的な希望の部分を持っていないといけない。悲観的な結論が一時的に出て来るのはいいですよ。それは分析をちゃんとやってるということですから。でも、そのあとにちゃんと責任を持って、じゃあ、その悲観的な結論の部分を自分が何とかしますと。そうして最後に楽観的な結論に持っていって、初めて結論になると思っているんです。だから、悲観的なところで止めちゃったら、仕事を途中でやめているという意識が自分にはあります。
石川  多くの人は限界を感じると、なかなか先に進めないですよね。
長沼  たしかに人間には、自分を悲劇の主人公にしたがる性癖があります。一旦その悲劇の主人公になる快感を味わっちゃうと、どんどん中島みゆきの世界に浸ってしまう。「ノストラダムスの大予言」じゃないですけど、やっぱり悲観的な恐怖の話って、それなりに視聴率を取るんですよね。
石川  人間には、中島みゆきバイアスがあるんですね(笑)。
長沼  しかも、他人も面白がって聞いてくれるから、さらに悲観的なことを言いたくなる。
石川  シンギュラリティなんて、まさにそうですね。人類はAIに負けるという話をみんな面白がって聞いている。
長沼  でも、ダメだと思った瞬間に、アイデアって出なくなるんです。そこで楽観的なことを言うためには、精神的な体力が必要なんですね。
石川  体力があれば、短期的には負けたとしても、長い目で見ると勝てると。マラソンだということですね。
長沼  ええ。希望は見ようとしないと見えてこないものですから。悲観的な結論は分析の問題なんですよ。でも、楽観的な結論は意志の問題なんですね。