こんな名文が話題になっていたようで。
非常に面白い文章で、特に以下の下りは痛快だなと感心しながら読んでました。
2006 年頃、「現在の人工知能研究の先には新興宗教にはまる計算機が出てくる」というネタを思いついたが、知人の反応が悪かったのでお蔵入りした。それから 10 年近くたったが状態に変化はない。人間を超える知能という楽観的な妄想がどこから来るのか不思議で仕方がない。
同じような光景を以前見たことがあるなぁと思い出したので、その時のことを回想しながら現在の「人工知能ブーム」ないし「人工知能に対する楽観的な妄想」についてちょっと思うところを書いてみました。
なお、僕自身は人工知能というか機械学習の専門家ではなくどちらかというとそれらのアルゴリズムのユーザーという立場なので、その立場から主に世論の動きについて論じてみましたという立ち位置です。
人工知能そしてsingularityという「夢」
実際の「機械学習」「パターン認識」と、持て囃されつつある「人工知能」との差異についてはリンク先の文章が仔細に語ってくれているのでここでは長々とは書きませんが、端的に言えば「世間の人々の考える『人工知能』は専門家が今現在手掛けている『人工知能』とは全くの別物」だということかと。
singularity 業界は人工知能の現状を知らない。そもそも、人工知能は何ができて何ができないかという現状認識について、研究者と世の中の間で大きな断絶がある。大きなニュースが続いた結果、実態を伴わない期待が膨れ上がっている。日本でも、人工知能業界の有名研究者が一般紙に出て、期待を煽り立てている (ように見える)。日経新聞でも読んでそうな、決定権を持っている人たちを動かそうという意図を感じる。そうやって、研究コミュニティを護送船団的に守ろうとしているように見える。その一方で、同じ研究者が、別の機会には、人工知能にまつわる誤解をとこうと奮闘していたりする。自分で煽り立てながら火消しもする、因果な商売である。
以前にもどこかで書いた気がしますが、2015年現在の「人工知能」というか機械学習は、ヒトの手を借りない限り「前処理」すら出来ません。一方でヒトは前処理すらせずに推論を行い、意思決定し行動を起こすことが出来る。そして前処理なしに推論を立てて行動を起こすだけならサルというか霊長類一般に出来ることであり、他の哺乳類の中にもそれが可能な動物（例えばイルカやクジラなど）もいます。そんな当たり前のことを忘れて、人工知能が今にも人間を滅ぼすかのように騒ぎ立てるのは何かがおかしいなといつも思ってます。
しかしそれでも世の中の人々というか、企業やメディアは人工知能に過剰な期待を寄せるわけです。何故でしょうか？ 日本では一般には鉄腕アトムやドラえもんに代表されるような、知性を持つヒューマノイドへの「憧れ」のような期待感が根強く抱かれていると言われますが、案外そんなものなのかもしれません。これはどちらかというとsingularity（シンギュラリティ）*1待望論ですね。
一方で、例えばイーロン・マスクやスティーブン・ホーキングと言った人々が「人工知能」そしてsingularityへの批判や警戒を口にする背景には、やはりアイザック・アシモフのロボット三原則や映画『ターミネーター』のような「完全に自我を持ち自己再生産が可能な人工知能が引き起こす人類に対するカタストロフ」みたいなものへの根強い恐怖感があるのかなぁとも思うわけですが、どうなんでしょうか。
どちらの立場であっても、「今のペースで行けば遠くない将来に人工知能は自己再生産可能になりヒトを凌駕する」という極端に（人工知能の進歩に対して）楽観的な展望に基づいているという意味では同じなわけで、これってどうなのかなぁと思うわけです。
その象徴として例えばDeep Learningであるとか、Convolutional NNであるとか、word2vecであるとか、様々な専門用語が「人工知能の足掛かりとなり得る」としてバズワード化し、メディアと世間によって消費し尽くされるわけです。挙句の果てに「Deep Learningは人間の脳を模倣した素晴らしい人工知能」という主張も出てくるという。実際にはDeep Learningは本物の脳と異なり、例えば他領野からのフィードフォワード・フィードバック投射も受けず、水平結合にも乏しく、thalamusからの投射に由来するベースライン変動の影響も受けず、さらには初期感覚経路からのバイパス投射も受けないわけで、どうコメントしたらいいか迷う感じですが。
もちろん、現在の「人工知能」というか「機械学習」「パターン認識」は例えば『ターミネーター』のスカイネットのように「自我」を持つわけでも何でもありません。そこにあるのは、たとえDeep Learningであったとしても、与えられたデータの下で何かしらの制約つき最適化問題を解き、問題の目的に沿った出力を返すだけの代物です*2。
また皮肉なことに多くの世間の人々が「人工知能」として称揚するものの中身の多くが、実はただのロジスティック回帰やSVMやランダムフォレストだったり、もしくはそれらを分類器として最終段に持っているだけのただの自然言語処理フレームワークだったりするんですよね*3。昨年のNYCでのKDDでも、ビッグデータをいかにして適切に前処理して適切な最適化問題に集約するかに注力した研究が多く、実際の分類器はそれこそ上記3つの既存手法から好きに選べみたいなケースが目立ったわけで。それは「singularityの可能性・危険性を伴う人工知能」には程遠い、ごくごく普通の「機械学習」システムでしかありません。
それでもなお、世間の人々の待望論であれ警戒論であれ、「人工知能」「singularity」という夢の実現を渇望する声に後押しされ、どんどん「機械学習」「パターン認識」が「人工知能」へとすり替えられ、バズワードとしてメディアと企業と世間の人々によって大量消費されていく、というのが現状だと理解しています。
脳研究もかつて同じ道をたどった
ところで、僕は似たような光景を以前も見たことがあります。それは脳研究（脳科学）の在りし日の姿です。
(from Wikimedia Commons)
かつて、日本でも「脳の世紀」とうたって多額の政府予算がつぎ込まれた時期がありました。その時掲げられたのが、「脳を知る」「脳を守る」「脳を創る」という3つ*4の理念。曰く、
脳は多くの画期的な発見が行われる可能性を秘めている研究対象であり、２１世紀に残された数少ない巨大フロンティアのひとつである。また、脳科学の進歩は、人間たる所以の根元である脳を知ることにつながり、脳を知ることは即ち人間を理解することにつながる。また、脳科学研究の成果は、脳の老化の防止、アルツハイマー病等脳・神経系の困難な病気の克服、脳の原理を生かしたコンピュータやロボットの開発による新技術・新産業の創出につながる。このような意味で脳科学の推進を図り、脳機能の解明を行うことは、正に人類的課題となってきている。
（「脳を知る」戦略目標より）
この理念に乗ってか乗らずか、メディアや一般世間でも脳研究に期待する声が多く挙がっていたように僕は記憶しています。脳に関連するTV番組や、あまつさえ「脳科学者」を主人公にしたドラマすら作られるという始末。まさに「脳ブーム」の到来です。
そう言えば、僕が脳の研究者を志したのは「コネクショニズム」という概念が日本で流行っていた最後の頃だったように思います。脳こそがこの地上で最も優れたコンピュータであり、脳と同じ原理かつ同じ速度で動くコンピュータを作り出せれば、革命を引き起こせる、と。当時僕がいた研究室もそこに着目した研究テーマを推進していたものです。
しかしながら、「脳を創る」という理想は簡単に崩壊したように僕には見えます。僕が博士課程に進んだ頃は折しもニューラルネットワーク限界説が一番悲惨だった頃で*5、脳機能を測定・研究する技術が発展*6するとともにニューラルネットワークでは生体の脳の複雑な構造と挙動は説明できないという認識が実験サイドで広まるようになり、モデル研究は辛い立ち位置にあったという印象が強いです*7。
その他の分野もつまるところはそこまで革命的な進歩を残せなかったという印象を個人的には持っています。何故なら、脳のことを調べれば調べるほどさらに脳の謎が深まるばかりだったからです。それどころか、ある程度以上脳のことが分かるようになると今度は実験・測定手段の限界に到達してしまい、そこにブレークスルーを生み出そうとしてもなかなか（生物物理の原理的に）突破できないということが多々あったような*8。
一方で、なかなか成果の挙がらない脳研究に業を煮やしたのか、「ゲーム脳」やら「脳トレ」やら科学的根拠の薄弱なものが多数出回るようになったのも「脳ブーム」終焉を後押ししたという印象を僕は持っています。あれから10年近く経ちましたが、ゲーム脳にせよ脳トレにせよ、何か有力な大規模疫学調査が行われてその学説や効能が正しいと証明されたという話はついぞ聞きません。特に脳トレは「高齢者には良い」とかいう話が5年ぐらい前にあった気がしますが、その後何か大規模疫学調査や介入試験とかやったんでしょうか。少なくとも、巷のメディア報道にも厚労省あたりのニュースリリースなどにも全く出てこないところを見ると、推して知るべしと思われます。
他にも、記憶に新しいところでは「キレる子供の脳の仕組みの解明」とか。これも国や世間からはものすごく期待されたテーマだったものの現場の脳研究者としてはどのようにアプローチすべきかも分からないという状況で、最終的に玉虫色のテーマになってどこかのビッグラボに押し付けられたというお話だったような。。。もちろんキレる子供の脳の仕組みなんて何がどこまで分かったのかも現在ではよく分からないです。
結局、国や世間から期待されたような成果の挙がらないプロジェクトがいくつもいくつも続いたというのが「脳ブーム」の結末。20年かけても未だに認知症予防の決定的対策も特効薬も出てこないし、難治性神経疾患の治療はどちらかというと脳研究ではなくiPS細胞などの再生医療の成果となっているし、「キレる子供」の脳の仕組みなんてついに分からなかったし、脳型コンピュータなんて作れもしなかったどころかSVMやランダムフォレストなどの機械学習が発展してしまい、ニューラルネットワークはDeep Learningによる復権が成るまで冬の時代に突き落とされることになってしまったわけです。
ただ、一応古巣たる脳研究業界の名誉のために断っておくと、この20年の間に達成された研究成果それ自体は素晴らしいものでした。20年前には想像だにされなかった脳の機能や側面がミクロ・マクロ両方のレベルで多数解明され、多くの有用な神経内分泌物質が発見され、19世紀にKajalCajalやGolgiはたまたBrocaたちが神経科学を創始して以来最も飛躍的進歩を遂げた時代だと言って良いでしょう。けれども、それらの多くは基礎研究レベルのものに留まり、その成果全てが社会に還元されるにはまだまだ遥かに程遠いという印象があります。社会に還元される前にブームが終わってしまったせいだとも言えますが。。。
最終的に「脳ブーム」が世間に残したのは、役に立つかどうかも分からない「脳エンターテインメント」と、TVに出演し専門家のふりをして根拠薄弱なことばかり語る「芸脳人」ぐらい*9。当初掲げられた崇高な理想はどこへ行ってしまったんでしょうか。
過剰な期待に応えられなかった「幻滅」の果てに
僕が見てきた「脳ブーム」の最初期と、今の「人工知能ブーム」とは非常によく似ています。いやむしろメディアとインダストリーがこぞって飛び付いている「人工知能ブーム」の方が社会を挙げての期待感を煽っているだけに、もっと危険かもしれません。
Michael Jordan や Yann LeCun もそうだが、長く研究を続けてきた人は冬の時代を経験している。過剰な期待が失望にかわり、再び予算的に干上がることを恐れている。私はもちろん護送船団を率いる立場にはない。でも、世間の誤解は私にとってもリスクではある。偉い人が誤解に基づいて予算を配分し、やりたくもないことをやらされ、その結果失望されるなんて悪夢である。
過熱する「脳ブーム」を見ながら僕が思っていたのと全く同じことを、冒頭で引用したブログ記事は述べています。特に今回の「人工知能ブーム」に関して言えば、国からの投資もさることながら、民間企業からの投資も莫大な額に上りつつあります。メディアによるブームの過熱は言うに及ばず、今や猫も杓子も人工知能の研究開発に躍起という、非常に奇妙なシチュエーションが発生しています。
けれども、世間の人々が期待しているのは「singularityに程なくして到達し得るほどのSF小説に出てくるような人工知能」であって、「莫大な種類のパラメータチューニングと果てしなく続く前処理の果てにようやくヒトが作業するよりも5%程度精度が高くなる機械学習分類器」ではないわけです*10。その見解のズレは、世間の人々が自ら機械学習とそのために必要な数学や関連分野の学術を学ぶようにならない限りは、なくならないことでしょう。
そういう過剰な期待が続いたまま、「なーんだ結局人工知能なんてただの夢だったんじゃん」と10年後いや5年後に突然世間が気付き、例えば一斉に資金を引き上げるということになったらどうなるんでしょうか。あまり考えたくない未来予想図だなと思いつつも、きっとこのいつか来た道をまた僕らはたどるのだろうなぁと。。。一応当事者の一翼を担ってはいるわけですが。なので、
結局何が言いたいかというと、人間を上回る知能を妄想する前に、まず猿、特に人間に近いゴリラやチンパンジーの知能を実現することを考えた方が良い。それを実現することが科学の大きな進歩だという認識が広がってほしい。そして、すぐに役に立たなさそうに見えても予算的に締め上げないでほしい。
仮に猿が実現できて、次に人間を実現しようとなったとき、最初にできるのは高度な知能と一般に想像されるものではないだろう。むしろ、次々と迷信を生み出すような何かのはず。人間を上回る知能なんて、そういうものが実現できてから考えれば良い。そういう基盤ができれば、科学的手続きをどうエミュレートするかといった問題に取り組めるようになって、科学哲学系の議論に実体を与えられるようになるかもしれない。
少なくとも「脳ブーム」の結末を見てきた身からすると、真の「人工知能」研究というのはかくあるべきだと思ってます。そして、現在のブームはどちらかというと「機械学習ブーム」もしくは「データ分析ブーム」に塗り替える方が本来正しいのではないかと。そのためにも今の「人工知能ブーム」にはどこかで軌道修正をかけられないものか？と考える今日この頃です。
追記
強いAIと弱いAIはジョン・サールが作った用語であり、彼は以下のように書いている。
「…強いAIによれば、コンピュータは単なる道具ではなく、正しくプログラムされたコンピュータには精神が宿るとされる」[1]
サールはコンピュータと機械を区別している。彼は強いAIに反対の立場を主にとっているが（例えば、中国語の部屋）、一方で「脳は機械であり、エネルギー転送によって意識を生じる」とも述べている[2]。
人工知能という言葉は、「人工」と「知能」の意味からいえば「強いAI」とほぼ同義と言える。しかし、初期の人工知能研究はパターン認識や自動計画といった狭い領域に集中しており、そういった研究が最終的に知能に関する真の理解をもたらすと期待されていた。このため、人工知能がそのような狭い領域（弱いAI）を指すと同時に強いAIの考え方も指すという状態になっている。強いAIを指すためのより明確な言葉として、"Synthetic Intelligence"（合成知能）を提案する者もいる[3]。
そもそもこのような「人工知能」に関する分類がある、とのことです。今回の記事でまとめた僕の考えはこの分類によく沿っているのかも、という印象を持ちました。
*1:Rのエラーメッセージで回帰の時のランク落ちもsingularityと言われるのでこの言い方何とも。。。
*2:例えば教師あり学習なら教師ラベルに対する誤差関数を立てて、これを線形制約などの条件を付けた上で正則化項などを勘案した上で最小化するパラメータの組み合わせを求めるというような按配ですね
*3:別に何かをdisってるわけではありません（笑）
*4:のちに「脳を育む」が加えられた4領域になりましたが
*5:ただしその頃もHinton先生やLeCun先生は地道な努力をされていたわけですが
*6:動物の電気生理なら単電極→多電極→optogenetics、ヒトなら脳波→fMRI→患者限定ながら多電極皮質脳波など
*7:実際ニューラルネットワーク研究をあっさりとかなぐり捨て、社会実験を含めた広汎な数理モデリング分野に転じた某ビッグラボとかあったわけで
*8:fMRIとか脳波とかはその典型例で、他にも動物実験の倫理的制約が厳しくなったことで霊長類のoptogeneticsが進めづらくなったのも大きいかも
*9:ただし知人の大先生（主要な論文2報で引用数が6000を超えるという凄いお方です）はそんな中にあってもTV出演引き受けておられますが。。。
*10:そうは言ってもヒトが作業するより5%精度が高い上にヒトと違って疲れ知らずに延々と昼夜問わず動かせるITシステムならそのメリットは大きいんですけどね
