「世界モデル」とは何か? 知能の実現に向けて、松尾研が研究を推進する理由。(前編)

Sorry, this entry is only available in Japanese. For the sake of viewer convenience, the content is shown below in the alternative language. You may click the link to switch the active language. 松尾研では「知能を創る」というビジョンを掲げ、研究を進めています。 本記事では知能を創る上で重要な研究テーマとなる「世界モデル」について、松尾研の特任助教である鈴木雅大さんにお伺いしました。 (鈴木さんのインタビューは、前・後編の2回でお届けいたします。後編はこちら)   世界を「直感的」に理解する世界モデルは、真の知能の実現において必要不可欠。 ー「世界モデル」の説明をお聞きする前に、なぜ松尾研は「世界モデル」の研究を推進しているかを教えてください。 松尾研では「知能を創る」というビジョンを掲げており、世界モデルが真の知能の実現において必要不可欠だからです。 世界モデルについては後ほど詳しくご説明しますが、「外界(世界)から得られる観測情報に基づき外界の構造を学習によって獲得するモデル」を指します。 我々は、世界モデルが知能のベースにあって、その上に様々な知的な機能が実現できると考えています。 これは松尾先生が使っていた言葉ですが、世界モデルは「子供の知能」にあたります。 つまり、親から教えられなくても、外界と相互作用して世界がどういうものかを「直感的」に理解するのです。 これができて、ようやく我々のような「大人の知能」、すなわち数学の問題を解いたり片付けをしたりといった高度な知的行動を実現する人工知能を作り始めることができます。 これまでの知能研究を振り返ると、古典的な人工知能(古き良き人工知能(Good Old Fashioned AI;GOFAI)とも言われます)では、 最初から探索や推論といった高度な「大人の知能(賢い知能)」を実現しようとしていました。 それがなぜ失敗したかというと、これらの知能が「世界」について「無知」だったからです。 そのため、計算機上では非常にうまくいったアルゴリズムも、現実環境では全く動かないということがよくありました。 計算機上だけで動く知能でよければこれで十分かもしれませんが、我々の現実世界で動作し、我々をサポートしてくれるような人工知能を実現するためには、 まず世界について自分なりに理解する、すなわち世界モデルを獲得する必要があるのです。  …

知能の実現に本気で挑む。多角的な視点を有する、松尾研の研究環境とは?(後編)

Sorry, this entry is only available in Japanese. For the sake of viewer convenience, the content is shown below in the alternative language. You may click the link to switch the active language. 松尾研では「知能を創る」というビジョンを掲げ、研究を進めています。 前半では、知能を創る上で重要な研究テーマとなる「世界モデル」についてお伝えしました。後半である本記事では、松尾研の特任助教である鈴木雅大さんに、松尾研の研究環境やご自身の思いについてお伺いしました。(鈴木さんのインタビューは、前・後編の2回でお届けいたします。前編はこちら)     <知能を創る>という答えのない問い。多様な意見が議論の発展を促す。 ー 実際の研究環境についてお伺いしたいのですが、研究を推進する上での松尾研らしさとは何ですか? 基礎研究側からみた松尾研らしさは、なんといっても「<知能を創る>という情熱」と「多様性」です。 前者に関しては、松尾先生を含め、「知能を実現するためにどうすればいいか」を自由かつ真剣に議論できるところがとても特徴的です。人工知能系の研究をやる場合は、何か解くべき課題を見つけて、それについて取り組むという形が多いので、これは松尾研らしさと言えます。 後者に関しては、同じような考え方を持った人ばかりだと多様性が生まれないので 、異なる考えを受け入れることをとても重視していると思います。「知能を創る」ことへの情熱や世界モデルに対しての考え方など、根幹で共通してはいるものの、実は細かいところでは個々の意見が異なることも多々ありますし、時に松尾先生と意見が異なることもあります。 一般的な研究室だと、教授の示す方向に合わせる形で研究するか、あるいは完全にそれぞれが別々のことを研究するかに分かれることが多いです。ですが、松尾研では色々な考え方がありつつもこれが大事だという根幹の部分が共通しているという点で、結構珍しい研究室なのではないか?と思いますね。 ーなぜ松尾研の研究環境として多様性を重視しているのでしょう? 「知能がどうすれば実現できるのか」 という問いに、現時点で確実な答えがないからです。 知能を実現するための方法はまだ誰にもわからないので、メンバーで意見が完全に一致することは多くありません。ただ、そういった異なる意見が、議論の発展を促すのです。 これは同時に、人工知能という領域全体に当てはまる部分でもあります。例えば、自然科学の領域では世界がどのようになっているのかということがこれまでの研究の蓄積でかなり解き明かされているので、それをさらに発展させて「正解」に向かって研究を進めばいいんです。 でも、人工知能の領域では、人間のような知能を実現するということを達成した人はいないので、現在研究が進んでいる方向性が正しいのかは誰にもわかりませんし、知能について様々な考え方がある中で、どれが合っているのかを現在の我々が判断することはできません(※)。 そうした意味では、権威のある人の意見が必ずしも正しいとは限らないので、年配の研究者の方が若い研究者にリスペクトを持っているなと感じることも多いです。我々も当然、他の研究者の方々にリスペクトを持って研究を進めています。そういった風土を見ると、割とリベラルでいい研究領域だなと思っていますね。 ※ 厳密には知能も自然現象の一つなので「正解」があるはずです。しかし、それを解き明かすためには他の自然科学と同様に、仮説を立ててその仮説が正しいかを検証をする必要があります。これまで知能についての様々な仮説が考えられてきましたが、検証までできているものは殆どありません。理由としては、こうした知能仮説を検証する方法がこれまでになかったからです。近年の深層学習や世界モデルの発展によって、ようやく知能を創ることで知能を知るという「構成論的アプローチ」を取ることができるようになりました。そうした意味では、知能を解き明かす試みはようやく始まったところといえます。  …

転移学習研究で汎用人工知能に挑む 特任助教熊谷さんインタビュー

過去に得た知識を応用する、「転移学習」の研究が進んでいます。
今回は、この領域を中心に研究を重ね、先日8月1日付で松尾研に特任助教として入職した熊谷 亘さんのインタビューをお届けします。
「転移学習とは、人間なら成長過程や日々の生活の中で当たり前に行っていること」と熊谷さん。少しずつ議論が進んでいる汎用型AIの中でも、なぜ転移学習に注目しているのか、話を聞きました。

問題を解く」とはどういうことか?

学部では、数学を学んでいました。その中で、「問題を解くとはどういうことか」と考えるようになり、「人間より頭のいいものをつくればいいのでは」と思ったのが、人工知能に興味を持ったきっかけです。数学に限らずですが、人間より頭のいい人工知能をつくれれば、世の中の問題を全部解けるんじゃないか、と。

当時はそのための手法もよくわからなかったので、ひとまず基礎的な方向へ進もうと、修士でも数学を専攻しました。ただ、修士から博士へと進む中でもAIへの興味は薄れず、むしろ第三次ブームの盛り上がりもあって、博士課程の後半では機械学習を集中的に勉強していました。その後、いくつかのポジションを経てAI研究を深めてきました。

松尾研に参画したのは、日本屈指のAI研究室ということはもちろんですが、汎用型AIを研究するメンバーが多く所属していることが大きいです。

AI研究では、たとえば「AlphaGo(アルファ碁)」に代表される、特化型AIの分野が先行してきました。私が主に関心を持っている汎用型AIは、まだそこまで研究が進んでいないので、その情報交換ができるのは自分にとって大きなプラスです。ほかにも各自が幅広い研究を進めているので、発展が早いAI研究領域について、最新の成果を追いやすい点も魅力です。

 

過去に得た知識を応用する「転移学習」

主に研究しているのは、大きなテーマとしては「AIの汎用性」です。中でも「転移学習」に特に興味を持って研究しています。

転移学習とは、「過去に得た知識を現在の問題に応用する方法を学ぶ」分野です。これは、人間が成長する過程で自然におこなっていることです。
たとえば、掛け算は足し算の概念を応用しています。「2×3は、2が3つあること」と考えることで、掛け算の概念をつかめますよね。人間は知識や経験を一般化、あるいは概念化して、次の機会に応用できる知恵として役立てることができます。

もし、この転移学習ができないと、人間は生きていくのがすごく難しいはずです。同じように、応用が利く汎用的なAIをつくるには、転移学習の実装が不可欠だと考えています。

さらに、転移学習の発展的分野の「継続学習」についても研究しています。
記憶に関する機能に特に注目していて、こちらも汎用的なAIにおいて重要な分野です。得た情報を血肉化して、維持するようなモデルですね。一般的には、AIは万能のように思われていますが、記憶はすごく苦手で、新しいことを学習すると前の知識をすぐ忘却してしまうんです。
学んだことを蓄え、必要なときに取り出して使うのも、人間には当たり前でもAIには難しいことのひとつです。

 

「適当に」「よしなに」への対応をアルゴリズムにするには

少なくとも人間くらいの能力があるAIをつくるために、人間の”賢くなっていくプロセス”の中でいちばん重要そうなところはどこかと考えた結果、「過去の知識を積み上げて今に活かす」ことに思い至りました。

特化型AIなら、その分野なら高難易度の問題も解けますが、基本的な知識を積み上げて応用することをAIで実現するには、まだ道筋が立っていません。「散らかった部屋を適当に片づけておいて」とか、「このメールに、よしなに返信しておいて」といった指示を理解して適切に対応するのをアルゴリズムに落とすのは、極めて難しい。

そうしたことができる、転移学習が可能な汎用的なAIをつくれるまでには、まだ3合目くらいでしょうか。先が長いですが、たとえば一昨年に松尾先生が登壇されたカンファレンス(一般社団法人新経済連盟主催「新経済サミット 2018」(NEST2018)※)で転移学習が取り上げられるなど、注目は高まっています。

※参考:Biz/Zineセミナーレポート(2018)「東大 松尾氏、楽天 森氏、ABEJA 岡田氏らが語る、“ないない尽くし”の日本で注目すべき3つのAI技術」

具体的には、各病院をまたいで診療データを学ばせることで、汎用的に使えるモデルを作成するということができるかもしれません。

使える診療データが多ければ、ディープラーニングによって、一定の疾病を推測して診断するモデルの構築は可能です。ただ個別の病院だとデータ量が足りず、プライバシーの問題があるので病院をまたいだデータの持ち出しはできません。また、各病院も高齢者が多かったり小児科中心だったり、都心か地域かなどによっても患者さんにばらつきがあります。

そうした揺らぎの許容を含めて、各病院からデータは持ち出さずに知見だけを得て、次の病院に行くことを繰り返してだんだん賢くなる……というAIを転移学習で可能になると考えています。
考えてみれば、研修医が各病院で経験を積む過程もデータは持ち出さないので、転移学習をしているわけですよね。過去の例を信じすぎない、という点も重要だったりします。

 

知識や記憶を応用できるAIの構築に向けて

今後は、汎用的なAIに関する基礎理論を、より強固にしていきたいです。現在は汎用AIの構築に向けたさまざまな手法やアーキテクチャが提案されていますが、理論的に「なぜそれが知的に振舞うのか」「そもそも知性とは何か」といった部分の議論がまだ十分ではないと感じています。

「知性とは」という問いは、哲学的に議論する方向もありますし、個人的には興味がありますが、研究としては工学的に捉えて掘り下げていきます。「汎用的なAIを実際にプログラムして構築する」ために必要な要素を抽出して、工学的に再現することを目指します。

最近では「汎用人工知能研究会」が活性化したり、専門書の出版が相次いだりしています。人間のような知能や知性を持って応用が利くAI、というと、以前は夢物語のような印象を持たれていましたが、具体的な議論が進んできました。その流れの中で、転移学習や継続学習を深めていきたいです。

 

若手研究者やAI研究に興味がある学生へメッセージ

AI研究が扱う領域はとても広く、どんなバックグラウンドの方もやる気次第でまだまだ研究できる余地があります。私も博士課程までは異なる分野にいたので、今からも遅くありません。興味がある方は、ぜひ飛び込んでみてください。

【プロフィール】
熊谷 亘(くまがい・わたる)
学部と修士課程では数学を専攻。2013年 東北大学大学院 情報科学研究科 博士課程修了。名古屋大学 学振PD、神奈川大学 工学部 特任助教、理化学研究所 革新知能統合研究センターの研究員を経て、2020年8月に松尾研に特任助教として参画。