日本語
Sorry, this entry is only available in Japanese. For the sake of viewer convenience, the content is shown below in the alternative language.
今回ご紹介するのは、岩澤 有祐さんです。
岩澤さんは博士課程より松尾研に在籍し、特任研究員・特任助教・特任講師を経て、2022年より講師として研究活動を行っています。本記事では松尾研での在籍歴9年目となる岩澤さんに、研究内容や松尾研の魅力についてお伺いしました。
個人の研究から、エンジニアリングチームとの協働による大規模な研究まで幅広く推進。
ー松尾研ではどのような業務・研究をしていますか？
業務内容と言う意味で言えば、いわゆるアカデミアの業務としてイメージされることと大きくは変わらないと思います。研究を中心に、教育、学生指導なども行っています。ただ、研究と一口に言っても、個人のモチベーションベースで進めるようなものもあれば、よりトップダウンの研究プロジェクト、エンジニアリングチームと連携して進めるものなど様々なタイプの研究があります。
最近の個人的な研究としては、どうすれば大規模なモデルを効率的に新しいタスクで活用できるか？ということを中心に活動しています。機械学習の研究領域で言えば、転移学習・メタ学習・分布外汎化と呼ばれるような研究領域になります。特に最近は、非常に大規模なモデルの有効性が様々な領域で示されている流れを踏まえ、大規模なモデルであっても効率的に未知の環境やタスクに対して効率的に適応するための技術（Test-Time AdaptationやPrompting）に関する研究を行っています。
また、個人や数人での研究だけでなく、エンジニアリングチームと連携しつつ、チームで行っている研究もあります。
GAFAなどの組織が学習の研究を牽引している要因としては、良い研究者が集まっていることと共に、大規模な実験ができる体制が整っていることが挙げられます。インパクトのある研究を推進するためには、研究の下準備としてのデータ収集を始めとする、アルゴリズムアイデアの検討だけでは太刀打ちできない部分の検討が必要です。
勿論巨大企業の規模感には及びませんが、同じようなスキームを用いて個人では実現しづらい大規模な研究を推進できており、また、こうした研究を研究者自身が起案しリードできることは恵まれた環境と感じています。
参考）
シリコンバレーに並ぶエコシステムの実現に向けて 代表松尾豊インタビュー（前編）
松尾研基礎研究にかける思い 代表松尾豊インタビュー（後編）
ー研究以外にはどのような活動をされているのですか？
研究以外の活動として長く継続しているものとしては、Deep Learning輪読会があります。これは毎週金曜日に開催している勉強会で、Deep Learningに関する最新の論文を持ち回りで読むというものになっています。2015年から継続しているもので、もとは松尾研内部の人が中心でやっていたのですが、徐々に人が増えて今は松尾研の講義修了生を中心に様々なバックグラウンドの方が参加しています。
深層学習領域で有名なIan Goodefellow先生らが書かれた本の翻訳も、上記の輪読会での活動をきっかけに生まれました。本が出てすぐに有志での輪読会をしていたのですが、参加していた松尾先生が「版権取って翻訳したら良いのでは」と仰ったんですよね。当時私はまだ博士課程の学生で、そのスピード感にとても驚いたことを覚えています。翻訳・全体の監訳双方で関わらせて頂き、実際はとても大変だった記憶の方が多いのですが、貴重な経験だったと思います。
その他では深層学習に関する講座にも講師・運営として関わっています。学生指導も行っており、4月からは特任講師から講師に着任し、正式に学生の受け入れも行っています。
ーどのような思いで講師に着任されたのですか？
大学の中をより深く知りたかったこと、また研究室として引き受けられる学部生の枠を広げたかったという理由が大きいです。
有り難いことに、毎年多くの学生が松尾研への配属を希望してくれる一方、枠の関係上、数名しか配属できないという状況でした。
勿論所属が全てではありませんが、「深層学習、知能の研究がしたい」という意欲ある人にはできるだけ機会を作ってあげたいという想いがあります。その枠を増やせるなら、という思いで着任を決めました。
機械学習研究は、あらゆる領域への応用に繋がる重要なテーマ。
ー松尾研へのジョインの経緯を教えてください。
私の研究の出発点は、上智大学での障がい者支援に機械学習を応用する研究でした。どちらかというと応用寄りの研究領域で、車いす利用者や視覚障がい者の行動をiPhoneのようなデバイスに搭載されているセンサー利用して収集し、収集したデータを機械学習を用いて分析し、分析結果をもとに街のどこで危険な行動（転倒や衝突など）やそれにつながるヒヤリハットが起こっているのかを可視化する地図を作るというものでした。
この研究を通して、当時初めて「機械学習」に触れました。実は当時、研究室でも機械学習をやっていたのは私だけでした。データを上手く活用すると、今まで取ることができなかった方法を取れるようになると気付き、これは面白いぞと独学で学習を進めていました。2011年くらいの話なので、ニューラルネットワークや深層学習という言葉も一般にはここまで叫ばれていなかった時代ですね。
そんな中、たまたま参加した学会で元の指導教官の先生より松尾先生を紹介していただきました。よりこの技術自体を研究したいと考え、博士課程から松尾研での研究を開始しました。
ー最初から現在のテーマを研究されていた訳ではないのですね。
研究チーム全体を見ている立場上でこんなことを言っていいのかは分からないですが、私個人としては最初から「知能を創る」ということ自体に強い興味があった訳ではないんです（深層学習の技術進展を経験する中で、知能の原理というとてもチャレンジングな課題に取り組めるまたとないタイミングだと現時点では思っています）。
元々障がい者支援の研究をしていたということもあり、どちらかというと応用としてやりたいことがあって、問題を解くための道具として機械学習に興味がありました。ただ、研究を進めるうちに、学習したモデルを新しい状況（新しいユーザや他の環境）にどう適応させるかというところがコアな問題として残ってきて。また、この問題は、私が当時やっていた問題特有のものではなく、機械学習を応用する場合に至るところにあることに気づきました。
結局抽象的に見ると、どの角度から切り込んでも同じ問題に帰着すると考え、現在のメインの研究テーマである転移学習の領域へと、問題意識が絞り込まれました。
研究者へのリスペクトがある環境で、
社会への長期的な還元を見据え、基礎研究を推進。
ー岩澤さんは松尾研に関わって9年目を迎えますが、松尾研に居続ける理由はどんなところにありますか？
いろいろな理由があるので、これと１つ上げるのは難しいですが、業務内容や待遇的な意味でも心理的な意味でも基礎研究者がリスペクトされているというのも理由の１つです。忙しくないとは口が裂けても言えないですが、研究や教育など本質的に重要な部分に割けている時間が非常に多いと感じています。例えば、教育という要素１つとっても、運営には様々な労力がかかりますが、講義専任のスタッフとの分業体制がしっかりとあり、非常に効率的に進められていると感じます。
松尾研というと、最近は共同研究や起業家教育のイメージが強く、どちらかというと今すぐ社会に役に立つ応用研究を中心にやっていると思われている方も多いのではないでしょうか。勿論、実際に広い意味で社会に役立つかは重視していますが、研究が役に立つということが非常にバリューチェーンの長い話であることもよく理解している組織だと感じています。恐らく、外から見える以上に、より多様で基礎的な研究に力を入れていると思います。
あとはより業務的なところで言えば単純に、松尾先生と議論できる、何を考えているのかを近く見られるのは大きな魅力だと私は思っています。
長年近くで見ていて感じることですが、松尾先生は見ている物事のスケールが違うんですよね。研究を進めているとタコツボ化し視野が狭くなると言うのはあるあるで、気付けば特定の問題を解くための研究になっているということも少なくない印象です。これでもしっかりやれば論文業績は積めるのですが、なかなかインパクトがある成果というのは出てこないのではと思います。
その点、松尾先生はかなり高い視座、そもそも論でコメントしてくださるので、その種を起点に思考が大きく膨らむということは多々あります（理解するのに時間がかかることも正直ありますが・・）。これは他の研究者にとっても魅力に映るのではと考えます。
狭窄化しがちな視野を広げるのは、
構造そのものを生み出す根源的な問い。
ー視座の高さとは、具体的にどういうことを指すのでしょう？
研究コミュニティだけに閉じない、誰も疑わない前提を疑い、構造そのものを生み出そうとすることでしょうか。
例えば、機械学習の領域だと問題を定式化して最適化問題として解くことをやっているのですが、結局一番難しいのはその定式化なんです。良い定式化ができれば問題は解ける。という中で、普通の研究は「どうやって解ける問題設定に落とすか」あるいは言い換えれば「解ける問題設定の中で研究をどう見つけるか」というようなものが多いのではと思います。もちろんこうした研究も重要ですが、原理的に限界があります。じゃあその原理的な課題を解決する方法を生み出そうよ、という根本的な問題に立ち返ることが凄いところだと思っています。
もちろんこういった研究を実現するのは時間がかかります。かといって抽象的な話ばかりをしている訳ではなく、具体と抽象を行き来しながら思考が多層に渡っている印象です。
松尾先生の高い熱量が伝播し、大きく周囲を変えていく。
ー岩澤さんにとって、松尾先生という方はどういう方なのでしょう？
かなり教育的だなと思うことがよくあります。
教育的という言い方が正しいかわかりませんが、あれこれこうだよと教えたりはしないんです。ただ、かなり質問を投げかけてくださる。大体が自分が実は分かっていないことを聞いてくれたり、考えている視点とは違う視点での示唆を与えられることが多いなと思います。
元々イメージしていた教育って、どちらかと言うと手取り足取り教えるというものだったのですが、松尾先生と出会ったことでそれだけが教育じゃないんだなと思いましたね。
また、常に本気で挑んでいるなという印象もあります。
例えば日本に閉塞感を感じている人、何かやりたいことがある人は世の中にたくさんいると思うのですが、実際に行動に落として研究をしている人はすごく少ないと思います。でも、松尾先生が「何かをやりたい」と言っている時ってもう既に始めている時なんです。
本当にやりたいならやる方法を考えるし、実行する。言葉にすると当たり前のようにも見えますがとても凄いことだと思います。
こういった物事への本気の取り組み方には、大きな教育効果があると感じています。
ー岩澤さん自身が今後松尾研でやっていきたいことはどんなことですか？
松尾研基礎研究全体としては、「知能を工学的に実現する」というのがミッションなので、この大きな目標に向かって進めていくのが重要だと思います。もちろん非常に大きなゴールで、簡単なものではないと思いますが、深層学習の研究がこれだけ進んだ今だからこそ、チャレンジできる幅が大きいタイミングだと思っています。
重要な研究はまだいくつか残っていると思いますが、これまでの深層学習で今まで分かってきたこと、技術進展などを統一的に理解すること、またどのように統一していくかというのは一つの大きな問題だと思います。深層学習とデータの増加により適切な最適化問題に落とされた部分モジュールの学習についてはかなり進展しましたが、すでにあるモジュールとどう組み合わせるか、あるいは組み合わせるためにそもそも何の最適化問題に落とせばいいのかというのは未だ課題があると思っています。知能というのもモジュールを作ればいいというものではなく統合的なものなので、ここについての理論・実証を進める必要があると思います。
個人的には、データをどのように獲得するか、新しいデータに対して継続的に学習し続けるメカニズムというのも重要な問題だと思います。結局、深層学習のここ最近の成果が示しているのは、データ・モデル・計算量の規模の増大が大きな性能の増加を起こすと言うことですが、どのようなデータを集めればいいのかという点に関してそこまで明確な解がないのではと思っています。技術的には新しいデータを主体的に獲得する仕組みや、随時変化するデータから崩壊せずに学習し続けるということで、いくつか研究が行われている状況だと思います。また、OpenAIがGPTのAPIを公開し継続的にデータを集めて改良を続けているのと同様、ビジネス的側面からも考えることが必要だと思います。
ー最後に、未来の仲間へのメッセージをお願いいたします。
松尾研の魅力は、変化し続けるところです。実際に、自分が在籍している8年半の間にもWebを中心とした研究から深層学習研究への本格的な変化、複数の寄付講座の立ち上げ、メタバース工学部開講など様々な変化があり、組織としても大きくなりました。変化をすることはチャレンジングですが、その分チャンスも生まれます。また、バリューチェーンの長い研究を推進できる基盤が整いつつある状況だとも思います。研究でもビジネスでも、難しい問題に前向きにチャレンジできる人に是非ジョインして貰いたいです。
（自己紹介）岩澤有祐 / 東京大学松尾研究室 講師
経歴
- 2014年3月 上智大学大学院 理工学研究科 情報学専攻 修了
- 2017年3月 東京大学工学系研究科 修了
- 2017年4月〜2018年6月 東京大学工学系研究科特任研究員
- 2018年7月～2020年11月 同特任助教
- 2020年12月～2022年3月 同特任講師
- 2022年4月～現在 同講師
専門分野
- 転移学習・深層表現学習・深層学習応用
受賞歴
- Best Student Paper Award at Web Intelligence 2019，
- 人工知能学会全国大会優秀賞，人工知能学会全国大会学生奨励賞
- MIRU優秀賞など．
その他の活動
- 「Deep Learning基礎講座」，「AI経営寄付講座」「世界モデルと知能」などの講義担当
- 「深層学習」の監訳（翻訳取りまとめ）・分担翻訳
