「視野を広げ、長期的な研究に打ち込める。」常に変化を続ける、松尾研での9年間。

Sorry, this entry is only available in Japanese. For the sake of viewer convenience, the content is shown below in the alternative language. You may click the link to switch the active language. 今回ご紹介するのは、岩澤 有祐さんです。 岩澤さんは博士課程より松尾研に在籍し、特任研究員・特任助教・特任講師を経て、2022年より講師として研究活動を行っています。本記事では松尾研での在籍歴9年目となる岩澤さんに、研究内容や松尾研の魅力についてお伺いしました。   個人の研究から、エンジニアリングチームとの協働による大規模な研究まで幅広く推進。 ー松尾研ではどのような業務・研究をしていますか? 業務内容と言う意味で言えば、いわゆるアカデミアの業務としてイメージされることと大きくは変わらないと思います。研究を中心に、教育、学生指導なども行っています。ただ、研究と一口に言っても、個人のモチベーションベースで進めるようなものもあれば、よりトップダウンの研究プロジェクト、エンジニアリングチームと連携して進めるものなど様々なタイプの研究があります。 最近の個人的な研究としては、どうすれば大規模なモデルを効率的に新しいタスクで活用できるか?ということを中心に活動しています。機械学習の研究領域で言えば、転移学習・メタ学習・分布外汎化と呼ばれるような研究領域になります。特に最近は、非常に大規模なモデルの有効性が様々な領域で示されている流れを踏まえ、大規模なモデルであっても効率的に未知の環境やタスクに対して効率的に適応するための技術(Test-Time AdaptationやPrompting)に関する研究を行っています。 また、個人や数人での研究だけでなく、エンジニアリングチームと連携しつつ、チームで行っている研究もあります。 GAFAなどの組織が学習の研究を牽引している要因としては、良い研究者が集まっていることと共に、大規模な実験ができる体制が整っていることが挙げられます。インパクトのある研究を推進するためには、研究の下準備としてのデータ収集を始めとする、アルゴリズムアイデアの検討だけでは太刀打ちできない部分の検討が必要です。 勿論巨大企業の規模感には及びませんが、同じようなスキームを用いて個人では実現しづらい大規模な研究を推進できており、また、こうした研究を研究者自身が起案しリードできることは恵まれた環境と感じています。 参考) シリコンバレーに並ぶエコシステムの実現に向けて 代表松尾豊インタビュー(前編) 松尾研基礎研究にかける思い 代表松尾豊インタビュー(後編)     ー研究以外にはどのような活動をされているのですか? 研究以外の活動として長く継続しているものとしては、Deep Learning輪読会があります。これは毎週金曜日に開催している勉強会で、Deep Learningに関する最新の論文を持ち回りで読むというものになっています。2015年から継続しているもので、もとは松尾研内部の人が中心でやっていたのですが、徐々に人が増えて今は松尾研の講義修了生を中心に様々なバックグラウンドの方が参加しています。 深層学習領域で有名なIan…

当研究室の論文が英文誌Pattern Recognition Lettersに採録されました。

当研究室の論文が英文誌Pattern Recognition Lettersに採録されました。 ■書誌情報 Bo Yang, Jianming Wu, Kazushi Ikeda, Gen Hattori, Masaru Sugano, Yusuke Iwasawa, Yutaka Matsuo. “Deep Learning Pipeline for Spotting Macro- and Micro-expressions in Long Video Sequences Based on Action Units and Optical Flow, In Press, Journal Pre-proof (Dec. 2022). https://doi.org/10.1016/j.patrec.2022.12.001 ■概要 This paper is an extension of our previously published ACM…

「世界モデル」とは何か? 知能の実現に向けて、松尾研が研究を推進する理由。

Sorry, this entry is only available in Japanese. For the sake of viewer convenience, the content is shown below in the alternative language. You may click the link to switch the active language. 松尾研では「知能を創る」というビジョンを掲げ、研究を進めています。 本記事では知能を創る上で重要な研究テーマとなる「世界モデル」について、松尾研の特任助教である鈴木雅大さんにお伺いしました。 (鈴木さんのインタビューは、前・後編の2回でお届けいたします。後編はこちら)   世界を「直感的」に理解する世界モデルは、真の知能の実現において必要不可欠。 ー「世界モデル」の説明をお聞きする前に、なぜ松尾研は「世界モデル」の研究を推進しているかを教えてください。 松尾研では「知能を創る」というビジョンを掲げており、世界モデルが真の知能の実現において必要不可欠だからです。 世界モデルについては後ほど詳しくご説明しますが、「外界(世界)から得られる観測情報に基づき外界の構造を学習によって獲得するモデル」を指します。 我々は、世界モデルが知能のベースにあって、その上に様々な知的な機能が実現できると考えています。 これは松尾先生が使っていた言葉ですが、世界モデルは「子供の知能」にあたります。 つまり、親から教えられなくても、外界と相互作用して世界がどういうものかを「直感的」に理解するのです。 これができて、ようやく我々のような「大人の知能」、すなわち数学の問題を解いたり片付けをしたりといった高度な知的行動を実現する人工知能を作り始めることができます。 これまでの知能研究を振り返ると、古典的な人工知能(古き良き人工知能(Good Old Fashioned AI;GOFAI)とも言われます)では、 最初から探索や推論といった高度な「大人の知能(賢い知能)」を実現しようとしていました。 それがなぜ失敗したかというと、これらの知能が「世界」について「無知」だったからです。 そのため、計算機上では非常にうまくいったアルゴリズムも、現実環境では全く動かないということがよくありました。 計算機上だけで動く知能でよければこれで十分かもしれませんが、我々の現実世界で動作し、我々をサポートしてくれるような人工知能を実現するためには、 まず世界について自分なりに理解する、すなわち世界モデルを獲得する必要があるのです。  …

知能の実現に本気で挑む。多角的な視点を有する、松尾研の研究環境とは?

Sorry, this entry is only available in Japanese. For the sake of viewer convenience, the content is shown below in the alternative language. You may click the link to switch the active language. 松尾研では「知能を創る」というビジョンを掲げ、研究を進めています。 前半では、知能を創る上で重要な研究テーマとなる「世界モデル」についてお伝えしました。後半である本記事では、松尾研の特任助教である鈴木雅大さんに、松尾研の研究環境やご自身の思いについてお伺いしました。(鈴木さんのインタビューは、前・後編の2回でお届けいたします。前編はこちら)     <知能を創る>という答えのない問い。多様な意見が議論の発展を促す。 ー 実際の研究環境についてお伺いしたいのですが、研究を推進する上での松尾研らしさとは何ですか? 基礎研究側からみた松尾研らしさは、なんといっても「<知能を創る>という情熱」と「多様性」です。 前者に関しては、松尾先生を含め、「知能を実現するためにどうすればいいか」を自由かつ真剣に議論できるところがとても特徴的です。人工知能系の研究をやる場合は、何か解くべき課題を見つけて、それについて取り組むという形が多いので、これは松尾研らしさと言えます。 後者に関しては、同じような考え方を持った人ばかりだと多様性が生まれないので 、異なる考えを受け入れることをとても重視していると思います。「知能を創る」ことへの情熱や世界モデルに対しての考え方など、根幹で共通してはいるものの、実は細かいところでは個々の意見が異なることも多々ありますし、時に松尾先生と意見が異なることもあります。 一般的な研究室だと、教授の示す方向に合わせる形で研究するか、あるいは完全にそれぞれが別々のことを研究するかに分かれることが多いです。ですが、松尾研では色々な考え方がありつつもこれが大事だという根幹の部分が共通しているという点で、結構珍しい研究室なのではないか?と思いますね。 ーなぜ松尾研の研究環境として多様性を重視しているのでしょう? 「知能がどうすれば実現できるのか」 という問いに、現時点で確実な答えがないからです。 知能を実現するための方法はまだ誰にもわからないので、メンバーで意見が完全に一致することは多くありません。ただ、そういった異なる意見が、議論の発展を促すのです。 これは同時に、人工知能という領域全体に当てはまる部分でもあります。例えば、自然科学の領域では世界がどのようになっているのかということがこれまでの研究の蓄積でかなり解き明かされているので、それをさらに発展させて「正解」に向かって研究を進めばいいんです。 でも、人工知能の領域では、人間のような知能を実現するということを達成した人はいないので、現在研究が進んでいる方向性が正しいのかは誰にもわかりませんし、知能について様々な考え方がある中で、どれが合っているのかを現在の我々が判断することはできません(※)。 そうした意味では、権威のある人の意見が必ずしも正しいとは限らないので、年配の研究者の方が若い研究者にリスペクトを持っているなと感じることも多いです。我々も当然、他の研究者の方々にリスペクトを持って研究を進めています。そういった風土を見ると、割とリベラルでいい研究領域だなと思っていますね。 ※ 厳密には知能も自然現象の一つなので「正解」があるはずです。しかし、それを解き明かすためには他の自然科学と同様に、仮説を立ててその仮説が正しいかを検証をする必要があります。これまで知能についての様々な仮説が考えられてきましたが、検証までできているものは殆どありません。理由としては、こうした知能仮説を検証する方法がこれまでになかったからです。近年の深層学習や世界モデルの発展によって、ようやく知能を創ることで知能を知るという「構成論的アプローチ」を取ることができるようになりました。そうした意味では、知能を解き明かす試みはようやく始まったところといえます。  …

Our paper was accepted for Transactions of the Japanese Society for Artificial Intelligence : AI.

Our paper was accepted for Transactions of the Japanese Society for Artificial Intelligence : AI.   ◼︎書誌情報 張鑫,松嶋達也,松尾豊,岩澤有祐: M3IL: Multi-Modal Meta-Imitation Learning, 人工知能学会論文誌, 第38巻2号 J-STAGE(2022) ◼︎概要 Imitation Learning(IL) is anticipated to achieve intelligent robots since it allows the user to teach the various robot tasks easily.In particular, Few-Shot Imitation Learning(FSIL) aims to infer and adapt…

Our paper was accepted for New Generation Computing.

Our paper was accepted for New Generation Computing.   ■書誌情報 Takeshi Kojima, Yusuke Iwasawa, Yutaka Matsuo. “Robustifying Vision Transformer Without Retraining From Scratch Using Attention Based Test-Time Adaptation”, New generation computing. ■概要 Vision Transformer (ViT) is becoming more and more popular in the field of image processing. This study aims to improve the robustness against…

「宝くじ仮説とその発展」の受講生募集開始

Sorry, this entry is only available in Japanese. For the sake of viewer convenience, the content is shown below in the alternative language. You may click the link to switch the active language.

松尾研究室主催の公開講座  宝くじ仮説とその発展 の受講生を募集します.
詳細はWEBページをご覧ください。

 

■ 宝くじ仮説とその発展
https://deeplearning.jp/lectures/lth-2022/

Our paper was accepted for Pattern Recognition Letters

Our paper was accepted for Pattern Recognition Letters   ■書誌情報 Bo Yang, Jianming Wu, Kazushi Ikeda, Gen Hattori, Masaru Sugano, Yusuke Iwasawa, Yutaka Matsuo. “Face-mask-aware Facial Expression Recognition based on Face Parsing and Vision Transformer”, Pattern Recognition Letters, In Press, Pre-proof (2022). https://doi.org/10.1016/j.patrec.2022.11.004 ■概要 As wearing face masks is becoming an embedded practice due to the…