松尾・岩澤研究室では,「知能を創る」というミッションのもと、世界モデルをはじめとした深層学習やそれを超える基礎技術の開発、ロボティクスや大規模言語モデル、アルゴリズムの社会実証といった幅広い研究領域で活動しています。
こうした活動を更に拡大するため、リサーチインターンシップを開催し、15名の方にご参加いただきました。
▼リサーチインターンシップ概要
https://weblab.t.u-tokyo.ac.jp/news/20240417/
▼インターンテーマ/メンターの紹介記事
https://weblab.t.u-tokyo.ac.jp/news/20240426/
本記事では、リサーチインターンに参加いただいたメンバーの体験記をご紹介します。
- 自己紹介/self-introduction
沖縄科学技術大学院大学(OIST)一貫性博士3年、神経計算ユニット所属の山内直寛と申します。普段は青い海を眺めながら、マウスを実験動物として用いた生理学的および行動学的実験を行い、そのデータの解析や、それを説明するモデルの構築を進めています。OISTの学際的な環境を生かし、分子・細胞生物学、神経科学、情報科学を幅広く学習してきたバックグラウンドをもとに、脳のシステムとしての理解に貢献したいと考え、日々研究に励んでいます。
松尾・岩澤研究室の脳チームが取り組んでいる、脳のアーキテクチャを模倣して汎用人工知能の作成を目指す工学的アプローチは、脳の解剖学的構造の計算論的意義を実験で明らかにする理学的アプローチと相補的であり、大変魅力的に感じました。また、これまで実験系の神経科学研究室に所属してきた私にとって、今回のリサーチインターンは情報系の研究室で研究できる貴重な機会であり、応募を決めました。
東京大学は私が学位を取得した母校であり、新たな研究のスタート地点であると同時に、私が研究を始めた原点でもあります。今回のリサーチインターンを通して、これまでの研究を改めて振り返るとともに、再び動機付けることができたことに大変感謝しています。
- 研究内容/About research
脳参照型人工知能開発とは、脳の解剖学的構造を参考にし、ヒトのように幅広い知的タスクを柔軟にこなせる汎用人工知能を創出するアプローチです。ChatGPTなどの大規模言語モデルに代表されるディープラーニング技術は、様々なタスクでヒトを超える性能を達成しているものの、現時点では汎用人工知能の実現には至っていません。しかし、脳参照型人工知能開発は、モデルの設計空間を制限することで、汎用人工知能の実現に近づく可能性があります。また、AIアラインメントの観点からも、脳参照型人工知能は解釈可能性が高く、ヒトの価値観を理解して、汎用人工知能とヒトをつなぐ架け橋になる可能性があるため、価値があると考えています。
本インターンプロジェクトでは、脳のモデル化、特に大脳皮質に存在する「標準的な皮質微小回路(CCMs)」に焦点を当て、動的ベイズ推論のシミュレーションを目指しました。大脳皮質の6層構造であるCCMsは、感覚、運動、認知推論、意思決定などを担う皮質全体に保存されており、ヒトの知能にとって重要な大脳新皮質の計算ユニットとして機能すると考えられています。
CCMsの計算論的機能に関しては、様々な仮説的モデルが提唱されていますが、CCMsに関する構造的な記述は粗いか、不正確なものが多く存在していました。また、既存の神経科学におけるCCMsのシミュレーション研究では、それによって達成される機能が明確ではありませんでした。
本研究の目的は、CCMsの詳細な構造に基づいた認知推論モデルを構築し、それを動的ベイズ推論によってシミュレーションすることです。脳参照型開発では、まず着目する神経回路の解剖学的データを集め、次にその解剖学的データに合致する計算機能を提案します。今回は、最上位の機能として、既存の多くの研究でも扱われている認知推論を対象とし、CCMsに実装されうるアルゴリズムとして、ノイズの多い観測から背後にある状態を逐次的に推定する動的ベイズ推論の枠組みを選択しました。集めたCCMsの解剖学的データに合致する情報のやりとりにより、動的ベイズ推論を達成するモデル構造を考案しました。特に、CCMsの主要な興奮性神経の細胞集団すべてに計算論的な機能を持たせた点に意義があると考えています。
提唱したモデル構造と一致するCCMsのシミュレーションモデルを作成するために、本インターンの範囲では、動的ベイズ推論の変数と、既存のCCMsのスパイキングニューラルネットワークの層活動の比較を行いました。これにより、既存のCCMsシミュレーションでは、どの層活動も主に観察情報を表象していて似通っていることが分かり、ベイズ推論を達成するためには改良が必要であることが確認されました。実際に、モデル構造と一致したシミュレーションによって動的ベイズ推論を達成することは今後の課題です。
本研究では、CCMsの解剖学的構造に基づく認知推論モデルを構築し、BRAデータとしての記述を完成させました。この研究をさらに発展させることで、CCMsの機能に関する包括的な理解に貢献できると考えています。
- 最後に/Closing
メンターの山川先生、田和辻先生には、週2回程度、オンサイトとオンライン半々で2時間程度のミーティングを設定していただきました。多くのインターンプロジェクトがコーディングをメインとしている中で、私は文献調査や仮説モデルの提唱を中心にインターンを進めました。活動内容も影響しているかもしれませんが、このスタイルで進められたことは、進捗を適切に管理していただきながら、提唱した仮説の妥当性について深く議論できた点で良かったと感じています。
インターン期間中には、バーベキューや夏のICML連続輪読会、最終成果発表会とその後の懇親会などのイベントに参加させていただきました。特にバーベキューや懇親会では、スタッフの方々、松尾研究室の学生、他のインターン生と研究内容や研究生活について幅広く議論する機会があり、懇親を深めるとともに、今後にもつながる関係を構築できたのではないかと感じています。
松尾研究室は、スタッフの方々による研究サポート体制が充実していると共に、それぞれが自身の興味に真摯に向き合い、幅広い研究を進めているという印象を受けました。
最後になりますが、本研究インターンにおいてご指導いただいたメンターの山川先生、田和辻先生、ディスカッションをしていただいた鈴木雄大さん、そして多方面でサポートしてくださった松尾-岩澤研究室の皆様に深く感謝申し上げます。ありがとうございました。
いかがでしたでしょうか?
松尾研では研究員を積極的に募集しております。気になる方は下記をご覧ください!
https://weblab.t.u-tokyo.ac.jp/joinus/career/