東京大学松尾・岩澤研究室 GENIACプロジェクトにおいて、大規模言語モデル「Tanuki-8×8B」を開発・公開
発表のポイント 経産省及びNEDOが進める日本国内の生成AI基盤モデル開発を推進する「GENIAC」プロジェク…
発表のポイント 経産省及びNEDOが進める日本国内の生成AI基盤モデル開発を推進する「GENIAC」プロジェク…
松尾・岩澤研究室主催の公開講座「世界モデル2024」を開講します。
受講を希望される方は下記ページを参考にしてください。
「The Lottery Ticket Hypothesis(宝くじ仮説)」で有名な、現在Databricks…
松尾・岩澤研究室では、「知能を創る」というミッションのもと、世界モデルをはじめとした深層学習やそれを超える基礎技術の開発、ロボティクスや大規模言語モデル、アルゴリズムの社会実証といった幅広い研究領域で活動しています。フルタイムの研究員の数も10名を超え(今後も継続的に増やす予定)、2023年度にはICML,ICLR,NAACL,ICRAなどのトップ会議に14本の論文が採択されています(最近の採択論文一覧はこちら)
こうした活動を更に拡大するため、新たな試みとして第1期のリサーチインターンシップを開催しています。インターン生は各領域の第一線で活躍する研究者のメンタリングのもと、普段は外部からは見えにくい研究室の中の研究活動の現場を体験いただけます。
参考)インターンテーマ/メンターの紹介:https://weblab.t.u-tokyo.ac.jp/2024-04-26/
先日、オンライン上でキックオフを行い、リサーチインターンシップが開始しました。
今回のインターンでは国内のみならずスペイン、スウェーデンなど海外からの参加者も合わせて総勢15名のメンバーが参加しています。キックオフではメンター/インターン生がそれぞれの研究テーマや自己紹介を行いました。
インターン生はオンライン/オフライン両形式での参加メンバーがいますが、コミュニケーションツールとしてSlackを活用しつつ、いずれもメンターと密にやり取りを進めながら研究を進めています。
また、インターン生の歓迎会として、配属学生主体でBBQの企画/運営を行いました。
インターン生は約2ヶ月間の成果を最終発表として9月末に発表予定です。
各インターン生の取り組み内容はブログでも発信予定なので、楽しみにしていてください。
松尾・岩澤研究室主催の公開講座「大規模言語モデル 2024」を開講します.
受講を希望される方は下記ページを参考にしてください.
株式会社アマゾンで働かれているDanushka先生が7/31(水)に松尾研を訪問されました。
松尾教授が所属していた石塚研究室にDanushka先生も所属されており、松尾教授とは古くから関わりがありました。そうしたご縁から、例年ご講演をいただいています。
当日は松尾研の研究員や配属学生以外にも、講義受講生などオンラインの参加者含め100名近くの方が参加し、「空気を読むLLM」というテーマで講演いただきました。
Speaker biography: ボレガラ・ダヌシカ氏は2009年に東京大学大学院情報理工学系研究科電子情報学専攻で博士課程(優秀学術研究成果に基づく短縮修了)を修了し,同研究科の助教,講師を得て,2018年から英国リバープール大学計算機学科教授として教育と研究活動を行っております.自然言語処理と機械学習を中心にACL, EMNLP, IJCAI, AAAIを始め,最高峰国際会議で200本以上の論文としてその研究業績を発表しています.「深層学習」(近代科学社),「ウェブデータの機械学習」(機械学習プロフェッショナルシリース)など専門書を執筆しています.なお,株式会社アマゾン(Palo Alto, US)のAmazon Scholarとして深層学習の実世界への応用研究を指導しています.
Title: 空気を読むLLMを目指して
Abstract: ChatGPTを始め,生成AIツールは人工知能研究者に限らず,どなたでも日常的に気軽に使うツールとなっています.生成AIツールの中でも,大規模言語モデル(LLM)はプログラムコードの作成から,作文支援まで幅広い場面で使われています.一方,LLMを使う人間側のユーザーは文化的,経済的,社会的,教育的など様々な観点で異なる背景を持っています.本講演では「LLMは多様な人間を相手にその人の背景を正しく理解し,適切な返信をするためにはどうすれば良いか」について私のグループが行っている研究成果を紹介しながら議論します.相手の背景を理解し,適切な返信をするのは感情的知性(Emotional Intelligence)につながるだけではなく,ユーザーの好感度を上げるためには重要である.一般常識生成(Generative Commonsense Reasoning)を具体的なタスクとして用い,LLMから同じ質問に対して多様な回答を得る手法にはどうすれば良いかを議論します.
松尾研では海外の研究者と共同研究を行っている学生も複数在籍しており、研究室外の方とも積極的に意見交流する機会があります。
今後もこのように研究室の垣根を越えた積極的な交流を続けていきたいと考えます。
Danushka先生、この度は松尾研に足をお運びいただきありがとうございました。