LLM 大規模言語モデル講座 2023コンテンツ 公開

Sorry, this entry is only available in Japanese. For the sake of viewer convenience, the content is shown below in the alternative language. You may click the link to switch the active language.

松尾研究室が2023年9~10月に東京大学サマースクールで開催した
LLM 大規模言語モデル講座のコンテンツを無償公開しています。

本講座は約2,000名の受講者が参加し、全7回の講義を実施しました。
最終課題としてGPUを使ったコンペティションでは約800名が参加し熱戦を繰り広げました。

2023年12月27日時点では講義のスライドの公開のみしております。
演習コンテンツ(ipynb)は2024年1月公開予定です。

ダウンロードは利用規約を確認の上、下記ページからダウンロードをお願いいたします。

https://weblab.t.u-tokyo.ac.jp/llm_contents/

【東大松尾研】2023年の活動報告

こんにちは、松尾研 広報チームです。 本郷キャンパスの銀杏並木も葉を落とし、すっかり冬景色に変わりました。 2023年も残すところ僅かということで、今年の松尾研の活動をまとめて振り返ります。   1.論文・活動実績 今年はICLR、ICMLを始めとする、下記の国際学会や論文誌などに採録されました。     ◆International Conference on Learning Representations (ICLR 2023) Interaction-Based Disentanglement of Entities for Object-Centric World Models 著者:​​​​​​​​​​​​Akihiro Nakano, Masahiro Suzuki, Yutaka Matsuo A System for Morphology-Task Generalization via Unified Representation and Behavior Distillation 著者:Hiroki Furuta, Yusuke Iwasawa, Yutaka Matsuo, Shixiang Shane Gu DiffusER: Diffusion via Edit-based Reconstruction…

Our paper was accepted for 電子情報通信学会和文論文誌D

◼︎書誌情報
冨山翔司, 鈴木雅大, 落合桂一, 松尾豊: 文書生成タスクに対する強化学習応用における文書生成器のサンプルに非依存な報酬関数学習フレームワークの提案
◼︎概要
文書生成タスクにおいて,強化学習は有効な手法であると知られている.過去の研究で提案された手法はいずれも,報酬関数の人手による設計の難しさからデータによる学習を試み,その際に文書生成器のサンプルを用いていた.本論文では,報酬関数の学習に文書生成器のサンプルを用いることで引き起こされる,学習時に生成器の学習の進捗を定量的に可視化できないという課題に対し,報酬関数の学習に文書生成器のサンプルを一切用いないGenerator-independent Reward Learningというフレームワークを提案する.本フレームワークに則った手法では,文書生成器の学習を定量的に可視化でき,かつ,代表的な文書生成タスクに対する強化学習応用手法に対して,性能面でも上回ることを確認した.

Our paper was accepted for ICASSP 2024.

◼︎Bibliographic information Xin Zhang*, Jiaxian Guo*, Paul Yoo, Yutaka Matsuo, Yusuke Iwasawa. “PASTE AND HARMONIZE VIA DENOISING: SUBJECT-DRIVEN IMAGE EDITING WITH FROZEN PRE-TRAINED DIFFUSION MODEL”. ICASSP 2024 ◼︎Overview Text-to-image generative models have attracted rising attention for flexible image editing via user-specified descriptions. However, text descriptions alone are not enough to elaborate the details of subjects,…

JSAI2023の発表資料を掲載しました。

Sorry, this entry is only available in Japanese. For the sake of viewer convenience, the content is shown below in the alternative language.   2023年6月6日~9日に熊本城ホール(熊本県熊本市) で開催された第37回人工知能学会全国大会(JSAI2023*)で当研究室の研究員と学生が20件の発表を行いました。下記に当日の発表資料を掲載します。 *JSAI2023とは:日本人工知能学会(The Japanese Society for Artificial Intelligence)が主催する人工知能の研究発表を行う学会で、日本国内外の研究者や専門家が集まり、人工知能や機械学習、自然言語処理、ロボティクス、コンピュータビジョンなどのAI関連分野における研究、知識共有、情報交換を促進することを目的としています。 ■JSAI2023公式HP https://www.ai-gakkai.or.jp/jsai2023/   【世界モデル】 物体中心表現の学習における内的報酬の検討 中野 聡大、鈴木 雅大、松尾 豊 行動条件付けVideoGPTの構築と検証 田畑 浩大、蒲原 惇乃輔、海野 良介、佐藤 誠人、渡部 泰樹、久米 大雅、根岸 優大、岡田 領、岩澤 有祐、松尾 豊 VideoGPTのデータセットサイズに関するスケーリング則 根岸…

IROS2023の世界モデルに関するWorkshop “World Models and Predictive Coding in Cognitive Robotics”で当研究室 特任助教の鈴木雅大が登壇しました。

Sorry, this entry is only available in Japanese. For the sake of viewer convenience, the content is shown below in the alternative language.   2023年10月1日〜10月5日にデトロイト(アメリカ)で開催されたIROS 2023*に当研究室 特任助教の鈴木雅大が参加し、認知ロボットのための世界モデルと予測符号化に関するワークショップ(Workshop on World Models and Predictive Coding in Cognitive Robotics)で当研究室 特任助教の鈴木雅大が登壇しました。下記に発表スライドを掲載します。     *IROS(IEEE/RSJ International Conference on Intelligent Robots and Systems)とは: 国際ロボット研究の分野において、将来の方向性と最新のアプローチ・設計・成果を強調しながらインテリジェントロボットとスマートマシンにおける科学技術の最前線を探求する大規模で影響力のあるフォーラムで、松尾研が注力する研究分野の一つである世界モデルに関する研究者も参加しています。 ■IROS 2023公式HP https://ieee-iros.org/   参考記事:「世界モデル」とは何か? 知能の実現に向けて、松尾研が研究を推進する理由。 「世界モデル」とは何か?…

2023年度「人工知能応用プロジェクト」Aセメスター参加者募集開始(東大学部後期・大学院生向け)

Sorry, this entry is only available in Japanese. For the sake of viewer convenience, the content is shown below in the alternative language. You may click the link to switch the active language.

松尾研究室では,2023年冬学期(Aセメスター)に.東京大学学部生(後期)・大学院生を対象として「人工知能応用プロジェクト」を実施します.

本講義は,工学部「創造的ものづくりプロジェクト」.工学系研究科「創造性工学プロジェクト」のプロジェクト型演習講義の1つとして実施されるものです. 人工知能技術を応用したロボット開発を行うチーム開発活動への参加に対して単位が認定される講義になっています.

 

プロジェクト内容

・最新の深層学習技術をロボット制御・ロボットシステムと組み合わせて.実世界で柔軟に動くロボット創るためのプロジェクトを立案・実行する.

・詳細は下記URLからご確認ください.

https://trail.t.u-tokyo.ac.jp/ja/courses/creativeeng2023a1a2/