日本語
2024年Sセメスター「ディープテック起業家への招待」受講申込み開始
坂田教授・各務教授・田中教授とともに、松尾教授が企画・監修を務める「ディープテック起業家への招待」の受講申込みを受け付けています！多くのエキスパート登壇に加え、最終発表は総長の前で発表、さらに優秀者はコミュニティ“DICE”への参加の他、選抜式の海外研修などの機会があります。年々パワーアップしている本講座、多くの皆様からのチャレンジをお待ちしています！
詳細はこちらをご覧ください。
ビジョナリー・スタートアップ〜起業の理論と実践〜」応募開始のお知らせ
坂田教授とともに松尾教授が企画・監修に関わる「ビジョナリー・スタートアップ〜起業の理論と実践〜」の受講申込みを受け付けています！
2022年からGlobis Capital Partners様とコラボを組んだ実践的起業講義が、今年は東京大学正規科目となりました。東大および協定校は学部から博士まで学年を問わず受講可能です！また、後日YouTubeから一部動画も一般公開させていただきます。詳細はこちらから！
Deep Learning基礎講座 2024 の募集開始
Sorry, this entry is only available in Japanese. For the sake of viewer convenience, the content is shown below in the alternative language. You may click the link to switch the active language.
松尾・岩澤研究室主催の公開講座「Deep Learning基礎講座 2024」の受講生を募集します。
受講を希望される方は下記ページを参考にしてください.
- Deep Learning基礎講座
（申込締切：2024/4/5（金）13:00）
Our paper was accepted for NAACL 2024.
■書誌情報 Takeshi Kojima, Itsuki Okimura, Yusuke Iwasawa, Hitomi Yanaka, Yutaka Matsuo. “On the Multilingual Ability of Decoder-based Pre-trained Language Models: Finding and Controlling Language-Specific Neurons”. 2024 Annual Conference of the North American Chapter of the Association for Computational Linguistics (NAACL 2024) ■概要 Current decoder-based pre-trained language models (PLMs) successfully demonstrate multilingual capabilities, but it is…
Prof. Yoshua Bengio visited Matsuo Lab.
We would like to announce the recent visit of Prof. Yoshua Bengio to Matsuo Lab. He is a professor in the Department of Computer Science and Operations Research at the University of Montreal. He has received numerous awards and accolades for his significant contributions to the field of computer science, including the prestigious Turing…
松尾研LLM開発プロジェクトのキックオフを開催しました。
2024年3月2日（土）に、松尾研LLM開発プロジェクトのキックオフを実施しましたのでご報告いたします。
本プロジェクトは、当研究室が提供する講座の修了生および一般公募によって集まった有志の開発者のメンバーが500億パラメータサイズの大規模言語モデル開発を進めるものです。
また、開発された大規模言語モデル（LLM）の公開のみならず、開発過程の公開、そしてこれらの成果を社会全体で共有することを通じ、日本全体のLLM開発の技術レベル向上と社会実装の加速を目指します。
なお、本プロジェクトは国立研究開発法人新エネルギー・産業技術総合開発機構（NEDO）による、国内の生成AIの開発力を強化するためのプロジェクト「GENIAC（Generative AI Accelerator Challenge）」において、基盤モデル開発に必要な計算資源の提供支援を受けています。
▼参考：NEDOの採択を受け、公開型での500億パラメータサイズの大規模言語モデル開発を開始します。
https://weblab.t.u-tokyo.ac.jp/2024-02-02/
▼参考：「GENIAC」プロジェクトの詳細はこちら
https://www.meti.go.jp/policy/mono_info_service/geniac/index.html
今回のキックオフイベントでは、総勢100名弱のメンバーがオフラインで参加。
松尾教授による本プロジェクトの紹介や、研究開発支援グループのリーダー小島武による技術支援やweblab10B開発秘話の紹介に始まり、
全7チームのリーダーに開発方針やチーム体制などについて発表していただきました。
松尾教授からは「このプロジェクトの中で、試行錯誤しながら重要であるノウハウを共有することで良いモデルを作り、開発経験を積んでもらいたい。また、このプロジェクトを通して、より多くのLLM開発者を生み出し、参加者の皆さんが様々なところで活躍してもらうのが望みだ」とのコメントがありました。
当日の様子は下記リンクよりご覧いただけますので、ご興味がありましたらご覧ください。
https://drive.google.com/file/d/11oOcj7qN5jQuNXU856acfqRpbeGPs7_2/view
また、本プロジェクトの開発進捗はコミュニティメンバーとしてどなたでも自由に閲覧可能です。下記ページにアクセスの上Slackにご参加ください。
▼松尾研LLM開発プロジェクト特設ページ