Skip to content
U-Tokyo Matsuo Lab
U-Tokyo Matsuo Lab
Make the world differentiable
  • Missions & Activities
    • Missions & Activities
    • Members
  • RESEARCH
    • Deep Learning
    • Web & Business
    • Missions & Activities
  • EDUCATION
    • Overview
    • Deep Learning
    • Data Science (GCI)
    • PSI Motivational project
    • 世界モデル・シミュレータ寄付講座
    • AI経営寄付講座
    • Past lecturers and TAs (2020-)
  • PUBLICATIONS
    • Journals
    • Articles
    • International Conferences
    • Japanese Conferences
    • Books
    • Awards
    • Press
    • Invited Lectures
  • STARTUPS
    • STARTUPS
      • STARTUP JOBS
    • 起業クエスト
      • 起業クエスト参加者限定ページ
  • JOIN US
    • Students
    • Recruit
  • CONTACT
  • Language: English
    • 日本語 日本語
    • English English
  • Missions & Activities
    • Missions & Activities
    • Members
  • RESEARCH
    • Deep Learning
    • Web & Business
    • Missions & Activities
  • EDUCATION
    • Overview
    • Deep Learning
    • Data Science (GCI)
    • PSI Motivational project
    • 世界モデル・シミュレータ寄付講座
    • AI経営寄付講座
    • Past lecturers and TAs (2020-)
  • PUBLICATIONS
    • Journals
    • Articles
    • International Conferences
    • Japanese Conferences
    • Books
    • Awards
    • Press
    • Invited Lectures
  • STARTUPS
    • STARTUPS
      • STARTUP JOBS
    • 起業クエスト
      • 起業クエスト参加者限定ページ
  • JOIN US
    • Students
    • Recruit
  • CONTACT
  • Language: English
    • 日本語 日本語
    • English English

【松尾研主催DeepLearning勉強会】DL輪読会のご紹介

on 19/05/10
May102019
Lab News

Sorry, this entry is only available in Japanese. For the sake of viewer convenience, the content is shown below in the alternative language. You may click the link to switch the active language.

こんにちは、広報の清水です。

先日の「DL輪読会・DLHacksオープン勉強会」開催の様子をお伝えします。

DL輪読会とDLHacksは、互いの知識を深めることを目的に東京大学松尾研究室のメンバーが中心となって毎週持ち回りで発表をする勉強会です。(紹介記事はこちらから→DL輪読会・DLHacks)

  • 輪読会:Deep Learningに関する最新論文について発表。(毎週金曜9:00開催)
  • DLHacks:DeepLearningの実装力に焦点を当て、最新論文の実装やその他Tipsを共有。(毎週月曜19:00開催)

通常は過去授業・講座の受講者か紹介のみでしか参加できませんが、 「授業や講座に参加したことがないけれど、とても興味ある」 「一度参加したけれどその後行きそびれてしまっている」 といった方向けに2018年度で人気の高かった内容を再度発表する場を設けたいとなったことがきっかけです。

 connpass  772 shares 1 user 1 pocket
【東大松尾研】Deep Learning輪読会・DLHacks オープン勉強会 (2019/03/22 19:00〜)
https://connpass.com/event/111542/
※会場と定員数を変更しました※ ※懇親会は無くなりました※ # この会について 輪読会とDLHacksは互いの知識を深めることを目的に、東京大学松尾研究室のメンバーが中心となり毎週持ち回りで発表をする勉強会です。 通常は過去授業・講座の受講者か紹介のみでしか参...

イベント参加者はCompassにて募集しました。

募集開始時より沢山の方からご応募をいただき、急遽定員を90名から140名に増枠。
場所も倍の人数が入ることのできる講義室に変更しましたが、最終的には応募者数は400名を超え、多くの方がDeep Learingを学ぶことに意欲的であることを実感しました。
開催後となってしまいましたが、抽選で洩れてしまった方にはこのブログにて心からお詫びを申し上げます。今後のイベントの参考にして参ります。

DL輪読会、DLHacksからそれぞれ2名が発表しました。

DL輪読会

鈴木 雅大 東京大学 松尾研究室 「深層生成モデルと世界モデル」

【発表内容】

DeepMindが提案したGenerative Query Network(GQN)について,深層生成モデル(VAE)の基礎から説明した.合わせて,複数のGQN系関連研究についても紹介し,GQNと世界モデルの関係についても説明した. https://t.co/3Qlfzn1YCJ

— DLHacks (@DL_Hacks) August 27, 2018

鈴木さんが中心となって開発した深層生成モデルライブラリ「Pixyz」に関しての記事はこちらからご覧ください。

初谷 怜慈 株式会社DeepX 「DeepLearningと曲がったパラメータ空間」

【発表内容】

深層学習ではパラメータ空間が曲がっている.その性質は最適化,ベイズNN,破滅的忘却,pruning,影響関数などの様々な分野で応用されている.これら応用に加えヘッシアンやフィッシャー情報行列の高速な近似計算方法について多数紹介https://t.co/kxwnP0LrXO

— DLHacks (@DL_Hacks) April 27, 2018

DLHacks

鈴木 航介 京都大学 工学部物理工学科 「汎用言語表現モデルBERTの内部動作」

【発表内容】

汎用言語モデルBERTの内部動作観察結果の報告. 単語系列に対するAttention状況の可視化と, 潜在意味空間の可視化を行い, BERTの高性能たる所以の考察を行った. 多義語の解釈能力など興味深い結果が出ている.https://t.co/lskWSsjhFw

— DLHacks (@DL_Hacks) December 7, 2018

平松 淳 筑波大学大学院 図書館情報メディア研究科「ニューラル固有表現抽出」

【発表内容】

BiLSTMとCRFを用いたニューラル固有表現抽出器の解説.
再現実装を行い,ツールを公開 (https://t.co/JaloCpwgTE).
特徴量や前処理,勾配クリッピングの有効/無効などの設定を変えて実験を行った.https://t.co/OsGmjElHTc

— DLHacks (@DL_Hacks) December 20, 2018

参加者の声

「どれもトピックとして面白く、理論や研究よりの話からBERTなど応用よりの話まで幅広くて大変興味深かったです。」

「今まで一人で論文を読んで実装していたので、情報量が限られていたが多くの論文を知るきっかけとなった。」

「世界モデルに関して新しく学ぶことが多かったので、満足しました。文章生成に関しての発表が多く、画像生成のhackも知りたいなと思いました。」

「世界モデルの話やへシアンの話は,自分の研究室の輪読会などで話題に上ることがなかったので新鮮で面白かったです.学部3年生なのにBERTを動かしている学生がいることも驚きで刺激になりました.」

「実装のみではなく理論的な内容も盛り込まれており、地に足のついた会だったように感じた。発表者の方も、たとえ即答できない質問が飛んできても的確に回答して、非常に誠実さを感じた」

参加者の方々もPCでスライドをチェックしたり、検索で調べながら真剣に聞き入っていました。
満足度も97.8%という結果を頂き、また今後もこういった会を定期的に開催していければと思っております。
今後のイベントなどのお知らせは以下よりお受け取りください。

松尾研究室 Facebookページ 
 www.facebook.com
ブラウザーをアップデートしてください | Facebook
https://www.facebook.com/weblabmatsuo/
Twitter
 twitter.com  1 pocket
DLHacks (@DL_Hacks) | Twitter
https://twitter.com/DL_Hacks
The latest Tweets from DLHacks (@DL_Hacks). DeepLearningに関する勉強会(輪読、実装会)。 東京大学松尾豊研究室、Deep Learning JPのメンバーが中心に運営しています。DeepLearningのニュースや論文・実装などをツイートします。

ご参加くださった皆さま、平日のお忙しい中ご参加いただきまして誠にありがとうございました。
次回は夏頃に開催予定です。どうぞお楽しみに!

Author: Kubota

Post navigation

PreviousPrevious post:The exercise contents of DeepLearning Basics are now available for free.NextNext post:【松尾研主催DeepLearning勉強会】DL輪読会のご紹介

Related posts

「視野を広げ、長期的な研究に打ち込める。」常に変化を続ける、松尾研での9年間。
December 23, 2022
【東大松尾研】2022年の活動報告
December 23, 2022
知能の実現に本気で挑む。多角的な視点を有する、松尾研の研究環境とは?
November 30, 2022
シリコンバレーに並ぶエコシステムの実現に向けて 代表松尾豊インタビュー(前編)
October 12, 2022
松尾研基礎研究にかける思い 代表松尾豊インタビュー(後編)
October 12, 2022
【東大松尾研】2021年の活動報告
December 29, 2021
Copyright ©Matsuo Lab. All Rights Reserved.