English
DeepLearningの最新論文をキャッチアップする勉強会「DL輪読会」。
その記念すべき第256回目（２の８乗回）が先月開催されました。（写真は2019年以前のオフライン開催のもの）
今日はDL輪読会の活動についてご紹介します！
◼︎DL輪読会とは
DL輪読会では、毎週金曜日の朝10時から、Deep Learningに関する論文を紹介発表しています。2014年に開始し、活動としては６年以上続いています。
紹介する論文は毎回持ち回りで２〜３名が担当し、参加者自身が興味関心のあるものを自由に選ぶことができます。
参加者は学生だけでなく、大手企業やベンチャーに在籍されている社会人もいます。業務でDeep Learningに携わる方や、学生時代に関連の研究をされていて社会人になっても勉強を続けたい方など様々です。
そのため毎回多様な視点からの質疑応答が飛び交い、積極的に参加くださっています。
2020年はオンライン開催となったため、全国の講座修了生の方にも参加いただけました。
◼︎発表スライドのTwitter表示回数ランキング
輪読会で発表されたスライドは随時SlideShereにてアップされます。2020年中で表示回数が最も多かった発表をご紹介します。
※2020年１月〜12月21日までの「DL Hacks」Twitterアカウントより集計
５位 What do Models Learn from Question Answering Datasets?
発表者：篠田一聡さん
質問応答タスクでモデルが何を学習しているのかを調べるために複数のデータセットに対して各種ablationを行った結果，モデルはショートカットを学習しているだけで文章や質問の理解をしていないことを示唆する結果が得られた．https://t.co/mS1RYMIIMG
— DLHacks (@DL_Hacks) October 23, 2020
４位 YOLOv4: Optimal Speed and Accuracy of Object Detection
発表者：田村浩一郎さん
YOLOv4. リアルタイムかつ高精度な物体検出アルゴリズムアーキテクチャ．EfficientDetと同等レベルの精度で、YOLOv3よりも速い。物体検出のノウハウや手法が体系的に整理・検証実験されている。https://t.co/wydhudDxav
— DLHacks (@DL_Hacks) May 15, 2020
３位 Set Transformer: A Framework for Attention-based Permutation-Invariant Neural Network
発表者：大熊拓海さん
NLPのブレイクスルーとなったTransformerを応用して、「集合」を入力として受け取りその特徴量を抽出し、更に固定長に圧縮するモデルを提案。要素間の関係性を柔軟に捉えることができ、様々なタスクで精度の向上に貢献。https://t.co/MSn1dEv4A0
— DLHacks (@DL_Hacks) February 25, 2020
２位 強化学習の再定式化について
発表者：岩澤 有祐さん
報酬最大化以外で強化学習タスクを解く最近の試みについて，（１）表現学習の利用，（２）データ分布最適化＋教師あり学習としての解釈，の2つに関する研究を紹介した．https://t.co/I1GdqG4Txx
— DLHacks (@DL_Hacks) November 18, 2020
１位 近年のオフライン強化学習のまとめ —Offline Reinforcement Learning: Tutorial, Review, and Perspectives on Open Problems—
発表者：松嶋達也さん
Google BrainやDeepMind，UCバークレーを中心に活発に研究されている，オフライン強化学習のSergey Levine先生によるレビュー論文をまとめた．医療や実ロボットなど実環境での探索が難しい問題での活用が見込まれ，データドリブンな強化学習への道が開きつつある．https://t.co/lTF67AsLDZ
— DLHacks (@DL_Hacks) June 30, 2020
◼︎第256回DL輪読会 参加者の声
当日は、松尾研究室 特任助教の鈴木雅大さんと、博士課程１年の松嶋達也さんが発表を行い、現役学生・卒業生、DL輪読会に久々に参加する方も含め約70名の参加者がありました。
小林 範久さん 株式会社Present Square
「数年ほど前にDL講座(基礎、応用)を受講以降、継続して参加させて頂いています。
第256回の論文・研究発表では、世界モデルやオフライン強化学習などホットトピックを聞け、懇親会では、参加者の方々の研究内容や取り組みを共有する機会となりました。
日頃の輪読会からも多くの学びと刺激を頂いていますが、本回では論文の枠に留まらず、Deep Learningの活用の様子や今後の方向性を話し合えた点も非常に刺激になりました。ありがとうございました。」
有馬純平さん 明治大学大学院 理工学研究科 修士２年
「輪読会には２年前の松尾研主催サマースクール後から参加させていただいます。記念となる第256回では、鈴木さんと松嶋さんによる、ここ数年研究が盛んな分野である世界モデルとオフライン強化学習に関して、俯瞰的・網羅的にまとめられた発表で理解が一層深まりました。
また発表後の懇親会では輪読会に参加している幅広いバッググランドをもった方々と交流ができ、充実した時間を過ごすことができました。」
◼︎ファシリテーター： 特任講師 岩澤 有祐さん
毎回テンポよく進行をしてくださるのは特任講師の岩澤さんです。
どの論文を選ぶかか迷った時にも相談に乗ってくださいます。
2012年 上智大学理工学研究科情報学領域を卒業
2014年 上智大学理工学研究科理工学専攻情報学領域を修了
2017年 東京大学工学系研究科技術経営戦略学専攻博士後期課程を修了（学術振興会特別研究員DC1）
2017年、東京大学松尾研究室 特任研究員
2018年、東京大学同研究室 特任助教
2020年、東京大学堂研究室 特任講師
【研究内容】
機械学習/深層学習のIoTへの応用（現在、特にプライバシー、耐故障性、消費電力などを考慮した深層学習モデル）
ウェアラブルセンサによる行動認識のための表現学習（博士）
車いすセンシングを利用した路面アクセシビリティ情報の自動収集システム（修士）
◼︎勉強会に参加されたい方へ
★定例勉強会について
松尾研が開催する講義・セミナーを受講された方を対象に、定期的に見学会の案内をしています。
ぜひまずは見学にいらしてください！
◼︎各種リンク
◆松尾研が中心となって翻訳した書籍ご購入はこちらから
◆スライドシェアにて輪読資料を公開中
◆Twitterアカウントはこちらから
