【深層学習】 CNN 紹介 "ResNet" 言わずとしれた CNN の標準技術が登場！【ディープラーニングの世界 vol. 17】#080 #VRアカデミア #DeepLearning

高評価: 625件

再生: 20,368回

公開日: 2020年10月30日

▼テーマ
shortcut connection を駆使した ResNet の登場です！超有名技術ですね。
ResNet がすごいのは、勾配消失の解消だけじゃないんです。理論的な側面にも迫っていきます。

▼関連プレイリスト
Deep Learning の世界 https://www.youtube.com/playlist?list=PLhDAH9aTfnxKXf__soUoAEOrbLAOnVHCP

CNN紹介動画 https://www.youtube.com/playlist?list=PLhDAH9aTfnxIGIvLciL1CtE59VGrEx4ER

▼目次
00:00 OP
===== 1.ILSVRC-2015 =====
00:30 どんなコンペなの？
01:34 コンペの歴史を振り返る
===== 2.degradation と residual learning =====
02:43 論文紹介
03:20 degradationとは何か
04:16 何故degradationは起こるのか？
08:23 residual learningとは何か
09:35 residual learningのアイデアを味わう
===== 3.ResNet =====
11:21 residual block を眺める
14:16 入力と出力のサイズが異なる時の工夫
16:21 ResNet-34のアーキテクチャ
18:37 ResNet-152のアーキテクチャ
21:00 当時の議論,時代背景
23:19 まとめ
23:51 ED

▼参考文献
He, Kaiming, et al. "Deep residual learning for image recognition." Proceedings of the IEEE conference on computer vision and pattern recognition. 2016.
https://openaccess.thecvf.com/content_cvpr_2016/papers/He_Deep_Residual_Learning_CVPR_2016_paper.pdf
原論文です。
実は勾配消失の話は全く触れていないです。
degradation の問題から、どういう思索をもとに ResNet へたどり着いたかが記されていておすすめ！

Amazon.co.jp: Hands-On Machine Learning with Scikit-Learn, Keras, and TensorFlow: Concepts, Tools, and Techniques to Build Intelligent Systems: Géron, Aurélien
https://amzn.to/2SmjFeY
tensorflow つかって ML と DL をやる本。分厚い洋書ですが、入門に必要なことは全て書いてあります。
体力ある人は、つべこべ言わず、この本を読み切ればいいと思います。

▼終わりに
ご視聴ありがとうございました！
面白かったら高評価、チャンネル登録お願いします。
動画の質問、感想などは、コメント欄やTwitterにどうぞ！
お仕事、コラボのご依頼は、TwitterのDMからお願い致します。
動画生成：AIcia Solid (Twitter: https://twitter.com/AIcia_Solid/ )
動画編集：AIris Solid (妹) (Twitter: https://twitter.com/AIris_Solid/ )
=======
Logo: TEICAさん ( https://twitter.com/T_E_I_C_A )
Model: http://3d.nicovideo.jp/works/td44519
Model by: W01fa さん ( https://twitter.com/W01fa )