【深層学習】CNN紹介 "GoogLeNet" ILSVRC2014をInceptionで制したモデル【ディープラーニングの世界 vol. 15】#078 #VRアカデミア #DeepLearning

高評価: 468件

再生: 14,027回

公開日: 2020年10月16日

▼テーマ
ILSVRC-2014 にて「深く！でかく！」を打ち破り、アーキテクチャの工夫で精度向上と深さを改善したモデル。
AlexNet 以来の研究の集大成とも言えるモデルです！
熱くなって喋りすぎました(^^)

▼関連プレイリスト
Deep Learning の世界 https://www.youtube.com/playlist?list=PLhDAH9aTfnxKXf__soUoAEOrbLAOnVHCP

CNN紹介動画 https://www.youtube.com/playlist?list=PLhDAH9aTfnxIGIvLciL1CtE59VGrEx4ER

▼目次
00:00 OP
===== 1.ILSVRC-2014 =====
01:36 どんなコンペなの？
03:30 コンペの歴史を振り返る
===== 2.Sparsity と Inception module =====
04:49 GoogLeNetの論文紹介
05:32 Inception module を眺める
07:40 当時の課題意識
09:25 無駄発生のイメージ(sparse)
12:10 無駄の対処法(dense)
13:53 論文紹介その２
14:58 相関のあるneuronのまとめ方
18:08 もう一つの工夫(情報圧縮)
22:30 本日のまとめ
23:37 ED

▼参考文献
Szegedy, Christian, et al. "Going deeper with convolutions." Proceedings of the IEEE conference on computer vision and pattern recognition. 2015.
https://www.cv-foundation.org/openaccess/content_cvpr_2015/html/Szegedy_Going_Deeper_With_2015_CVPR_paper.html
原論文です。
2012年からの進化が以下に凄まじいかが、この論文を読むだけでかなり分かると思います。
Inception も今から見れば原始的ですが、当時からしたら画期的だということがありありと分かります。

Lin, Min, Qiang Chen, and Shuicheng Yan. "Network in network." arXiv preprint arXiv:1312.4400 (2013).
https://arxiv.org/abs/1312.4400
Inception module の発想の元の Network in Network の論文です。

Arora, Sanjeev, et al. "Provable bounds for learning some deep representations." International Conference on Machine Learning. 2014.
http://proceedings.mlr.press/v32/arora14.html
DL の学習の理論解析です。
sparsity が決め手！ の論文です。

Amazon.co.jp: Hands-On Machine Learning with Scikit-Learn, Keras, and TensorFlow: Concepts, Tools, and Techniques to Build Intelligent Systems: Géron, Aurélien
https://amzn.to/2SmjFeY
tensorflow つかって ML と DL をやる本。分厚い洋書ですが、入門に必要なことは全て書いてあります。
体力ある人は、つべこべ言わず、この本を読み切ればいいと思います。

▼終わりに
ご視聴ありがとうございました！
面白かったら高評価、チャンネル登録お願いします。
動画の質問、感想などは、コメント欄やTwitterにどうぞ！
お仕事、コラボのご依頼は、TwitterのDMからお願い致します。
動画生成：AIcia Solid (Twitter: https://twitter.com/AIcia_Solid/ )
動画編集：AIris Solid (妹) (Twitter: https://twitter.com/AIris_Solid/ )
=======
Logo: TEICAさん ( https://twitter.com/T_E_I_C_A )
Model: http://3d.nicovideo.jp/works/td44519
Model by: W01fa さん ( https://twitter.com/W01fa )