【深層学習】SENet - 「圧縮興奮機構」による性能向上【ディープラーニングの世界 vol. 19】#082 #VRアカデミア #DeepLearning

高評価: 384件

再生: 15,493回

公開日: 2020年11月13日

▼テーマ
SENet は ILSVRC の最後の年 (2017) に優勝したモデルです。
Squeeze-and-Excitation block という機構を用いて、どんな DL のモデルでも少パラメタ追加で性能を向上させてしまう神のようなアイテムです。
attention がこれだけはやる理由もわかる気がする、、、！という感じですね！

▼関連プレイリスト
Deep Learning の世界 https://www.youtube.com/playlist?list=PLhDAH9aTfnxKXf__soUoAEOrbLAOnVHCP

CNN紹介動画 https://www.youtube.com/playlist?list=PLhDAH9aTfnxIGIvLciL1CtE59VGrEx4ER

▼参考文献
Hu, Jie, Li Shen, and Gang Sun. "Squeeze-and-excitation networks." Proceedings of the IEEE conference on computer vision and pattern recognition. 2018.
https://openaccess.thecvf.com/content_cvpr_2018/papers/Hu_Squeeze-and-Excitation_Networks_CVPR_2018_paper.pdf
原論文です。
Squeeze-and-Excitation 機構の着想や、詳細な分析が書いてあります。特に、 ResNet のどこに SE-block を入れるかの比較なんかは面白いです。

Amazon.co.jp: Hands-On Machine Learning with Scikit-Learn, Keras, and TensorFlow: Concepts, Tools, and Techniques to Build Intelligent Systems: Géron, Aurélien
https://amzn.to/2SmjFeY
tensorflow つかって ML と DL をやる本。分厚い洋書ですが、入門に必要なことは全て書いてあります。
体力ある人は、つべこべ言わず、この本を読み切ればいいと思います。

▼終わりに
ご視聴ありがとうございました！
面白かったら高評価、チャンネル登録お願いします。
動画の質問、感想などは、コメント欄やTwitterにどうぞ！
お仕事、コラボのご依頼は、TwitterのDMからお願い致します。
動画生成：AIcia Solid (Twitter: https://twitter.com/AIcia_Solid/ )
動画編集：AIris Solid (妹) (Twitter: https://twitter.com/AIris_Solid/ )
=======
Logo: TEICAさん ( https://twitter.com/T_E_I_C_A )
Model: http://3d.nicovideo.jp/works/td44519
Model by: W01fa さん ( https://twitter.com/W01fa )