【強化学習】On-policy と Off-policy - 実は定義が曖昧な概念【強化学習の基礎概念】RL vol. 16 #180 #VRアカデミア #ReinforcementLearning
高評価: 123件
再生: 4,358回
公開日: 2024年6月07日
On と Off って言われたらきっちりしてると思うじゃん。実は MECE でもないし、定義は曖昧なのです。
初学者の混乱の原因! ここで取り除きましょう!【プレイリスト】
https://www.youtube.com/playlist?list=PLhDAH9aTfnxI1OywfnxXCDTWGtYL2NxJR【目次】
00:00 オープニング
00:39 これは何?
01:38 2大勘違いポイント・その1
03:38 2大勘違いポイント・その2
05:40 On-policyとOff-policy
10:48 まとめ
12:11 エンディング【参考文献】
分析モデル入門
https://amzn.to/3Ng0nC7
私の本! この動画シリーズは、この第3部 強化学習 の内容を動画向けにアレンジ、大幅追加、大幅削除したものです。
合わせてみていただくと分かり易いかと!強化学習(第2版)
https://amzn.to/3K4QsR8
Sutton 先生の「強化学習」本の和訳です。分厚いですが、時間があり、基礎をしっかり学びたい人におすすめ!
ちなみに、英語版は公式で pdf もダウンロードできます → http://incompleteideas.net/book/強化学習 (機械学習プロフェッショナルシリーズ)
https://amzn.to/44R2XYr
理論家向けの方にはこちら!
しっかりと数式が解説されており、基礎の理論をしっかりと学ぶことができます。機械学習スタートアップシリーズ Pythonで学ぶ強化学習
https://amzn.to/3XYDrOM
手を動かしながら学びたい人向け!
サンプルコードとともに、基礎的な強化学習アルゴリズムを学べます!将棋AIで学ぶディープラーニング
https://www.amazon.co.jp/dp/B07B7JJ929
強化学習というと、将棋 AI を思い浮かべる人も少なくないはず!
そういう人におすすめ!
将棋 AI 向けの強化学習は、他の参考文献にある方法とはかなり異なる方法で作られます。
将棋を目指す方は、ぜひこれを見てみてください!
更に強いのを作るならこれ → https://amzn.to/3pU1aDa強化学習の基礎と深層強化学習
https://www.slideshare.net/ShotaImai3/rlssdeepreinforcementlearning
合間に広告が貼ることが極めて重い欠点ですが、内容は素晴らしく、全体感を見渡すことができます。【宣伝:本も買ってね!】
データサイエンスに頻出の分析モデルを、全領域、深く、書きあげました!
本質を捉えたデータ分析のための分析モデル入門 https://amzn.to/3Ng0nC7【宣伝2:クラファンやってるよ!】
活動継続のためのご支援をお願いしています。詳細はこちら!
クラファン(月額)はこちら → https://community.camp-fire.jp/projects/view/709000
(クラファン始めた理由の動画 → https://www.youtube.com/watch?v=vXY34njwL4o )【終わりに】
ご視聴ありがとうございました!
面白かったら高評価、チャンネル登録お願いします。
動画の質問、感想などは、コメント欄や Twitter にどうぞ!
お仕事、コラボのご依頼、インターンの応募は、公式 WebPage や Twitter の DM からお願い致します。AIcia Solid Project - Official Website - https://sites.google.com/view/aicia-official/top
動画生成:AIcia Solid (Twitter: https://twitter.com/AIcia_Solid/ )
動画編集:AIbis Solid (妹)=======
Logo: ChikakoHorioさん ( https://twitter.com/ChikakoHorio )
Model Design by: ばんちょうさん( https://twitter.com/k_ban_ )ママ!
3D Model by: キツネツキさん( https://twitter.com/_kitsune_tsuki_ ) パパ!
説明文の続きを見る
強化学習の探検
強化学習の基礎から深層強化学習まで解説します。 将来的に、以下の内容をカバーする予定です: 1. 強化学習とは 2. 基礎的アルゴリズム (Tabular Reinforcement Learning) 3. 深層強化学習 (Deep Reinforcement Learning) 4. 探索技法 5. AlphaGo 6. LLM, Diffusion Models と強化学習
- ▲ 前の10件を見る
- 【強化学習】方策反復法 - 方策評価と方策更新の繰り返しで最適方策を見つけよう!【GPIの元ネタ】RL vol. 11 #170 #VRアカデミア #ReinforcementLearning
- 【強化学習】価値反復法 - いきなり最適方策を推定!【GPIの元ネタ】RL vol. 12 #172 #VRアカデミア #ReinforcementLearning
- 【強化学習】TD法 - 期待と不安が交じるベルマン作用素のデータ近似【強化学習の基礎アルゴリズム】RL vol. 13 #174 #VRアカデミア #ReinforcementLearning
- 【強化学習】Q学習 - データを用いて最適方策を学習【強化学習の基礎アルゴリズム】RL vol. 14 #176 #VRアカデミア #ReinforcementLearning
- 【強化学習】SARSA - こいつもデータを用いて最適方策を学習!【強化学習の基礎アルゴリズム】RL vol. 15 #178 #VRアカデミア #ReinforcementLearning
- 【強化学習】On-policy と Off-policy - 実は定義が曖昧な概念【強化学習の基礎概念】RL vol. 16 #180 #VRアカデミア #ReinforcementLearning
- 【強化学習】n-step TD 法 - 一番使われる基礎的手法だよ【強化学習の基礎アルゴリズム】RL vol. 17 #182 #VRアカデミア #ReinforcementLearning
- 【強化学習】TD(λ) - 短期と長期の目線の合せ技。【強化学習の基礎アルゴリズム】RL vol. 18 #185 #VRアカデミア #ReinforcementLearning
- 【強化学習】後方観測TD(λ) と eligibility trace【強化学習の基礎アルゴリズム】RL vol. 19 #187 #VRアカデミア #ReinforcementLearning
- 【強化学習】eligibility trace - 前方から後方観測へ!【強化学習の基礎アルゴリズム】RL vol. 20-1 #188 #VRアカデミア #ReinforcementLearning
- 【強化学習】eligibility trace 後半 - 数式徹底解説!【強化学習の基礎アルゴリズム】RL vol. 20-2 #188 #VRアカデミア #ReinforcementLearning
- ▼ 次の10件を見る
アイシア動画
- ▲ 前の10件を見る
- 【特異値分解③】特異値分解を計算に応用! - オトナな楽しみ方が求められる数式【行列25 RΣxiui = Σxiμivi】 #175 #VRアカデミア #線型代数入門
- 【特異値分解④】一般のベクトルの変換 - それは、内積での成分抽出と特異値倍!【行列26 Ra = Σμi(a・ui)vi】 #177 #VRアカデミア #線型代数入門
- 【強化学習】Q学習 - データを用いて最適方策を学習【強化学習の基礎アルゴリズム】RL vol. 14 #176 #VRアカデミア #ReinforcementLearning
- 【強化学習】SARSA - こいつもデータを用いて最適方策を学習!【強化学習の基礎アルゴリズム】RL vol. 15 #178 #VRアカデミア #ReinforcementLearning
- 【特異値分解⑤】R = VΜU^-1 の意味 - 全ては R = VΜU^-1 に書いてある!【行列27 R = VΜU^-1】 #179 #VRアカデミア #線型代数入門
- 【強化学習】On-policy と Off-policy - 実は定義が曖昧な概念【強化学習の基礎概念】RL vol. 16 #180 #VRアカデミア #ReinforcementLearning
- 【特異値分解⑥】直交行列の等長性 - 回転ってこれで定義されてるんです【行列28 ||Ux|| = ||x||】 #181 #VRアカデミア #線型代数入門
- 【強化学習】n-step TD 法 - 一番使われる基礎的手法だよ【強化学習の基礎アルゴリズム】RL vol. 17 #182 #VRアカデミア #ReinforcementLearning
- 【特異値分解⑦】変換の倍率と特異値 - 直交してるから長さの倍率がわかっちゃう!【行列29 μ_1 ≤ ||Ru|| ≤ μ_1】 #184 #VRアカデミア #線型代数入門
- 【強化学習】TD(λ) - 短期と長期の目線の合せ技。【強化学習の基礎アルゴリズム】RL vol. 18 #185 #VRアカデミア #ReinforcementLearning
- 【特異値分解⑧】ランダム行列と深層学習 - 勾配消失・爆発の原因の1つです!【行列30 ランダム行列と深層学習】 #186 #VRアカデミア #線型代数入門
- ▼ 次の10件を見る
人気のチャンネル
予備校のノリで学ぶ「大学の数学・物理」
予備校のノリで学ぶ「大学の数学・物理」のチャンネルでは主に ①大学講座:大学レベルの理系科目 ②高校講座:受験レベルの理系科目 の授業動画を...
1,260,000人
661本
313,350,689回
4,685,206件
【楽しい授業動画】あきとんとん
ただの塾講師。 勉強が苦手な人のために,動画をあげていきたいと思います。 気付いたら,勉強の知識が入っていた!!ってぐらい楽しい授業を目...
630,000人
924本
42,184,016回
823,036件
YouTube高校 / 日本史・世界史
日本中を回って撮影した映像で日本史解説の動画を作っています Twitter:Y_Eschool Instagram:You.ele....
621,000人
407本
124,951,664回
908,134件





ラッキー動画







