HELLO CYBERNETICS

深層学習、機械学習、強化学習、信号処理、制御工学、量子計算などをテーマに扱っていきます

【PyTorch・Pyro】モデリングレシピ

  • はじめに
  • 単一の分布を使ったモデル
    • 正規分布
      • 同時分布の設計
      • 同時分布からのサンプリング
      • Pyroコード
    • ベルヌーイ分布
      • 同時分布の設計
      • 同時分布からのサンプリング
      • Pyroコード
    • カテゴリ分布
      • 同時分布の設計
      • 同時分布からのサンプリング
      • pyroコード
  • 混合モデル
    • ガウス混合モデル
      • 同時分布からのサンプリング
      • Pyroコード
    • ディリクレ過程混合モデル(某折過程モデル)
      • 同時分布からのサンプリング
    • Pyroコード
  • 最後に
続きを読む

変分ベイズ法と償却推論:ローカルパラメータの効率的推論

  • はじめに
  • 変分ベイズ法あらまし
    • 事後分布とその近似分布
    • 第二種最尤推定
  • ローカルパラメータとグローバルパラメータ
    • グローバルパラメータ
    • 一旦脱線:同時分布のモデリング
    • ローカルパラメータ
  • 償却推論
    • ローカルパラメータの事後分布
    • 変分パラメータを予測するモデルの導入
続きを読む

ベイズ統計

  • はじめに
  • データとモデル
    • 確率モデル
    • 確率モデルを作る
    • 複雑なモデルを使うことが最善手であるか
  • モデルの具体的な作り方
    • モデルの仮定
    • アンサンブルモデル
    • 点推定モデル
      • 最尤推定
      • 制約付き最尤推定※ (最大事後確率推定)
    • ベイズ予測分布と点推定
  • ベイズ統計学
    • ベイズ予測分布を得ることの意義
    • ベイズ統計学の主題
    • 特異モデルと正則モデル
    • ベイズ統計学のまとめ
続きを読む

ニューラルネットワークを用いた近年の変分推論2

  • はじめに
  • ベイズ推論基本
    • ベイズ推論
    • ベイズ予測分布
    • 変分推論
    • 変分推論のアルゴリズム
  • Normalizing Flows
    • 確率分布の変換規則
    • 変分推論への組み込み
    • 具体的な変換の例
      • planner flow
      • radius flow
      • inverse autoregressive flow
  • flow VAE
    • VAE 基本
    • flow VAE
続きを読む