HELLO CYBERNETICS

深層学習、機械学習、強化学習、信号処理、制御工学、量子計算などをテーマに扱っていきます

確率モデリングと事後分布、事前分布、超パラメータ

  • はじめに
  • 例題:正規分布に従っているように見えるデータ $X$ の推論
    • モデリング再考
    • 事後分布を書き下す
    • 事前分布と超パラメータ
    • グラフィカルモデルの標準的な表記
  • 例題:時系列モデル
    • 時系列データのグラフィカルモデル
  • 最後に
続きを読む

確率モデリングのための確率分布の式変形基本【ベイズの定理/グラフィカルモデル】

  • はじめに
  • 確率モデリング
    • 確率変数間の関係性記述
    • ベイズの定理と条件付き分布
    • 関係性の記述と事後分布の導出
    • いろいろなパターンの練習
      • パターン1
      • パターン2
  • 同時分布とグラフィカルモデル
    • 基本事項
      • すべて互いに関連
      • すべて互いに独立
      • 有向グラフ化
      • 関連を断ち切ることによるモデリング
  • 最後に
続きを読む

【PyTorch・Pyro】モデリングレシピ

  • はじめに
  • 単一の分布を使ったモデル
    • 正規分布
      • 同時分布の設計
      • 同時分布からのサンプリング
      • Pyroコード
    • ベルヌーイ分布
      • 同時分布の設計
      • 同時分布からのサンプリング
      • Pyroコード
    • カテゴリ分布
      • 同時分布の設計
      • 同時分布からのサンプリング
      • pyroコード
  • 混合モデル
    • ガウス混合モデル
      • 同時分布からのサンプリング
      • Pyroコード
    • ディリクレ過程混合モデル(某折過程モデル)
      • 同時分布からのサンプリング
    • Pyroコード
  • 最後に
続きを読む

変分ベイズ法と償却推論:ローカルパラメータの効率的推論

  • はじめに
  • 変分ベイズ法あらまし
    • 事後分布とその近似分布
    • 第二種最尤推定
  • ローカルパラメータとグローバルパラメータ
    • グローバルパラメータ
    • 一旦脱線:同時分布のモデリング
    • ローカルパラメータ
  • 償却推論
    • ローカルパラメータの事後分布
    • 変分パラメータを予測するモデルの導入
続きを読む