HELLO CYBERNETICS

深層学習、機械学習、強化学習、信号処理、制御工学、量子計算などをテーマに扱っていきます

Jaxでガウス過程 + NumPyroでハイパーパラメータ推論

人工知能 数学 数学-確率・統計
  • モジュール
  • データ
  • ガウス過程
    • カーネル関数
    • 予測
    • 決め打ちハイパーパラメータでの予測
  • MCMC でのハイパーパラメータ推論
    • モデル
    • 事前分布からのサンプリング
    • 事後分布の推論
    • 予測分布
  • ガウス過程関連の記事
続きを読む

【PyTorch・Pyro】モデリングレシピ

人工知能 人工知能-Pytorch 数学 数学-確率・統計
  • はじめに
  • 単一の分布を使ったモデル
    • 正規分布
      • 同時分布の設計
      • 同時分布からのサンプリング
      • Pyroコード
    • ベルヌーイ分布
      • 同時分布の設計
      • 同時分布からのサンプリング
      • Pyroコード
    • カテゴリ分布
      • 同時分布の設計
      • 同時分布からのサンプリング
      • pyroコード
  • 混合モデル
    • ガウス混合モデル
      • 同時分布からのサンプリング
      • Pyroコード
    • ディリクレ過程混合モデル（某折過程モデル）
      • 同時分布からのサンプリング
    • Pyroコード
  • 最後に
続きを読む

変分ベイズ法と償却推論：ローカルパラメータの効率的推論

数学 数学-確率・統計
  • はじめに
  • 変分ベイズ法あらまし
    • 事後分布とその近似分布
    • 第二種最尤推定
  • ローカルパラメータとグローバルパラメータ
    • グローバルパラメータ
    • 一旦脱線：同時分布のモデリング
    • ローカルパラメータ
  • 償却推論
    • ローカルパラメータの事後分布
    • 変分パラメータを予測するモデルの導入
続きを読む

ベイズ統計

数学 数学-確率・統計 数学-情報理論
  • はじめに
  • データとモデル
    • 確率モデル
    • 確率モデルを作る
    • 複雑なモデルを使うことが最善手であるか
  • モデルの具体的な作り方
    • モデルの仮定
    • アンサンブルモデル
    • 点推定モデル
      • 最尤推定
      • 制約付き最尤推定※ （最大事後確率推定）
    • ベイズ予測分布と点推定
  • ベイズ統計学
    • ベイズ予測分布を得ることの意義
    • ベイズ統計学の主題
    • 特異モデルと正則モデル
    • ベイズ統計学のまとめ
続きを読む

確率的プログラミング言語 pyro 基本

プログラミング 数学 数学-確率・統計
  • はじめに
  • Pyro
  • primitives
    • 確率変数の実現値 sample
    • 条件付き独立のベクトル化 plate
    • 階層モデル
    • 変分パラメータを扱う param
  • poutine
    • モデルの様子を把握する trace
    • 条件付き分布の作成 condition
  • まとめと変分推論の例
続きを読む