はじめに 必要なパーツ 予測 観測更新 逐次ベイズフィルタの流れ 前提 流れ 予測の密度関数をどう使うのか 各パーツの式展開 予測の密度関数 更新の密度関数 まとめ
はじめに モチベーション 期待値の勾配の計算方法 モンテカルロ近似と再パラメータ化 再パラメータ化できない場合
はじめに ベイズニューラルネットワーク 確率モデルとしてのベイズニューラルネットワーク ベイズニューラルネット 事後分布の推論 応用上の参考
はじめに 決定論的なニューラルネットワーク ニューラルネットワーク 学習 ニューラルネットワークの最尤推定 正則化 MAP推定と正則化の関連
はじめに モジュールインポート Jax 勾配関数と線形探索関数を準備 最適化実行 PyTorch 線形探索関数準備 最適化実行 結果
はじめに 逐次更新による最適化 大枠 勾配法 数式 勾配法コード例 ニュートン法 数式 ニュートン法のコード例
はじめに クラメル・ラオの不等式 不偏推定量のバリアンスは一定以上に下がらない 対数尤度関数とその微分 フィッシャー情報量 クラメル・ラオの不等式を導く過程 コーシー・シュワルツの不等式での評価 クラメル・ラオまでの大まかな指針 : 第2項は $0$ ク…
はじめに 不偏性 推定量 不偏推定量 不偏性を有さない推定 正規分布の分散の推定 不偏推定量は必ずしも良い推定量ではない バリアンス バイアスとバリアンス 両者を考慮した平均二乗誤差 正規分布の不偏分散と標本分散の比較
紹介 特徴
はじめに データと確率分布 データと確率モデル 推定方法 最尤推定法 ベイズ法
PyMC4開発中止
はじめに 状態空間モデル 状態空間モデル AR(1) モデル AR(p) モデル 状態空間モデルに対する推論 まとめ
はじめに NumPyro基本 ライブラリの準備 確率分布 transoforms モジュール (tfp.bijector相当) 変化点検知 データ モデル 事前分布からのサンプリングでモデルの動作確認 MCMC推論 結果確認
はじめに
はじめに 自己回帰モデル(ARモデル) AR(1) 寄り道:時系列データと独立同分布データ ARCH(1) 最後に
はじめに 混合モデル 単一分布おさらい 混合モデル ガウス混合モデル ポアソン混合モデル 混合モデルの事後分布 更に階層を増やす 最後に
はじめに 例題:正規分布に従っているように見えるデータ $X$ の推論 モデリング再考 事後分布を書き下す 事前分布と超パラメータ グラフィカルモデルの標準的な表記 例題:時系列モデル 時系列データのグラフィカルモデル 最後に
はじめに 確率モデリング 確率変数間の関係性記述 ベイズの定理と条件付き分布 関係性の記述と事後分布の導出 いろいろなパターンの練習 パターン1 パターン2 同時分布とグラフィカルモデル 基本事項 すべて互いに関連 すべて互いに独立 有向グラフ化 関連…
introduction Optimal control What is control problem? optimal control system equation solve the optimal control problem value function belman principle of optimality Belman equation for reinforcement learning Prepare for belman equation sy…
はじめに 使う関数 autograd with pytorch autograd with jax Jax で単回帰
はじめに Pyroで時系列モデリング モジュールのインポート データ 時系列モデルの書き方 学習 検証(バックテスト) 予測
はじめに Tesnor型 dtype その他の重要メソッド empty to numpy detach clone inplace t reshape と view 自動微分 torch.autograd.grad 関数 backwardメソッド 単回帰モデル 最後に
はじめに コード モジュール データ モデル 事前分布からのサンプリング 推論 結果
モジュール データ ガウス過程 カーネル関数 予測 決め打ちハイパーパラメータでの予測 MCMC でのハイパーパラメータ推論 モデル 事前分布からのサンプリング 事後分布の推論 予測分布 ガウス過程関連の記事
はじめに Simple regression prior sampling toy data inference by NUTS result predictive distribution Robust Regression toy data Robust regression model inference and result predictive 最後に
はじめに データ モデル Pyro NumPyro おまけ(推論結果)
はじめに 単一の分布を使ったモデル 正規分布 同時分布の設計 同時分布からのサンプリング Pyroコード ベルヌーイ分布 同時分布の設計 同時分布からのサンプリング Pyroコード カテゴリ分布 同時分布の設計 同時分布からのサンプリング pyroコード 混合モデ…
はじめに 変分ベイズ法あらまし 事後分布とその近似分布 第二種最尤推定 ローカルパラメータとグローバルパラメータ グローバルパラメータ 一旦脱線:同時分布のモデリング ローカルパラメータ 償却推論 ローカルパラメータの事後分布 変分パラメータを予測…
はじめに 特異値分解 定義 特異値分解の嬉しさ 行列の低ランク近似 主成分分析の解法 行列による増幅率を定義 特異値と特異ベクトルの実態 最後に
はじめに データとモデル 確率モデル 確率モデルを作る 複雑なモデルを使うことが最善手であるか モデルの具体的な作り方 モデルの仮定 アンサンブルモデル 点推定モデル 最尤推定 制約付き最尤推定※ (最大事後確率推定) ベイズ予測分布と点推定 ベイズ統…