HELLO CYBERNETICS

深層学習、機械学習、強化学習、信号処理、制御工学、量子計算などをテーマに扱っていきます

逐次ベイズフィルタ【カルマンフィルタ、粒子フィルタの基礎】

はじめに 必要なパーツ 予測 観測更新 逐次ベイズフィルタの流れ 前提 流れ 予測の密度関数をどう使うのか 各パーツの式展開 予測の密度関数 更新の密度関数 まとめ

【強化学習・変分推論への応用】期待値の勾配推定

はじめに モチベーション 期待値の勾配の計算方法 モンテカルロ近似と再パラメータ化 再パラメータ化できない場合

ベイズニューラルネットワーク基本

はじめに ベイズニューラルネットワーク 確率モデルとしてのベイズニューラルネットワーク ベイズニューラルネット 事後分布の推論 応用上の参考

ニューラルネットワーク正則化とMAP推定

はじめに 決定論的なニューラルネットワーク ニューラルネットワーク 学習 ニューラルネットワークの最尤推定 正則化 MAP推定と正則化の関連

Jax, PyTorch 直線探索付き勾配法

はじめに モジュールインポート Jax 勾配関数と線形探索関数を準備 最適化実行 PyTorch 線形探索関数準備 最適化実行 結果

JAXとPyTorchで勾配法とニュートン法を試す

はじめに 逐次更新による最適化 大枠 勾配法 数式 勾配法コード例 ニュートン法 数式 ニュートン法のコード例

不偏推定量のバリアンスの下限:クラメル・ラオの不等式

はじめに クラメル・ラオの不等式 不偏推定量のバリアンスは一定以上に下がらない 対数尤度関数とその微分 フィッシャー情報量 クラメル・ラオの不等式を導く過程 コーシー・シュワルツの不等式での評価 クラメル・ラオまでの大まかな指針 : 第2項は $0$ ク…

推定量の良し悪し:不偏分散を例に

はじめに 不偏性 推定量 不偏推定量 不偏性を有さない推定 正規分布の分散の推定 不偏推定量は必ずしも良い推定量ではない バリアンス バイアスとバリアンス 両者を考慮した平均二乗誤差 正規分布の不偏分散と標本分散の比較

【書評】アルゴリズムとデータ構造:プログラミング中上級者への架け橋

紹介 特徴

最尤推定からベイズ推定まで

はじめに データと確率分布 データと確率モデル 推定方法 最尤推定法 ベイズ法

期待のPPL "PyMC4 on TensorFlow Probability" が開発中止決定

PyMC4開発中止

状態空間モデルと推論アルゴリズムの概要

はじめに 状態空間モデル 状態空間モデル AR(1) モデル AR(p) モデル 状態空間モデルに対する推論 まとめ

NumPyroの基本を変化点検知で見る

はじめに NumPyro基本 ライブラリの準備 確率分布 transoforms モジュール (tfp.bijector相当) 変化点検知 データ モデル 事前分布からのサンプリングでモデルの動作確認 MCMC推論 結果確認

TensorFlow User Group ベイズ分科会の資料 PPLについて

はじめに

確率モデリング:時系列 AR(1) ARCH(1)

はじめに 自己回帰モデル(ARモデル) AR(1) 寄り道:時系列データと独立同分布データ ARCH(1) 最後に

確率モデリング:混合モデルをマスターしよう

はじめに 混合モデル 単一分布おさらい 混合モデル ガウス混合モデル ポアソン混合モデル 混合モデルの事後分布 更に階層を増やす 最後に

確率モデリングと事後分布、事前分布、超パラメータ

はじめに 例題:正規分布に従っているように見えるデータ $X$ の推論 モデリング再考 事後分布を書き下す 事前分布と超パラメータ グラフィカルモデルの標準的な表記 例題:時系列モデル 時系列データのグラフィカルモデル 最後に

確率モデリングのための確率分布の式変形基本【ベイズの定理/グラフィカルモデル】

はじめに 確率モデリング 確率変数間の関係性記述 ベイズの定理と条件付き分布 関係性の記述と事後分布の導出 いろいろなパターンの練習 パターン1 パターン2 同時分布とグラフィカルモデル 基本事項 すべて互いに関連 すべて互いに独立 有向グラフ化 関連…

Optimal control to reinforcement learning

introduction Optimal control What is control problem? optimal control system equation solve the optimal control problem value function belman principle of optimality Belman equation for reinforcement learning Prepare for belman equation sy…

jaxのautogradをpytorchのautogradと比較、単回帰まで(速度比較追加)

はじめに 使う関数 autograd with pytorch autograd with jax Jax で単回帰

Pyro on PyTorch の時系列モデリングが超進化していた【HMM】

はじめに Pyroで時系列モデリング モジュールのインポート データ 時系列モデルの書き方 学習 検証(バックテスト) 予測

【PyTorch入門】Tensorの扱いから単回帰まで

はじめに Tesnor型 dtype その他の重要メソッド empty to numpy detach clone inplace t reshape と view 自動微分 torch.autograd.grad 関数 backwardメソッド 単回帰モデル 最後に

NumPyroとJax Numpyで時系列

はじめに コード モジュール データ モデル 事前分布からのサンプリング 推論 結果

Jaxでガウス過程 + NumPyroでハイパーパラメータ推論

モジュール データ ガウス過程 カーネル関数 予測 決め打ちハイパーパラメータでの予測 MCMC でのハイパーパラメータ推論 モデル 事前分布からのサンプリング 事後分布の推論 予測分布 ガウス過程関連の記事

【Jax, Numpyro】Regression Model practice

はじめに Simple regression prior sampling toy data inference by NUTS result predictive distribution Robust Regression toy data Robust regression model inference and result predictive 最後に

【Jax NumPyro vs PyTorch Pyro】階層ベイズモデルMCMC対決

はじめに データ モデル Pyro NumPyro おまけ(推論結果)

【PyTorch・Pyro】モデリングレシピ

はじめに 単一の分布を使ったモデル 正規分布 同時分布の設計 同時分布からのサンプリング Pyroコード ベルヌーイ分布 同時分布の設計 同時分布からのサンプリング Pyroコード カテゴリ分布 同時分布の設計 同時分布からのサンプリング pyroコード 混合モデ…

変分ベイズ法と償却推論:ローカルパラメータの効率的推論

はじめに 変分ベイズ法あらまし 事後分布とその近似分布 第二種最尤推定 ローカルパラメータとグローバルパラメータ グローバルパラメータ 一旦脱線:同時分布のモデリング ローカルパラメータ 償却推論 ローカルパラメータの事後分布 変分パラメータを予測…

E資格で必須の特異値分解解説

はじめに 特異値分解 定義 特異値分解の嬉しさ 行列の低ランク近似 主成分分析の解法 行列による増幅率を定義 特異値と特異ベクトルの実態 最後に

ベイズ統計

はじめに データとモデル 確率モデル 確率モデルを作る 複雑なモデルを使うことが最善手であるか モデルの具体的な作り方 モデルの仮定 アンサンブルモデル 点推定モデル 最尤推定 制約付き最尤推定※ (最大事後確率推定) ベイズ予測分布と点推定 ベイズ統…