HELLO CYBERNETICS

深層学習、機械学習、強化学習、信号処理、制御工学、量子計算などをテーマに扱っていきます

数学-確率・統計

【ロバスト回帰】最小二乗法と最小絶対値法

ロバスト回帰 単回帰 最小二乗法 最小絶対値法 MSEとMAEの比較 ライブラリをインポート 扱うデータの可視化 モデル構築 学習 結果の可視化 最小絶対値法なんてしていいの? 確率モデル ラプラス分布とガウス分布 最尤推定でやってみる

【今更聞けない、いや今すぐ聞け】一致推定量と不偏推定量

はじめに:推定量とは 一致推定量 不偏推定量 最後に

TFPで階層モデルを書くときの便利なクラス tfd.JointDistributionCoroutine

はじめに 環境 階層モデル 例:モデル コード

ベイズの定理を使わずに事後分布の推論

はじめに グラフィカルモデリング グラフィカルモデルと同時分布 グラフィカルモデリング まとめ 正規分布のパラメータの事後分布 回帰問題のモデリング

KL reverseとKL forwardのメモ

はじめに KLダイバージェンス 表記に関する注意事項 確率分布間の比較 ダイバージェンスの非対称性 KL reverseの計算 KL forwardの計算 確率分布の形状再考 変分推論では KL reverseを利用する

変分モデルの書き方 Pyro

はじめに データの分布形状が既知な場合の推論 問題設定 ベイズ推論のためのモデリング 共役事前分布を用いた解析的推論 変分推論 Pyro で変分推論 振り返り 追記:変分ベイズ推論を応用した最尤推定、MAP推定 MAP推定 最尤推定

確率的プログラミング言語Pyroと変分ベイズ推論の基本

はじめに ベイズ推論 モデリング 事後分布 予測分布 実際に使われる予測分布 Pyroの基本 Pyroの確率変数の取扱 Pyroのハイパーパラメータの取扱 Pyroでの変分パラメータの取扱 変分ベイズ推論のコード:確率モデル 変分モデル 学習コード 変分推論のカスタマ…

変分ベイズ法の心2

はじめに 変分ベイズ法の戦略 基本の復習 分布の評価指標 ELBO 変分ベイズ法の具体的手段 関数 $q$ をどのように置くのか はじめに 下記記事の続きで、お気持ちは理解している前提で進みます。 www.hellocybernetics.tech 変分ベイズ法の戦略 基本の復習 デ…

変分ベイズ法の心

ベイズ推論の基本 変分ベイズ学習 変分法の心 変分ベイズ法の戦略 ベイズ推論の基本 ベイズモデリングの概要については下記の記事を参考にしてください。 www.hellocybernetics.tech 概要をさらっとなぞると、ベイズ推論の基本的な話としては、観測データ $x…

ベイズモデリング勉強の外観

はじめに 上記発言の意図 アヒル本 須山ベイズ 渡辺ベイズ 確率モデリング 確率モデリングの概要 確率モデリング手順 予測モデル MAP推定値 EAP推定値 ベイズ予測分布 ベイズモデリングのまとめ はじめに 今回は下記のツイートが割と評判が合ったので、少し…

TensorFlow Probability コードメモ ① 確率分布周りの基本と最尤推定

【主成分分析(PCA)まとめ】分散最大化・確率的主成分分析・ベイズ主成分分析(MAP推定)まで

【確率的プログラミング】Edward2, Pyro, PyStanのベイズ線形回帰コードメモ

【凄く楽しいぞ!Stan!】給料モデリング【Python】

TensorFlow Probabilityでガウシアンプロセス回帰の最尤推定を実行してみる

【データ解析の基本中の基本】どういうデータを使うときにどういう解析をするのか

【機械学習ステップアップ】ベイズモデルの考え方

【機械学習ステップアップ】確率モデルの考え方

機械学習の予測モデルを一般化線形モデルで考える概要+ロジスティック回帰

【書評】ベイズ推論による機械学習入門

ベイズの勉強に良さそうな記事まとめ

【ベイズ推定って結局何なの?Part2】

統計物理学と機械学習の関係

【ベイズ推定って結局何なの?】

確率変数と確率質量関数・確率密度関数

統計学の考え方を抑えて機械学習との関連と相違を整理

確率の基本の基本

機械学習の重要なアプローチ:ベイズ理論

最大事後確率推定(MAP推定)の基本

機械学習のための確率基礎とベイズの定理

今回は機械学習の数式を追えるようになるために必要と思われ確率の基礎を記事にします。数式を追うための講座なので、確率がなんたるものなのかはある程度知っている前提とし、様々な確率の公式や定理がどのように使われるのかを見て行きたいと思います。 複…