HELLO CYBERNETICS

深層学習、機械学習、強化学習、信号処理、制御工学、量子計算などをテーマに扱っていきます

【書籍紹介】ガウス過程と機械学習

  • はじめに
  • 目次とコメント
    • 0章 たった5分でガウス過程が分かってしまう
    • 1章 線形回帰モデル
    • 2章 ガウス分布
    • 3章 ガウス過程
    • 4章 確率的生成モデルとガウス過程
    • 5章 ガウス過程の計算法
    • 6章 ガウス過程の適用
    • 7章 ガウス過程による教師なし学習
  • ガウス過程のライブラリ
    • GPy
    • GPyTorch
    • GPflow
続きを読む

【PyTorch】多項式回帰MAP推定・変分ベイズ推論を試す

  • はじめに
    • 利用するモジュール
    • torch.distributions の基本
      • 分布の記述
      • サンプリング
      • 対数尤度の計算
  • MAP推定
    • 用いるデータ
    • モデル
    • 目的関数
    • 学習コード
    • PyTorchっぽく書く
  • 変分推論
    • 変分モデル
    • 目的関数
    • 学習コード
    • 変分推論をPyTorchっぽく書く
続きを読む

CAE・有限要素法のお勉強:ガラーキン法

  • はじめに
  • 有限要素法の下地をひとっ走り
    • 考える微分方程式
    • 解の候補を絞る
    • 解の候補が満たすべき素朴な条件:最小二乗法
    • 解の候補が満たすべき面白い条件:重み付き残差法
    • 欲張りな重み付き残差法
    • 重み付き残差の準備の仕方を決める:ガラーキン法
続きを読む

変分モデルの書き方 Pyro

  • はじめに
  • データの分布形状が既知な場合の推論
    • 問題設定
    • ベイズ推論のためのモデリング
    • 共役事前分布を用いた解析的推論
    • 変分推論
    • Pyro で変分推論
    • 振り返り
  • 追記:変分ベイズ推論を応用した最尤推定、MAP推定
    • MAP推定
    • 最尤推定
続きを読む