HELLO CYBERNETICS

深層学習、機械学習、強化学習、信号処理、制御工学、量子計算などをテーマに扱っていきます

不偏推定量のバリアンスの下限:クラメル・ラオの不等式

  • はじめに
  • クラメル・ラオの不等式
    • 不偏推定量のバリアンスは一定以上に下がらない
    • 対数尤度関数とその微分
    • フィッシャー情報量
  • クラメル・ラオの不等式を導く過程
    • コーシー・シュワルツの不等式での評価
    • クラメル・ラオまでの大まかな指針 : 第2項は $0$
    • クラメル・ラオまでの大まかな指針 : 第1項は $1$
    • 今回のクラメル・ラオの不等式の前提
    • $\theta$ が多変数の場合
  • 参考文献
続きを読む

推定量の良し悪し:不偏分散を例に

  • はじめに
  • 不偏性
    • 推定量
    • 不偏推定量
    • 不偏性を有さない推定
    • 正規分布の分散の推定
  • 不偏推定量は必ずしも良い推定量ではない
    • バリアンス
    • バイアスとバリアンス
    • 両者を考慮した平均二乗誤差
    • 正規分布の不偏分散と標本分散の比較
続きを読む