HELLO CYBERNETICS

深層学習、機械学習、強化学習、信号処理、制御工学などをテーマに扱っていきます

数学

【機械学習ステップアップ】ベイズモデルの考え方

【機械学習ステップアップ】確率モデルの考え方

多項式回帰と重回帰と多重共線性を考えてたらわからんくなった

機械学習の予測モデルを一般化線形モデルで考える概要+ロジスティック回帰

点と点の距離を測る方法を凸関数から見る

【書評】ベイズ推論による機械学習入門

ベイズの勉強に良さそうな記事まとめ

統計物理学と機械学習の関係

【ベイズ推定って結局何なの?】

連立方程式から始める機械学習

確率変数と確率質量関数・確率密度関数

線形空間から多様体の基本までを一気通貫

【正比例から】基礎からの微分と線形代数への再入門

機械学習のための集合・写像

Tom_Brown 6117

世界の終焉とハノイの塔

Chainerで勾配法の基礎の基礎を確認【ニューラルネット入門】

勾配法はニューラルネットワークの学習の基礎になります。基本的な問題を見て、勾配法を確認してみましょう。

理系大学入学後にどん詰まる「ε-δ論法」について

統計学の考え方を抑えて機械学習との関連と相違を整理

確率の基本の基本

ラプラス変換とフーリエ変換

法律を使うために、まず憲法を学ぶか

機械学習の重要なアプローチ:ベイズ理論

最大事後確率推定(MAP推定)の基本

ニューラルネットのための最適化数学

はじめに 最適化数学 最適化問題の簡単な例 例題の解法 微分による解法の注意点 凸最適化問題 凸関数 凸関数の定義 ニューラルネットの学習 ニューラルネットの目的関数 ニューラルネットの勾配降下法 パラメータを求める戦略 勾配降下法 ニューラルネットの…

知っておくべき特殊な行列と便利な性質 (大学学部生の方にもおすすめ)

はじめに 基礎編:特殊な行列 対称行列 直交行列 一般の行列 基礎編:逆行列と行列式 逆行列とは 行列式とは ランク落ち 応用編:固有値問題 固有値と固有ベクトルと固有値問題 固有値問題 表記整える 対角化 応用編:対称行列と直交行列での対角化 対称行列…

TensorFlowを始める前に知っておくべきテンソルのこと(追記:より一般的な話題へ)

TensorFlowとは Googleが開発したライブラリ Tensorとは Tensorとは多次元配列のこと Tensorの名前を与える 数式に落としこむ データとテンソル グレースケール画像は2階テンソル RGB画像は3階テンソル インデックスは人間が決めていい 注意点 余談 1階のテ…

ダイバージェンス関数を数学の立場から概観

機械学習で現れるダイバージェンスといえばご存知KLダイバージェンスがあります。 KLダイバージェンスは学習をする際の評価関数として用いられることもありますが、二乗誤差などに比べ、なぜにこの関数が評価関数として妥当なのか納得しづらいところです。 …

見たら瞬時に理解すべき数式

機械学習で現れる数式に関して、これを見たら瞬時に理解すべきものを載せておきます。 機械学習で現れる数式には大量の添字があり、それらのせいで一体どのような計算が行われているのかを瞬時に把握するのが難しくなっています。しかしもはやこれは慣れの問…

機械学習を学ぶ上で抑えておきたい数学2

機械学習や深層学習を学ぶ上で、数学は言語である 線形代数学 行列とベクトルは連立方程式を解くための記法 機械学習での活躍 どこまで学ぶか 最適化数学 学習とは 教師あり学習 教師なし学習 最適化を行う際の重要ワード「正則化」 どこまで学ぶ必要がある…

一次元の正規分布から多次元正規分布へ

確率・統計の基礎的な数式・統計量が分かるようになったところで、機械学習に進もうと思ってぶつかるのが多次元の壁です。一次元なら分かるんだけども、多次元になるとサッパリわからないというのは、線形代数の数式がわからないからに他ならないのですが、…