HELLO CYBERNETICS

深層学習、機械学習、強化学習、信号処理、制御工学、量子計算などをテーマに扱っていきます

数学

クープマンモード分解とデータドリブン手法の紹介

はじめに クープマンモード分解 準備 クープマンモード分解 まとめ 最後に データドリブン手法へ ニューラルネットワークによる表現

クープマン作用素と非線形状態空間モデルの線形化

はじめに はじめに クープマン作用素と動的システム 動的システムの概要 クープマン作用素 クープマン作用素による線形化 まとめ クープマン作用素の固有関数 クープマン作用素の基底関数を選ぶ例 クープマン作用素の固有関数 元の状態空間モデルと固有関数…

逐次ベイズフィルタ【カルマンフィルタ、粒子フィルタの基礎】

はじめに 必要なパーツ 予測 観測更新 逐次ベイズフィルタの流れ 前提 流れ 予測の密度関数をどう使うのか 各パーツの式展開 予測の密度関数 更新の密度関数 まとめ

【強化学習・変分推論への応用】期待値の勾配推定

はじめに モチベーション 期待値の勾配の計算方法 モンテカルロ近似と再パラメータ化 再パラメータ化できない場合

JAXとPyTorchで勾配法とニュートン法を試す

はじめに 逐次更新による最適化 大枠 勾配法 数式 勾配法コード例 ニュートン法 数式 ニュートン法のコード例

不偏推定量のバリアンスの下限:クラメル・ラオの不等式

はじめに クラメル・ラオの不等式 不偏推定量のバリアンスは一定以上に下がらない 対数尤度関数とその微分 フィッシャー情報量 クラメル・ラオの不等式を導く過程 コーシー・シュワルツの不等式での評価 クラメル・ラオまでの大まかな指針 : 第2項は $0$ ク…

推定量の良し悪し:不偏分散を例に

はじめに 不偏性 推定量 不偏推定量 不偏性を有さない推定 正規分布の分散の推定 不偏推定量は必ずしも良い推定量ではない バリアンス バイアスとバリアンス 両者を考慮した平均二乗誤差 正規分布の不偏分散と標本分散の比較

最尤推定からベイズ推定まで

はじめに データと確率分布 データと確率モデル 推定方法 最尤推定法 ベイズ法

状態空間モデルと推論アルゴリズムの概要

はじめに 状態空間モデル 状態空間モデル AR(1) モデル AR(p) モデル 状態空間モデルに対する推論 まとめ

NumPyroの基本を変化点検知で見る

はじめに NumPyro基本 ライブラリの準備 確率分布 transoforms モジュール (tfp.bijector相当) 変化点検知 データ モデル 事前分布からのサンプリングでモデルの動作確認 MCMC推論 結果確認

確率モデリング:時系列 AR(1) ARCH(1)

はじめに 自己回帰モデル(ARモデル) AR(1) 寄り道:時系列データと独立同分布データ ARCH(1) 最後に

確率モデリング:混合モデルをマスターしよう

はじめに 混合モデル 単一分布おさらい 混合モデル ガウス混合モデル ポアソン混合モデル 混合モデルの事後分布 更に階層を増やす 最後に

確率モデリングと事後分布、事前分布、超パラメータ

はじめに 例題:正規分布に従っているように見えるデータ $X$ の推論 モデリング再考 事後分布を書き下す 事前分布と超パラメータ グラフィカルモデルの標準的な表記 例題:時系列モデル 時系列データのグラフィカルモデル 最後に

確率モデリングのための確率分布の式変形基本【ベイズの定理/グラフィカルモデル】

はじめに 確率モデリング 確率変数間の関係性記述 ベイズの定理と条件付き分布 関係性の記述と事後分布の導出 いろいろなパターンの練習 パターン1 パターン2 同時分布とグラフィカルモデル 基本事項 すべて互いに関連 すべて互いに独立 有向グラフ化 関連…

Pyro on PyTorch の時系列モデリングが超進化していた【HMM】

はじめに Pyroで時系列モデリング モジュールのインポート データ 時系列モデルの書き方 学習 検証(バックテスト) 予測

Jaxでガウス過程 + NumPyroでハイパーパラメータ推論

モジュール データ ガウス過程 カーネル関数 予測 決め打ちハイパーパラメータでの予測 MCMC でのハイパーパラメータ推論 モデル 事前分布からのサンプリング 事後分布の推論 予測分布 ガウス過程関連の記事

【Jax, Numpyro】Regression Model practice

はじめに Simple regression prior sampling toy data inference by NUTS result predictive distribution Robust Regression toy data Robust regression model inference and result predictive 最後に

【PyTorch・Pyro】モデリングレシピ

はじめに 単一の分布を使ったモデル 正規分布 同時分布の設計 同時分布からのサンプリング Pyroコード ベルヌーイ分布 同時分布の設計 同時分布からのサンプリング Pyroコード カテゴリ分布 同時分布の設計 同時分布からのサンプリング pyroコード 混合モデ…

変分ベイズ法と償却推論:ローカルパラメータの効率的推論

はじめに 変分ベイズ法あらまし 事後分布とその近似分布 第二種最尤推定 ローカルパラメータとグローバルパラメータ グローバルパラメータ 一旦脱線:同時分布のモデリング ローカルパラメータ 償却推論 ローカルパラメータの事後分布 変分パラメータを予測…

ベイズ統計

はじめに データとモデル 確率モデル 確率モデルを作る 複雑なモデルを使うことが最善手であるか モデルの具体的な作り方 モデルの仮定 アンサンブルモデル 点推定モデル 最尤推定 制約付き最尤推定※ (最大事後確率推定) ベイズ予測分布と点推定 ベイズ統…

ベイズ統計学の手引

ベイズ統計学のモデリングにおける登場人物 同時分布 統計モデルと事前分布 尤度関数 事後分布 周辺尤度 まとめ 寄り道 ベイズ予測分布 回帰の例 同時分布設計 事後分布 ベイズ予測分布

Pyro on PyTorchでベイズ予測分布(MAP推定、変分推論、MCMC)

はじめに Pyroおさらい データ モデル MAP推定 変分推論 変分近似分布 推論 予測 MCMC MCMCの実行 事後分布 予測分布

確率的プログラミング言語 pyro 基本

はじめに Pyro primitives 確率変数の実現値 sample 条件付き独立のベクトル化 plate 階層モデル 変分パラメータを扱う param poutine モデルの様子を把握する trace 条件付き分布の作成 condition まとめと変分推論の例

ニューラルネットワークを用いた近年の変分推論2

はじめに ベイズ推論基本 ベイズ推論 ベイズ予測分布 変分推論 変分推論のアルゴリズム Normalizing Flows 確率分布の変換規則 変分推論への組み込み 具体的な変換の例 planner flow radius flow inverse autoregressive flow flow VAE VAE 基本 flow VAE

確率的プログラミング言語 Pyro vs TensorFlow Probability

モデルの書き方 edward2 pyro tfp 対数同時確率の得方 edward2 pyro tfp

TensorFlow probabilityでレプリカ交換モンテカルロ法

はじめに データ モデル 遷移核 あとは回すだけ

【陰関数微分】一入力一出力から多入力多出力まで

はじめに 微分 微分係数 導関数 線形近似 多変数関数の微分 微分の通常の表記 陰関数 陰関数 陰関数の微分 多変数入力の陰関数微分 多変数出力の陰関数 多入力多出力の陰関数

標本数が多い場合の標本平均はガウス分布になる誤解の多い話

はじめに 中心極限定理 標本数 なぜに標本数を必要とするか 標本平均 標本平均の分布の極限 中心極限定理の誤用 データで見る標本平均の分布 ある標本の分布(データの分布) とある標本の代表値:標本平均 1000人の研究者に協力してもらう 本当の中心極限定…

ニューラルネットワークを用いた近年の変分推論1

はじめに 変分推論 モデルの書き方 立てたモデルに対する変分近似分布 変分推論 EMアルゴリズムの発展としての変分推論 変分推論の違った見方 近似したいという動機 近似のための損失関数の分解 期待値のサンプリングによる近似 事前分布と変分近似分布のKL…

【ロバスト回帰】最小二乗法と最小絶対値法

ロバスト回帰 単回帰 最小二乗法 最小絶対値法 MSEとMAEの比較 ライブラリをインポート 扱うデータの可視化 モデル構築 学習 結果の可視化 最小絶対値法なんてしていいの? 確率モデル ラプラス分布とガウス分布 最尤推定でやってみる