数学
はじめに クープマンモード分解 準備 クープマンモード分解 まとめ 最後に データドリブン手法へ ニューラルネットワークによる表現
はじめに はじめに クープマン作用素と動的システム 動的システムの概要 クープマン作用素 クープマン作用素による線形化 まとめ クープマン作用素の固有関数 クープマン作用素の基底関数を選ぶ例 クープマン作用素の固有関数 元の状態空間モデルと固有関数…
はじめに 必要なパーツ 予測 観測更新 逐次ベイズフィルタの流れ 前提 流れ 予測の密度関数をどう使うのか 各パーツの式展開 予測の密度関数 更新の密度関数 まとめ
はじめに モチベーション 期待値の勾配の計算方法 モンテカルロ近似と再パラメータ化 再パラメータ化できない場合
はじめに 逐次更新による最適化 大枠 勾配法 数式 勾配法コード例 ニュートン法 数式 ニュートン法のコード例
はじめに クラメル・ラオの不等式 不偏推定量のバリアンスは一定以上に下がらない 対数尤度関数とその微分 フィッシャー情報量 クラメル・ラオの不等式を導く過程 コーシー・シュワルツの不等式での評価 クラメル・ラオまでの大まかな指針 : 第2項は $0$ ク…
はじめに 不偏性 推定量 不偏推定量 不偏性を有さない推定 正規分布の分散の推定 不偏推定量は必ずしも良い推定量ではない バリアンス バイアスとバリアンス 両者を考慮した平均二乗誤差 正規分布の不偏分散と標本分散の比較
はじめに データと確率分布 データと確率モデル 推定方法 最尤推定法 ベイズ法
はじめに 状態空間モデル 状態空間モデル AR(1) モデル AR(p) モデル 状態空間モデルに対する推論 まとめ
はじめに NumPyro基本 ライブラリの準備 確率分布 transoforms モジュール (tfp.bijector相当) 変化点検知 データ モデル 事前分布からのサンプリングでモデルの動作確認 MCMC推論 結果確認
はじめに 自己回帰モデル(ARモデル) AR(1) 寄り道:時系列データと独立同分布データ ARCH(1) 最後に
はじめに 混合モデル 単一分布おさらい 混合モデル ガウス混合モデル ポアソン混合モデル 混合モデルの事後分布 更に階層を増やす 最後に
はじめに 例題:正規分布に従っているように見えるデータ $X$ の推論 モデリング再考 事後分布を書き下す 事前分布と超パラメータ グラフィカルモデルの標準的な表記 例題:時系列モデル 時系列データのグラフィカルモデル 最後に
はじめに 確率モデリング 確率変数間の関係性記述 ベイズの定理と条件付き分布 関係性の記述と事後分布の導出 いろいろなパターンの練習 パターン1 パターン2 同時分布とグラフィカルモデル 基本事項 すべて互いに関連 すべて互いに独立 有向グラフ化 関連…
はじめに Pyroで時系列モデリング モジュールのインポート データ 時系列モデルの書き方 学習 検証(バックテスト) 予測
モジュール データ ガウス過程 カーネル関数 予測 決め打ちハイパーパラメータでの予測 MCMC でのハイパーパラメータ推論 モデル 事前分布からのサンプリング 事後分布の推論 予測分布 ガウス過程関連の記事
はじめに Simple regression prior sampling toy data inference by NUTS result predictive distribution Robust Regression toy data Robust regression model inference and result predictive 最後に
はじめに 単一の分布を使ったモデル 正規分布 同時分布の設計 同時分布からのサンプリング Pyroコード ベルヌーイ分布 同時分布の設計 同時分布からのサンプリング Pyroコード カテゴリ分布 同時分布の設計 同時分布からのサンプリング pyroコード 混合モデ…
はじめに 変分ベイズ法あらまし 事後分布とその近似分布 第二種最尤推定 ローカルパラメータとグローバルパラメータ グローバルパラメータ 一旦脱線:同時分布のモデリング ローカルパラメータ 償却推論 ローカルパラメータの事後分布 変分パラメータを予測…
はじめに データとモデル 確率モデル 確率モデルを作る 複雑なモデルを使うことが最善手であるか モデルの具体的な作り方 モデルの仮定 アンサンブルモデル 点推定モデル 最尤推定 制約付き最尤推定※ (最大事後確率推定) ベイズ予測分布と点推定 ベイズ統…
ベイズ統計学のモデリングにおける登場人物 同時分布 統計モデルと事前分布 尤度関数 事後分布 周辺尤度 まとめ 寄り道 ベイズ予測分布 回帰の例 同時分布設計 事後分布 ベイズ予測分布
はじめに Pyroおさらい データ モデル MAP推定 変分推論 変分近似分布 推論 予測 MCMC MCMCの実行 事後分布 予測分布
はじめに Pyro primitives 確率変数の実現値 sample 条件付き独立のベクトル化 plate 階層モデル 変分パラメータを扱う param poutine モデルの様子を把握する trace 条件付き分布の作成 condition まとめと変分推論の例
はじめに ベイズ推論基本 ベイズ推論 ベイズ予測分布 変分推論 変分推論のアルゴリズム Normalizing Flows 確率分布の変換規則 変分推論への組み込み 具体的な変換の例 planner flow radius flow inverse autoregressive flow flow VAE VAE 基本 flow VAE
モデルの書き方 edward2 pyro tfp 対数同時確率の得方 edward2 pyro tfp
はじめに データ モデル 遷移核 あとは回すだけ
はじめに 微分 微分係数 導関数 線形近似 多変数関数の微分 微分の通常の表記 陰関数 陰関数 陰関数の微分 多変数入力の陰関数微分 多変数出力の陰関数 多入力多出力の陰関数
はじめに 中心極限定理 標本数 なぜに標本数を必要とするか 標本平均 標本平均の分布の極限 中心極限定理の誤用 データで見る標本平均の分布 ある標本の分布(データの分布) とある標本の代表値:標本平均 1000人の研究者に協力してもらう 本当の中心極限定…
はじめに 変分推論 モデルの書き方 立てたモデルに対する変分近似分布 変分推論 EMアルゴリズムの発展としての変分推論 変分推論の違った見方 近似したいという動機 近似のための損失関数の分解 期待値のサンプリングによる近似 事前分布と変分近似分布のKL…
ロバスト回帰 単回帰 最小二乗法 最小絶対値法 MSEとMAEの比較 ライブラリをインポート 扱うデータの可視化 モデル構築 学習 結果の可視化 最小絶対値法なんてしていいの? 確率モデル ラプラス分布とガウス分布 最尤推定でやってみる