HELLO CYBERNETICS

深層学習、機械学習、強化学習、信号処理、制御工学、量子計算などをテーマに扱っていきます

評価指標入門の感想

はじめに 誰向けか 顧客や自身の部下などにデータサイエンスを説明をしなければならない立場の人 機械学習のアルゴリズムには詳しいけどビジネス貢献ってどうやってやるの?という人 データサイエンスのプロジェクトを管理する人 機械学習やデータサイエンス…

外乱オブザーバーを用いた制御則(LQR)の修正

はじめに 理想的な状況下での制御 制御対象のシステム 外乱が存在しない例 外乱が存在するが既知の例 現実の状況下での制御 外乱が存在するが考慮しない例 外乱を推定し補償した例 コード例 さいごに

台車型倒立振子(CartPole)に最適制御

はじめに LQRによる制御 制御対象の状態空間モデル LQR LQRのコード例 未知の外乱が生じる場合 最後に

カルマンフィルタを用いた外乱オブザーバー

はじめに 外乱オブザーバー システムモデルの定義 外乱を含んだ拡大システムモデルの定義 カルマンフィルタの設計 アルゴリズムの実装 数値実験 対象のモデル コード 参考図書

クープマンモード分解とデータドリブン手法の紹介

はじめに クープマンモード分解 準備 クープマンモード分解 まとめ 最後に データドリブン手法へ ニューラルネットワークによる表現

クープマン作用素と非線形状態空間モデルの線形化

はじめに はじめに クープマン作用素と動的システム 動的システムの概要 クープマン作用素 クープマン作用素による線形化 まとめ クープマン作用素の固有関数 クープマン作用素の基底関数を選ぶ例 クープマン作用素の固有関数 元の状態空間モデルと固有関数…

JuliaでExtended Kalman Filterを書いてみる

はじめに 拡張カルマンフィルタのモジュールを作成する 拡張カルマンフィルタを使ってみる

Python利用者がJuliaに入門してみる

はじめに 関数の書き方 簡単な足し算、引き算、複数の戻り値 デフォルト引数とキーワード引数 型指定 クラスの書き方 構造体に変数と関数をもたせる 構造体に変数をもたせ、関数を分離する 最後に

機械学習の基礎への入門:統計的学習理論の初歩

はじめに 学習 汎化性能を最も良くする仮説 学習で得られる仮説とベイズ規則、その誤差の比較 バイアスとバリアンス

統計・機械学習による異常検知の本紹介

はじめに 異常検知と変化検知 / 井手 剛・杉山 将 難易度 3 入門機械学習による異常検知 / 井手 剛 難易度 2 pythonによる異常検知 / 曽我部 東馬 難易度 1 まとめ

(データを扱う)ビジネスマン全てにおすすめの本

はじめに データ分析:実用系 Kaggleで勝つデータ分析の技術 ウェブ最適化ではじめる機械学習 データ分析:因果推論 入門 統計的因果推論 計量経済学 大人の教養 世界標準の経営理論 科学的に正しい筋トレ 最強の教科書 落合務のパーフェクトレシピ

逐次ベイズフィルタ【カルマンフィルタ、粒子フィルタの基礎】

はじめに 必要なパーツ 予測 観測更新 逐次ベイズフィルタの流れ 前提 流れ 予測の密度関数をどう使うのか 各パーツの式展開 予測の密度関数 更新の密度関数 まとめ

【強化学習・変分推論への応用】期待値の勾配推定

はじめに モチベーション 期待値の勾配の計算方法 モンテカルロ近似と再パラメータ化 再パラメータ化できない場合

ベイズニューラルネットワーク基本

はじめに ベイズニューラルネットワーク 確率モデルとしてのベイズニューラルネットワーク ベイズニューラルネット 事後分布の推論 応用上の参考

ニューラルネットワーク正則化とMAP推定

はじめに 決定論的なニューラルネットワーク ニューラルネットワーク 学習 ニューラルネットワークの最尤推定 正則化 MAP推定と正則化の関連

Jax, PyTorch 直線探索付き勾配法

はじめに モジュールインポート Jax 勾配関数と線形探索関数を準備 最適化実行 PyTorch 線形探索関数準備 最適化実行 結果

JAXとPyTorchで勾配法とニュートン法を試す

はじめに 逐次更新による最適化 大枠 勾配法 数式 勾配法コード例 ニュートン法 数式 ニュートン法のコード例

不偏推定量のバリアンスの下限:クラメル・ラオの不等式

はじめに クラメル・ラオの不等式 不偏推定量のバリアンスは一定以上に下がらない 対数尤度関数とその微分 フィッシャー情報量 クラメル・ラオの不等式を導く過程 コーシー・シュワルツの不等式での評価 クラメル・ラオまでの大まかな指針 : 第2項は $0$ ク…

推定量の良し悪し:不偏分散を例に

はじめに 不偏性 推定量 不偏推定量 不偏性を有さない推定 正規分布の分散の推定 不偏推定量は必ずしも良い推定量ではない バリアンス バイアスとバリアンス 両者を考慮した平均二乗誤差 正規分布の不偏分散と標本分散の比較

【書評】アルゴリズムとデータ構造:プログラミング中上級者への架け橋

紹介 特徴

最尤推定からベイズ推定まで

はじめに データと確率分布 データと確率モデル 推定方法 最尤推定法 ベイズ法

期待のPPL "PyMC4 on TensorFlow Probability" が開発中止決定

PyMC4開発中止

状態空間モデルと推論アルゴリズムの概要

はじめに 状態空間モデル 状態空間モデル AR(1) モデル AR(p) モデル 状態空間モデルに対する推論 まとめ

NumPyroの基本を変化点検知で見る

はじめに NumPyro基本 ライブラリの準備 確率分布 transoforms モジュール (tfp.bijector相当) 変化点検知 データ モデル 事前分布からのサンプリングでモデルの動作確認 MCMC推論 結果確認

TensorFlow User Group ベイズ分科会の資料 PPLについて

はじめに

確率モデリング:時系列 AR(1) ARCH(1)

はじめに 自己回帰モデル(ARモデル) AR(1) 寄り道:時系列データと独立同分布データ ARCH(1) 最後に

確率モデリング:混合モデルをマスターしよう

はじめに 混合モデル 単一分布おさらい 混合モデル ガウス混合モデル ポアソン混合モデル 混合モデルの事後分布 更に階層を増やす 最後に

確率モデリングと事後分布、事前分布、超パラメータ

はじめに 例題:正規分布に従っているように見えるデータ $X$ の推論 モデリング再考 事後分布を書き下す 事前分布と超パラメータ グラフィカルモデルの標準的な表記 例題:時系列モデル 時系列データのグラフィカルモデル 最後に

確率モデリングのための確率分布の式変形基本【ベイズの定理/グラフィカルモデル】

はじめに 確率モデリング 確率変数間の関係性記述 ベイズの定理と条件付き分布 関係性の記述と事後分布の導出 いろいろなパターンの練習 パターン1 パターン2 同時分布とグラフィカルモデル 基本事項 すべて互いに関連 すべて互いに独立 有向グラフ化 関連…

Optimal control to reinforcement learning

introduction Optimal control What is control problem? optimal control system equation solve the optimal control problem value function belman principle of optimality Belman equation for reinforcement learning Prepare for belman equation sy…