HELLO CYBERNETICS

深層学習、機械学習、強化学習、信号処理、制御工学、量子計算などをテーマに扱っていきます

機械学習を発展させる3つの立場

機械学習をしようという場合には大きく分けて3つの立場があるように思います。

 

1.機械学習手法の狙いを提案

2.機械学習手法に対する解法を提案

3.機械学習を使ってデータを解析

 

 

 

  • 機械学習は最適化問題を解くということである
    • どちらのアプローチでも構わない
    • 一旦全体像を把握してみる
  • 機械学習手法の3つの立場の流れ
    • 機械学習手法の狙いの提案
    • 機械学習手法に対する解法の提案
    • 機械学習を使ってデータを解析
  • ニューラルネットワークの場合
    • 単純パーセプトロン
    • 多層パーセプトロン
    • 畳み込みニューラルネット

 

続きを読む

評価関数で見る機械学習手法

最近、学習は最適化問題に帰着されるということを自分自身強く意識するようになりました。

そこで有名なSVMや対数線形モデルなどの評価関数を見て、それぞれがどのような狙いを持っているのかを概観してみようと思います。

 

  •  Support Vector Machine
    • 評価関数
    • 解釈
    • ソフトマージン
  • 対数線形モデル
    • 狙い
    • 実際の最適化問題
    • 解釈
  • 正則化
    • 正則化項の取り扱い
    • 評価関数の一般的な取り扱い
  •  正則化と最大事後確率推定(Maximum a-posteriori estimation:MAP推定)
    • 対数線形モデルは最大事後確率推定

 

続きを読む