読者です 読者をやめる 読者になる 読者になる

底辺大学の院生がプログラミングや機械学習を勉強するブログ

勉強していることを雑にまとめるブログ。当然、正しさの保証は一切しない。

PRML

3.3 ベイズ線形回帰

昨日は線形基底関数モデルを用いて回帰を行った。 telltale.hatenablog.com 今日は同じ回帰問題をベイズ的アプローチで解くベイズ線形回帰について勉強する。 ベイズ線形回帰 ベイズ的なアプローチの最終目標は、を観測した条件の下でのの分布を得ることだ。…

3.1 線形基底関数モデル

PRML上巻の主題は、代表的な学習問題である「回帰」と「識別」である。このうち「回帰」問題の目標は、ある観測値とそれに対する目標値からなる訓練集合が与えられたとき、新たな入力に対する未知の目標値を予測することである。例えば、1、4、5、2という入…

1.2.3 ベイズ確率(+BPSKのビット判定)

最尤推定の説明がこのページだけだと分かりづらいから、実際に推定問題を解いてみて理解してみる。 個人的には信号のビット判定問題が直感的に分かりやすいと思う。(デジタル通信についての知識が必要だけど) 問題 BPSKの信号点は、実軸上に2つ現れる形式…

続き:多項式曲線フィッティング

昨日の続き。 二乗和誤差関数を最小にするような係数ベクトルを計算することで、様々な非線型関数へのフィッティングが出来るらしい。 そのためには例のをで偏微分して0とおいた方程式を個作って、その連立方程式を解けばいいらしい。頑張ればやれるだろうけ…

1.1 例:多項式曲線フィッティング

1行目「まず最初に単純な回帰問題から始めよう.」 ……。 回帰問題ってなんやねん!!!! 回帰分析 回帰(かいき、英: regression)とは、統計学において、Y が連続値の時にデータに Y = f(X) というモデル(「定量的な関係の構造[1]」)を当てはめる事。別の…