昨日は線形基底関数モデルを用いて回帰を行った。 telltale.hatenablog.com 今日は同じ回帰問題をベイズ的アプローチで解くベイズ線形回帰について勉強する。 ベイズ線形回帰 ベイズ的なアプローチの最終目標は、を観測した条件の下でのの分布を得ることだ。…

PRML上巻の主題は、代表的な学習問題である「回帰」と「識別」である。このうち「回帰」問題の目標は、ある観測値とそれに対する目標値からなる訓練集合が与えられたとき、新たな入力に対する未知の目標値を予測することである。例えば、1、4、5、2という入…

最尤推定の説明がこのページだけだと分かりづらいから、実際に推定問題を解いてみて理解してみる。 個人的には信号のビット判定問題が直感的に分かりやすいと思う。（デジタル通信についての知識が必要だけど） 問題 BPSKの信号点は、実軸上に2つ現れる形式…

昨日の続き。 二乗和誤差関数を最小にするような係数ベクトルを計算することで、様々な非線型関数へのフィッティングが出来るらしい。 そのためには例のをで偏微分して0とおいた方程式を個作って、その連立方程式を解けばいいらしい。頑張ればやれるだろうけ…

１行目「まず最初に単純な回帰問題から始めよう．」 ……。 回帰問題ってなんやねん！！！！ 回帰分析 回帰（かいき、英: regression）とは、統計学において、Y が連続値の時にデータに Y = f(X) というモデル(「定量的な関係の構造[1]」)を当てはめる事。別の…