Embed Size (px)
Citation preview
8/14/2019 PRML_Exercise4.3
http://slidepdf.com/reader/full/prmlexercise43 1/8
問題4.3
8/14/2019 PRML_Exercise4.3
http://slidepdf.com/reader/full/prmlexercise43 2/8
問題 4.2 (www)• 式(4.15)の2乗誤差関数を最小化する場合を考える。もし学習
セットの中のすべてのターゲットベクトルは式(4.157)のような線形拘束を満足なら、式(4.17)で得たモデルの予測y(x)もこの拘束
(4.157)を満たす。(tnは式(4.15)中の行列Tのn番目の行)
Hit:基底関数中の一つ と仮定、この場合対応するパ
ラメータ はバイアスの機能をすることになる。
Á0(x) = 1
w0
8/14/2019 PRML_Exercise4.3
http://slidepdf.com/reader/full/prmlexercise43 3/8
問題4.2解答(www)
~wk= (w
k0;wT
k)T ~x = (1;xT)T
式(4.14)中： ~W =¡~w1
: : : ~wK
¢
式(114)の右をw0 について微分すると になる
式の中1はN次元ベクトル、w0 はK次元ベクトル(w
10
; w20
; : : : ; wK 0
)
8/14/2019 PRML_Exercise4.3
http://slidepdf.com/reader/full/prmlexercise43 4/8
=0
その中
その中
その中
@E D(W)
@ W= 0
8/14/2019 PRML_Exercise4.3
http://slidepdf.com/reader/full/prmlexercise43 5/8
新しい入力 の予測を考える
一方：
を式(4.157)に代入する
T =
1CA
8/14/2019 PRML_Exercise4.3
http://slidepdf.com/reader/full/prmlexercise43 6/8
4.3問題文
• 問題4.2の結果を拡張し、そしてもしター
ゲットベクトルが同時に多数の線形拘束を
満足できた場合、線形モデルの最小二乗推定は同じ拘束を満たすことを示す。
8/14/2019 PRML_Exercise4.3
http://slidepdf.com/reader/full/prmlexercise43 7/8
同時に多数の線形拘束を満足でき
た場合
aT1tn+ b
1 = 0
aTM tn+ b
M = 0
…
b =
0
B@
b1...
bM
1
CAA =
0B@
aT1...
aTM
1CA
Atn +
b= 0
8/14/2019 PRML_Exercise4.3
http://slidepdf.com/reader/full/prmlexercise43 8/8
新しい入力 の予測を考える
一方：
を式(4.157)に代入する
T =
1CA
Atn+ b = 0
