2016年5月13日 星期五

Bias-Variance Tradeoff

Bias-Variance Tradeoff比較接近一般的原則
但是以MSE來舉例比較容易觀察
https://en.wikipedia.org/wiki/Mean_squared_error
可以想像得到
\operatorname{MSE}(\hat{\theta})=\operatorname{Var}(\hat{\theta})+ \left(\operatorname{Bias}(\hat{\theta},\theta)\right)^2.
如果估計值越接近最小平分解的部分bias會最小，但是variance會放大，反之亦然
更多可以參考
http://blog.sciencenet.cn/blog-430956-768356.html

對於此原則與overfitting underfitting的交織結果
http://www.cnblogs.com/TenosDoIt/p/3712590.html
https://www.zhihu.com/question/27068705
https://cg2010studio.com/2012/10/29/%E5%81%8F%E5%B7%AE%E5%92%8C%E8%AE%8A%E7%95%B0%E4%B9%8B%E6%AC%8A%E8%A1%A1-bias-variance-tradeoff/
張貼者： 於

沒有留言:

張貼留言

訂閱： 張貼留言 (Atom)