关于线性回归----正规方程的介绍以及结论数学推导

   日期:2020-07-10     浏览:100    评论:0    
核心提示:正规方程正规方程是机器学习-线性回归中求代价函数L(θ)中θ的一个方法,他的数学表达式是:我将在接下来的内容中介绍:损失函数L(θ)的来历和意义,以及正规方程结论的数学推导过程代价函数代价函数,又叫损失函数,表示的是建立的机器模型与真实值的差异。代价函数输出的值越大,代表所模型预测的值的代价(这里的代价可以理解为真实值想要达到预测值所需要的代价)越大,就代表模型的预测效果并不是那么的好。因此,让代价函数输出的值最低,从获得让代价函数达到最低输出的参数,在这这个参数就是θ。其中n代表总体个数,可

正规方程

正规方程是机器学习-线性回归中求代价函数L(θ)中θ的一个方法,他的数学表达式是:

我将在接下来的内容中介绍:损失函数L(θ)的来历和意义,以及正规方程结论的数学推导过程

代价函数

代价函数,又叫损失函数,表示的是建立的机器模型与真实值的差异。代价函数输出的值越大,代表所模型预测的值的代价(这里的代价可以理解为真实值想要达到预测值所需要的代价)越大,就代表模型的预测效果并不是那么的好。因此,让代价函数输出的值最低,从获得让代价函数达到最低输出的参数,在这这个参数就是θ。

其中n代表总体个数,可以理解为是个常数。L(θ)可以理解为1/2倍的方差。至于这个1/2,第一:方便L(θ)求导;第二:求出L(θ)最小,那么他对应的两倍的输出值也是最小。

对于正规方程的数学推导

正规方程就是求解θ的一个方法,对于上述这个损失函数来说,正规方程这个方法可以在训练集不是很大时高效的找出θ,在训练集不是很大时这个方法是优先于梯度下降算法的。
①:首先表示出H(θ)的向量形式,然后对H(θ)进行化简。注意:默认向量为列向量(这个在推导的时候十分重要)

②:若求当一个函数最小时自变量的取值,即寻找这个函数的导函数为0的点



end
感谢各位读到这里,有问题欢迎大家在评论区指出,一起学习一起进步,码字不易,如果觉得写的不错就点个赞吧

 
打赏
 本文转载自:网络 
所有权利归属于原作者,如文章来源标示错误或侵犯了您的权利请联系微信13520258486
更多>最近资讯中心
更多>最新资讯中心
0相关评论

推荐图文
推荐资讯中心
点击排行
最新信息
新手指南
采购商服务
供应商服务
交易安全
关注我们
手机网站:
新浪微博:
微信关注:

13520258486

周一至周五 9:00-18:00
(其他时间联系在线客服)

24小时在线客服