本站原创文章,转载请说明来自《老饼讲解-机器学习》www.bbbdata.com
二次型是机器学习中常见的形式,对二次型进行求导也就成了常见的需求
本文展示二次型的求导公式,并讲解求导公式的推导过程
本节展示二次型求导问题与求导公式
二次型偏导问题
对于二次型函数
求
说明:这里的x 是行向量
二次型偏导公式
偏导公式
二次型偏导公式如下
A为对称矩阵时的公式
特别地,如果A是二次型或者A是对称矩阵,
进一步简化为:
本节讲解二次型求导公式的推导过程
推导过程
对单个元素求偏导
假设对求偏导
不妨将连加形式抽成 的形式
对求偏导则有
对x的偏导
根据单个元素偏导的结果,
则所有的偏导写成矩阵形式为:
附加
如果是二次型或者对称矩阵,进一步简化为:
End