梯度下降的公式的解釋
請問老師，梯度下降公式中學習速率乘上損失函數的偏倒的意義仍然不理解，什么叫對每次損失函數減小的維度進行不近似的參數遞減？最小二乘法的公式是通過矩陣求導得到的嗎？是否也可以用線性代數的知識解釋呢？
1 回答
舉報
0/150
提交
取消
請問老師，梯度下降公式中學習速率乘上損失函數的偏倒的意義仍然不理解，什么叫對每次損失函數減小的維度進行不近似的參數遞減？最小二乘法的公式是通過矩陣求導得到的嗎？是否也可以用線性代數的知識解釋呢？
2018-07-09
舉報
2018-07-13
損失函數的偏導就是一個導數，就是theta的斜率，調節學習率是為了斜率變化不大，這樣多次迭代就能達到最低值