人工智能04

看B站吴恩达老师有关人工智能网课的记录04

线性回归的梯度下降算法:

• 已知一个数据集, 它的分布符合线性分布
• 设h(x) = kx + b
• 它的代价函数是J(k, b) = 1/(2 * M) * 求和(h(xi) - yi)^2
• 得到k和b的梯度下降算法是
  1. k := k - α * dJ(k,b)/dk
  2. b := b - α * dJ(k, b)/db
• 由代价函数展开带入上面可得
  1. k := k - α * 1/M * 求和(h(xi) - yi) * xi
  2. b := b - α * 1/M * 求和(h(xi) - yi)

此算法也称为Batch算法