1. 线性回归原理：极大似然估计 2. 线性回归损失函数、代价函数、目标函数 损失函数(Loss Function)：度量单样本预测的错误程度，损失函数值越小，模型就越好。 代价函数(Cost Function)：度量全部样本集的平均误差。 目标函数(Object Function)：代价函数和正则化函数，最终要优化的函数。 3. 线性回归的优化方法：梯度下降法，最小二乘法矩阵求解，牛顿法，拟牛顿法 4. 线性回归的评价指标：R^2
