代价函数（cost function）

代价函数（有的地方也叫损失函数：Loss Function）在机器学习中的每一种算法中都很重要，因为训练模型的过程就是优化代价函数的过程，代价函数对每个参数的偏导数就是梯度下降中提到的梯度，防止过拟和时添加的正则化项也是加在代价函数后面的。

假设有训练样本（x,y），模型为h，参数为θ。h(θ) = θTx（θT表示θ的转置） (1) 概括来讲，任何能够衡量模型预测出来的值h(θ)与真实值y之间的差异的函数都可以叫做代价函数C(θ)，如果有多个样本，则可以将所有代价函数的取值求均值，记作J(θ)。因此很容易就可以得到以下关于代价函数的性质：

(2) 当我们确定了模型h，后面做的所有事情就是训练模型的参数θ。那么什么时候模型的训练才能结束呢？这时候也涉及到代价函数，由于代价函数是用来衡量模型的好坏的，我们的目标当然是得到最好的模型(也就是最符合训练样本(x,y)的模型)。因此训练参数的过程就是不断改变θ，从而得到更小的J(θ)的过程。理想情况下，当我们取到代价函数J的最小值时，就得到了最优的参数θ，记为：minθJ(θ) 例如 J(θ)=0，表示我们的模型完美的拟和了观察的数据，没有任何误差。

(3) 在优化参数θ的过程中，最常用的方法是梯度下降，这里的梯度下降就是代价函数J(θ)对θ1, θ2, …, θn的偏导数。由于需要求偏导，我们可以得到另一个关于代价函数的性质：选择代价函数时，最好挑选对参数θ可微的函数（全微分存在，偏导一定存在）

经过上面的描述，一个好的代价函数需要满足两个最基本的要求：能够评价模型的准确性，对参数θ可微。

在线性回归中，最常用的是均方误差(Mean squared error),具体形式为： m:训练的样本数 h(θ):用参数θ和x预测出来的y值 y:原训练样本中的y值，也就是标准答案 上角标(i):第i个样本

在逻辑回归中，最常用的代价函数是交叉熵(Cross Entropy),交叉熵是一个常见的代价函数，在神经网络中也会用到。下面是《神经网络与深度学习》一书对交叉熵的解释：

交叉熵是对「出乎意料」（译者注：原文使用suprise）的度量。神经元的目标是去计算函数y，且y=y(x)。但是我们让他取而代之计算函数a，且a=a(x)。假设我们把a当作y等于1的概率，1-a是y等于0的概率。那么交叉熵衡量的是我们在知道y的真实值时的平均「出乎意料」程度。当是输出是我们期望的值，我们的「出乎意料」程度比较低；当输出不是我们期望的，我们的「出乎意料」程度就比较高。

在1948年，克劳德·艾尔伍德·香农将热力学的熵，引入到信息论，因此它又被称为香农熵(Shannon Entropy)，它是香农信息量(Shannon Information Content, SIC)的期望。香农信息量用来度量不确定性的大小：一个事件的香农信息量等于0，表示该事件的发生不会给我们提供任何新的信息，例如确定性的事件，发生的概率时1，发生了也不会引起任何惊讶；当不可能事件发生时，相容信息量为无穷大，这表示会给我们提供无穷多的新信息，并且是我们无限的惊讶。更多解释可以看这里。

学过神经网络后，发现逻辑回归其实时神经网络的一个特例（没有隐藏层的神经网络）。因此神经网络中的代价函数与逻辑回归中的代价函数非常相似： 这里之所以多了一层求和项，是因为神经网络的输出一般都不是单一的值，k表示在多分类的类行数。 例如在数字死别中，k=10，表示分了10类。此时对某一个样本来说，输出的结果如下

一个10维的列向量，预测的结果表示输入的数字0~9的某一个概率，概率最大的就被当做是预测结果。例如上面的预测结果是9。理想情况下的预测结果应该如下（9的概率是1，其他都是0）：

比较预测结果和理想情况下的结果，可以看到这两个向量的对应元素之间都存在差异，共有10组，这里的10就代表代价函数中的K。相当于把每一种类型的差异都累加起来。

代价函数衡量的是模型预测值h(θ)与标准答案y之间的差异，所以总的代价函数J是h(θ)和y的函数，即J=f(h(θ)，y)。又因为y都是训练样本中给定的，h(θ)由θ决定，所以，最总还是模型参数θ的改变导致了J的改变。对于不同的θ，对应不同的预测值h(θ),也就对应着不同的代价函数J的取值。变化过程为：θ−−>h(θ)−−>J(θ) θ引起了h(θ)的改变，进而改变了J(θ)的取值。为了更值观的看到参数对代价函数的影响，举个简单的例子： 有训练样本{(0, 0), (1, 1), (2, 2), (4, 4)},即4对训练样本，每个样本对中的第一个数表示x的值，第2个数表示y的值。这几个点都很明显都是y=x这条址线上的点。如下图:

常数项为0，所以可以取θ0=0，然后取不同的θ1，可以得到不同的拟和直线。当θ1=0时，拟和的直线是y=0，即蓝色线段，此时距离样本点最远，代价函数的值（误差）也最大；当θ1=1时，拟和的直线是y=x，即绿色线段，此时拟和的直线经过每一个样本点，代价函数的值为0。 通过下图可以查看随着θ1的变化，J(θ)的变化情况：

从图中可以很直观的看到θ对代价函数的影响，当θ1=1时代价函数取到最小值。因为线性回归模型的代价函数(均方误差)的性质非常好，因此也可以直接使用代数的方法，求J(θ)的一阶导数为0的点，就可以直接求出最优的θ（正规方程法）。

梯度下降中的梯度指的是代价函数对各个参数的偏导数，偏导数的方向决定了在学习过程中参数下降的方向。学习率（通常使用α表示）决定了每步变化的步长，有了导数和学习率就可以使用梯度下降算法（Gradient Descent Algorithm）更新参数了。下图中展示了只有两个参数的模型运用梯度下降算法算法的过程。 下图可以看作是代价函数J(θ)与参数θ做出的图，曲面上一个点(θ0, θ1, J(θ))，有无数条切线，在这些切线中与x-y平面（底面，相当于θ0，θ1）夹角最大的那条边切线就是该点梯度的方向，沿该方向移动，会产生最大的高度变化（相对于z轴，这里的z轴相对于代价函数J(θ))。

根据逻辑回归模型的代价函数以及sigmoid函数 得到对每个参数的偏导数为 详细推导过程可以看这里- 逻辑回归代价函数的导数