MATLAB Smoothing Spline 拟合

The Elements of Statistical Learning (chapter 5.4) MATLAB - Smoothing Splines MATLAB - fit

Smoothing Spline 可以用于离散数据的函数拟合。考虑下面的问题：在所有存在二阶连续导数的函数中寻找拟合函数 f ( x ) f(x) f(x)，可以使下面式子的值最小， R S S RSS RSS可以理解为惩罚系数。 R S S ( f , λ ) = ∑ i = 1 N { y i − f ( x i ) } 2 + λ ∫ { f ′ ′ ( t ) } d t RSS(f,\lambda)=\sum_{i=1}^{N}\{y_i-f(x_i)\}^2+\lambda \int\{f^{''}(t)\}dt RSS(f,λ)=i=1∑N​{yi​−f(xi​)}2+λ∫{f′′(t)}dt 式中 λ \lambda λ是一个常数，称为平滑系数（smoothing parameter）。式子中的前一部分用来衡量拟合曲线与原数据的近似程度，后半部分称为曲率惩罚。 λ \lambda λ的选取原则可以参考下面两种极限情况。

这里我们可以思考二阶导数的含义，即函数在某一点斜率的变化率，二阶导数越大，函数曲线的走向就越曲折，因此当 λ = 0 \lambda=0 λ=0，拟合函数 f ( x ) f(x) f(x)可以无限弯曲，经过所有样本点，使误差的平方和为0，从而使RSS最小。而当 λ = ∞ \lambda=∞ λ=∞，拟合函数 f ( x ) f(x) f(x)无限平滑，以至于成为一条直线。我们总能在 λ ∈ [ 0 , ∞ ) \lambda\in[0, \infty) λ∈[0,∞)中找到符合要求的拟合函数 f ( x ) f(x) f(x)。

MATLAB中所使用的Smoothing Splines代价函数与上面的定义非常类似。 p ∑ i w i ( y i − s ( x i ) ) 2 + ( 1 − p ) ∫ ( d 2 x d x 2 ) 2 d x p\sum_{i}w_i(y_i-s(x_i))^2+(1-p)\int(\frac{d^2x}{dx^2})^2dx pi∑​wi​(yi​−s(xi​))2+(1−p)∫(dx2d2x​)2dx 其中权重 w i w_i wi​如果没有定义，默认都是1。 p p p的定义域是0到1，即 p ∈ [ 0 , 1 ] p\in[0,1] p∈[0,1]当 p p p的取值越小，拟合结果越平滑，而当 p p p的取值越大，拟合结果就越倾向于经过所有的点。具体原因已经在上文中解释，不再赘述。

对拟合生成的函数 f ,跟正常函数一样输入参数即可。

函数返回结果与原数据一致（取决于拟合的程度）。