贝叶斯优化(BayesianOptimization)

  这篇blog参考github上一个基于高斯过程回归的贝叶斯优化开源项目(python)：https://github.com/fmfn/BayesianOptimization

  贝叶斯优化在不知道目标函数（黑箱函数）长什么样子的情况下，通过猜测黑箱函数长什么样，来求一个可接受的最大值。和网格搜索相比，优点是迭代次数少(节省时间)，粒度可以到很小，缺点是不容易找到全局最优解。   贝叶斯优化流程图如下：

  贝叶斯优化有两个核心过程，先验函数(Prior Function,PF)与采集函数(Acquisition Function,AC)，采集函数也可以叫效能函数(Utility Funtcion)，但一般还是称呼为采集函数，见下面引用论文A Tutorial on Bayesian Optimization of Expensive Cost Functions, with Application to Active User Modeling and Hierarchical Reinforcement Learning的话。PF主要利用高斯过程回归(也可以是其它PF函数，但高斯过程回归用的多)；AC主要包括EI，PI，UCB这几种方法，同时exploration与exploitation的平衡，也是通过AC来完成的。

The process of deciding where to sample next requires the choice of a utility function…To make clear which function we are discussing, we will refer to this utility as the acquisition function (also sometimes called the infill function)

  常见的采集函数有下面三种，UCB，PI，EI，先介绍最好理解的UCB。

   U C B = μ ( x ) + k σ ( x ) UCB=\mu (x)+k\sigma (x) UCB=μ(x)+kσ(x)，k为调节参数，直观地理解为上置信边界。

   P I ( x ) = P ( f ( x ) ≥ f ( x + ) + υ ) = Φ ( μ ( x ) − f ( x + ) − υ σ ( x ) ) PI(x)=P(f(x)\geq f(x^{+})+\upsilon)=\Phi (\frac{\mu(x)-f(x^{+})-\upsilon}{\sigma(x)}) PI(x)=P(f(x)≥f(x+)+υ)=Φ(σ(x)μ(x)−f(x+)−υ​)   超参数 υ \upsilon υ用于调节exploitation与exploitation， υ = 0 \upsilon=0 υ=0更倾向于收敛到 f ( x + ) 附 近 ， f(x^{+})附近， f(x+)附近， Φ ( ⋅ ) 表 示 正 态 累 计 分 布 函 数 ， f ( x + ) 表