### 最大值熵搜索(MES)详解
#### 引言
在探讨贝叶斯优化的最新进展时，最大值熵搜索(Max-value Entropy Search, MES)作为一种新兴的技术引起了广泛的关注。该方法旨在改进预测熵搜索(Predictive Entropy Search, PES)在处理高维优化问题时遇到的挑战。本文将详细介绍MES的基本原理、实施步骤及其相对于其他贝叶斯优化策略的优点。
#### 最大值熵搜索(MES)
最大值熵搜索是一种基于贝叶斯优化框架下的采集策略，由麻省理工学院的研究者Zi Wang等人提出。该方法主要针对PES方法中存在的问题进行改进，尤其是在处理高维优化问题时的效率和稳定性方面。
##### MES的基本思想
在讨论MES之前，我们先回顾一下PES的核心思想。PES的目标是最大化通过下一次观测获得的信息量，即通过减少未来观测值的不确定性来提高优化效率。然而，在实际应用中，特别是在高维空间中，PES面临着两个主要挑战：
1. **计算复杂度**：对于高维变量，计算后验分布的最大值成为一个耗时且复杂的任务。
2. **采样规模**：PES的性能高度依赖于采样规模。较小的采样规模可能导致较差的性能，而较大的采样规模虽然能提高收敛速度，但也显著增加了计算成本。
##### MES的关键改进
为了解决上述问题，MES采用了一种不同的策略。它不是直接关注减少未来的不确定性，而是关注通过新的观测来减少目标函数最大值的不确定性。具体而言，MES关注的是在添加新观测点后目标函数最大值分布的熵的变化。这使得MES能够更加高效地利用信息，并且在高维问题中展现出更好的性能。
##### MES的数学表达
假设当前已有的数据集为\( \mathcal{D} \)，并且我们希望选择下一个观测点\( x_{t+1} \)。在贝叶斯优化框架中，我们通常用高斯过程(Gaussian Process, GP)作为代理模型。对于给定的\( x_{t+1} \)，GP将给出后验分布\( p(y_{t+1}|x_{t+1},\mathcal{D}) \)。MES的采集函数定义为：
\[ \text{MES}(x_{t+1}) = \mathbb{E}_{p(y_{t+1}|x_{t+1},\mathcal{D})}\left[\log\frac{p(\max(y)|y_{t+1},\mathcal{D})}{p(\max(y)|\mathcal{D})}\right] \]
这里的\( \max(y) \)表示所有观测值中的最大值。该式子可以理解为：通过在\( x_{t+1} \)处获取观测值\( y_{t+1} \)，我们期望能够降低目标函数最大值分布的熵。
##### 实施细节
为了实现MES，Wang等人提出了Gumbel采样方法。这种方法利用Gumbel分布的性质来简化高维采样过程。通过匹配Gumbel分布的分位数，可以有效地从分布中采样，从而近似计算MES的采集函数。
### 对比测试
为了验证MES的有效性，研究人员在Branin函数上进行了对比测试，该函数是一个常用的基准测试函数。通过对比两种采集策略(EI和MES)在Branin函数上的表现，可以清晰地看出MES的优越性：
- **Simple Regret**：衡量的是观测值中的最小值与真实最小值之间的差距。结果显示，在达到相同的解精度时，MES所需的迭代次数较少。
- **Inference Regret**：衡量的是后验模型最小值与真实最小值之间的差距。这有助于评估不同建模方式和训练方法的效果差异。测试表明，MES不仅收敛速度更快，而且最终解的精度也更高。
### 总结
通过上述分析可以看出，最大值熵搜索(MES)作为一种先进的采集策略，在处理高维优化问题时具有显著优势。相较于传统的PES方法，MES在计算效率和采样规模上都更为稳健。此外，通过Gumbel采样技术，MES能够在保留高效率的同时保持良好的收敛性。因此，MES为贝叶斯优化提供了一个强大的工具，尤其适用于那些需要处理高维优化问题的应用场景。
VIP享7折，此内容立减5.97元 
