(μ+1)-进化策略((μ+1)-ES)
2026/3/21约 1662 字大约 6 分钟
(μ+1)-进化策略((μ+1)-ES)
名称
-进化策略(-Evolution Strategy),也可简称为 -ES。
分类
-进化策略是一种随机优化算法,属于进化计算(Evolutionary Computation)领域,而进化计算又是计算智能(Computational Intelligence)的一个子领域。它与其他进化策略方法密切相关,例如 -ES 和 -ES。
- 计算智能
- 生物启发计算
- 进化计算
- 进化算法
- 进化策略
- -进化策略
- 进化策略
- 进化算法
- 进化计算
- 生物启发计算
策略
-进化策略是一种基于种群的优化方法,其维持一个由 个个体构成的种群,每个个体都表示问题的一个候选解。算法在迭代过程中,通过对从种群中均匀随机选取的单个父代施加变异操作来生成新的子代。变异算子通过扰动父代的决策变量来产生新解,通常表现为对每个变量加上一个服从正态分布的随机值。随后,利用适应度函数对生成的子代进行评估,以衡量其作为问题解的质量。
在子代生成并完成评估之后,算法执行选择步骤,以决定哪些个体能够存活至下一代。在 -ES 中,下一代种群从当前种群与新生成子代构成的并集中产生。根据适应度值保留其中最优的 个个体,同时淘汰最差的一个个体。该选择机制保证了在整个优化过程中,种群规模始终保持为 。
-ES 持续重复“生成子代—执行选择”的过程,直至满足某一终止条件。常见的终止条件包括达到最大迭代代数、找到满足要求的高质量解,或种群表现出明显收敛特征。
过程
数据结构
- 个体:表示一个候选解的数据结构,通常包括:
- 目标变量:由实值变量构成的数组。
- 策略参数:由实值参数构成的数组,通常表示变异步长。
- 适应度:个体的适应度值。
- 种群:由多个个体构成的数组。
- 子代:通过对某个父代施加变异生成的单个个体。
- 最优个体:当前为止找到的适应度最优的个体。
参数
- (mu):种群中父代个体的数量。
- 初始步长:策略参数(变异步长)的初始值。
- 终止准则:用于终止算法的条件,例如达到最大迭代次数或达到满意的适应度水平。
步骤
- 初始化种群
- 对于种群中的每个个体(共 个):
- 随机初始化目标变量。
- 将策略参数设置为初始步长。
- 评估该个体的适应度。
- 在必要时更新当前最优个体。
- 对于种群中的每个个体(共 个):
- 当未满足终止准则时,重复执行以下过程:
- 选择一个父代个体
- 从种群中随机选择一个个体。
- 通过变异父代生成一个子代
- 将父代的目标变量和策略参数复制给子代。
- 对子代的策略参数进行变异。
- 对于每个策略参数:
- 将其乘以一个从对数正态分布中抽取的随机因子。
- 对于每个策略参数:
- 对子代的目标变量进行变异。
- 对于每个目标变量:
- 加上一个均值为 0、标准差等于对应已变异策略参数的正态分布随机值。
- 对于每个目标变量:
- 评估子代的适应度。
- 选择存活个体
- 比较子代与父代的适应度。
- 若子代的适应度优于或等于父代:
- 则用子代替换种群中的父代。
- 否则:
- 丢弃该子代。
- 在必要时更新当前最优个体。
- 选择一个父代个体
- 返回搜索过程中找到的最优个体。
注意事项
优点
- 简单性:-ES 易于理解和实现,适合作为初学者学习进化计算的入门方法。
- 鲁棒性:该算法能够处理含噪、多峰的适应度景观,以及目标函数不可微或不连续的问题。
- 并行化潜力:种群中各个体的适应度评估过程容易并行化,有利于提高计算资源利用效率。
缺点
- 探索能力有限:-ES 每一代仅生成一个子代,这可能限制其对搜索空间的充分探索,尤其是在高维问题中更为明显。
- 收敛速度较慢:由于算法依赖小幅随机扰动逐步改进解的质量,因此在优化后期可能出现收敛缓慢的问题。
- 参数敏感性:-ES 的性能对种群规模 和变异算子的设定较为敏感,通常需要针对具体问题进行细致调节。
启发式建议
种群规模
- 可从适中的种群规模开始,例如 ,然后根据问题复杂度和可用计算资源进行调整。
- 较大的种群规模有助于增强探索能力,但也可能降低收敛速度。
- 较小的种群规模有助于加快收敛,但可能增加过早收敛到次优解的风险。
变异算子
- 可采用均值为零、标准差与问题尺度相关的正态分布随机扰动。
- 在优化过程中应对变异步长进行自适应调整,例如采用自适应策略或预设的确定性调整方案。
- 对于高维问题或变量之间存在强耦合的问题,可考虑使用相关变异或其他更高级的变异机制。
终止准则
- 可依据可用计算预算和问题复杂度设置最大代数。
- 可监测最优适应度值的改进情况,当其在预设代数内未出现显著提升时停止算法。
- 还可采用基于种群多样性的收敛判据,例如当适应度值方差低于某个阈值时终止算法。
混合策略
- 可考虑将 -ES 与局部搜索方法(如爬山法或模式搜索)结合,以增强对潜在优良区域的开发能力。
- 可将领域知识或特定问题的启发式信息融入变异算子或适应度函数中,以更有效地引导搜索过程。