自适应差分进化（ADE）

名称

自适应差分进化（Adaptive Differential Evolution, ADE）、自适应参数差分进化（Self-Adaptive Differential Evolution）、Adaptive DE、jDE（自适应 DE 的一种变体）

分类

查看分类思维导图

自适应差分进化是一种随机优化技术，属于进化算法家族，而进化算法又隶属于计算智能与仿生计算这一更广泛的研究领域。它是在原始差分进化（Differential Evolution, DE）算法基础上引入自适应机制后形成的一类扩展方法。

• 计算智能
  • 仿生计算
    • 进化算法
      • 进化策略
        • 差分进化（DE）
          • 自适应差分进化（ADE）

策略

自适应差分进化在基础差分进化算法之上，引入了对控制参数的自适应机制，主要包括缩放因子（F）和交叉概率（CR）。这两个参数对 DE 的性能具有关键影响，而其最优取值通常依赖于具体问题。在 ADE 中，种群中的每个个体都关联有自身的一组控制参数，并根据其在生成更优解过程中的成功表现进行更新。

该自适应策略的核心思想在于，对成功的参数取值进行“奖励”，并将其传递到下一代中。具体而言，当某个父代向量所对应的控制参数成功产生了优于当前目标向量的子代时，这组控制参数便会被继承下来。随着迭代推进，种群能够逐步学习并调整其控制参数，以适应当前优化问题，从而实现对搜索空间更高效的探索与开发。

ADE 的自适应机制可以通过多种方式实现，例如采用简单的参数继承机制、对成功参数值进行加权平均，或引入更复杂的学习策略。具体采用何种自适应规则，取决于所使用的 ADE 变体。

过程

数据结构：

• 种群：由一组候选解构成，其中每个个体均表示为一个实数向量。
• 控制参数：每个个体均对应其自身的一组控制参数（F 和 CR）。

参数：

• 种群规模（NP）：种群中个体的数量。
• 问题维数（D）：优化问题中决策变量的个数。
• 上下界：各变量允许取值的最小值与最大值。
• 终止准则：最大迭代代数或收敛阈值。

过程：

1. 初始化：
   1. 在给定边界范围内随机生成 NP 个初始个体，构成初始种群。
   2. 为每个个体初始化控制参数（F 和 CR），可采用固定取值，也可在预设范围内随机生成。
2. 评价：
   1. 计算种群中每个个体的适应度值（目标函数值）。
3. 变异：
   1. 对种群中的每个目标向量：
      1. 从种群中随机选取三个互不相同的个体。
      2. 采用 DE/rand/1 策略构造变异向量：$V = X[r1] + F \cdot (X[r2] - X[r3])$，其中 $X[r1]$、$X[r2]$ 和 $X[r3]$ 为被选取的个体，$F$ 为缩放因子。
4. 交叉：
   1. 对每个目标向量及其对应的变异向量：
      1. 根据交叉概率（CR），从目标向量或变异向量中复制相应分量，构造试验向量。
5. 选择：
   1. 对每个目标向量及其对应的试验向量：
      1. 计算试验向量的适应度值。
      2. 若试验向量优于目标向量，则以试验向量替换种群中的目标向量。
      3. 若试验向量成功替换目标向量，则将试验向量对应的控制参数（F 和 CR）继承到下一代中。
6. 自适应：
   1. 根据具体 ADE 变体所设定的自适应规则，更新各个体的控制参数（F 和 CR）。
7. 终止：
   1. 若满足终止准则，则停止算法并返回当前找到的最优解。
   2. 否则，返回步骤 3（变异）。

注意事项

优点：

• 控制参数能够自适应调整，从而降低人工调参的需求。
• 相较于原始 DE 算法，通常具有更好的鲁棒性与优化性能。
• 能够在优化过程中根据问题特征动态调整搜索行为。

缺点：

• 由于引入自适应机制，计算复杂度有所增加。
• 自适应规则的有效性可能依赖于具体问题以及所采用的 ADE 变体。
• 自适应过程可能需要额外的函数评估，对于高代价目标函数而言计算开销较大。

启发式建议

种群规模：

• 较大的种群规模有助于增强对搜索空间的探索能力，但也会提高计算成本。
• 一般而言，可将种群规模设置在 $5D$ 到 $10D$ 之间，其中 $D$ 为问题维数。

变异策略：

• DE/rand/1 是较为常用的策略，但也可依据问题特性采用 DE/best/1 或 DE/current-to-best/1 等其他策略。
• 可通过实验比较不同变异策略的效果，以选择更适合具体问题的方法。

初始控制参数范围：

• F 和 CR 的初始范围可参考文献中的常用设定，例如 $F \in [0.5, 1.0]$、$CR \in [0.8, 1.0]$。
• 也可采用更宽的初始范围以增强初始种群多样性，例如 $F \in [0.1, 1.0]$、$CR \in [0.1, 1.0]$。

自适应规则：

• 由成功试验向量直接继承控制参数，是一种简单且有效的自适应规则。
• 对于特定类型问题，也可考虑采用加权平均或基于学习的更高级自适应策略。

终止准则：

• 可根据可用计算资源和问题复杂度设定最大迭代代数。
• 也可依据最优适应度值在若干代内的改进情况设定收敛阈值。

约束处理：

• 在处理约束优化问题时，可结合罚函数、修复机制等约束处理技术。
• 自适应规则除考虑适应度外，也应兼顾解的可行性。

混合方法：

• 可考虑将 ADE 与局部搜索技术或其他优化算法结合，以进一步提升解质量和收敛速度。
• 对于具有复杂搜索景观或多个局部最优的问题，混合化方法通常更具优势。

参数控制：

• 尽管 ADE 能够自动调整 F 和 CR，但诸如种群规模、变异策略等其他参数仍可能需要人工设定。
• 可通过参数敏感性分析研究这些参数对算法性能的影响。

并行化：

• 由于变异与交叉操作具有较强独立性，ADE 较适合并行实现。
• 可通过并行化版本充分利用多核处理器或分布式计算环境，以提升求解效率。

持续学习：

• 在求解过程中，应定期监测 ADE 的运行表现，并分析控制参数的自适应变化情况。
• 可利用这些信息理解问题特性，并进一步改进自适应规则或混合化策略。