Zotero 是一款免费开源的文献管理工具,能帮研究者高效收集、组织、注释和引用研究资料。它可通过浏览器插件一键抓取网页、数据库中的文献信息与 PDF 全文,也能自动识别本地 PDF 的元数据。
写作时,它能与 Word、LaTeX 等深度集成,一键插入引用并按 APA、MLA 等上万种格式自动生成参考文献列表。同时支持跨设备同步、团队协作共享,还可通过丰富插件拓展功能,且由非营利组织开发保障数据安全。
一、国赛模板
模板请使用XeLatex编译,编译引用或修改表格列宽时要编译两次才能实装效果。
为了正常使用,请勿轻易修改导言区 。
二、插入图片
强制图片位置
\FloatBarrier % 强制在此处插入上方代码的图形
无约束优化中,我们习惯先令导数或梯度为零,再判断得到的点是不是极小值。但有了约束,最优点可能恰好位于边界,目标函数的梯度并不为零:它仍然指向某个下降方向,只是那个方向不允许走。
拉格朗日乘数法处理等式约束;KKT(Karush–Kuhn–Tucker)条件把这一思路推广到同时含有等式与不等式约束的问题。理解它的关键,是弄清楚哪些约束在最优点真正限制了移动,以及这些限制如何与目标函数的梯度平衡。以下默认目标函数和约束函数连续可微,变量为连续变量。优化问题的分类与常见求解方法可先参阅优化理论概览。
问题的定义
在许多优化任务中,算法每产生一个候选解,都要调用一次高保真仿真、训练完整模型或进行实体实验。若一次评估需要数小时、数天或昂贵实验资源,即使优化算法本身运行很快,可完成的真实评估次数仍然很少。昂贵优化(expensive optimization)讨论的正是如何在有限评估预算下有效搜索。
以单目标最小化为例,问题可写为:
在昂贵优化中,只知道候选点的预测目标值还不够:当两个点的预测值接近时,哪一个更值得花一次真实评估?Kriging 为每个候选点建立预测分布,使算法能同时利用预测均值和模型不确定性。在确定性计算机实验中,它常以高斯过程(Gaussian Process,GP)回归的形式实现。
用均值和协方差描述未知函数
设真实目标函数为 ,Kriging 用一个带均值函数和协方差函数的高斯过程描述我们对未知函数的认识:
假设一次仿真需要数小时,而我们已经评估了若干设计点。如何利用这些点预测尚未运行的设计,并挑选下一次仿真的输入?径向基函数(Radial Basis Function,RBF)代理模型用样本点之间的距离构造一个便于计算的近似函数。它适合先讨论确定性仿真的插值情形,再扩展到有噪声的数据。
从样本点构造近似函数
设已有 个真实评估样本 ,其中 。一种常见的 RBF 模型写为:
进化算法每次搜索都会留下经验:哪些参数产生过好解,哪种策略最近更有效,以及一个较差的解怎样变成了较好的解。这些信息除了用于保留当前最优解,还能怎样帮助下一次搜索?
这篇记录整理自 2026 年 9 月 17 日的组会分享,对应 9 月 14—20 日这一周。两篇论文给出了不同的回答:RDE 把反馈用于协调已有搜索策略,LIO 则从历史进化数据中训练一个能够直接提出候选解的网络。把它们放在一起读,关注点就从“又增加了什么组件”转向了“经验以什么形式留下,又影响了哪个搜索环节”。
本周读的两篇论文
- RDE:重构差分进化。 Tao 等,2024,arXiv:2404.16280v1。关注如何重组已有机制,并根据收益分配搜索资源。
- LIO:将学习融入进化计算。 Bian 等,Swarm and Evolutionary Computation 95 (2025), 101930。关注如何从成功进化样本中学习,直接生成候选解。
假设要训练一个识别三种花卉的模型,手头只有几百张标注图片。直接从随机参数开始训练,模型既要学习如何提取图像特征,又要学习如何区分花卉;有限的数据未必足以同时支撑这两件事。
如果已经有一个在大量自然图像上训练过的模型,能否保留它提取特征的能力,再让它学习花卉分类?这就是迁移学习的一种典型用法。
本文面向了解训练集、损失函数和梯度下降的读者,重点解释概念与实验思路,不依赖特定框架。花卉数据规模与后面的评估数字均为教学假设,不代表实际训练结果。
1. 先分清“领域”和“任务”
迁移学习(Transfer Learning)利用源领域或源任务中获得的知识,帮助目标领域或目标任务的学习。“源”表示知识来自哪里,“目标”表示最终要解决什么问题。
差分进化(Differential Evolution,DE)的出发点是:不计算梯度,而用种群中已有解的位置差构造新候选解。Storn 与 Price 的 1997 年经典论文给出了这一连续优化方法。本篇建立后续自适应 DE 共用的记号;基础变体的细节可参见 DE/rand/1/bin。
一个候选解怎样产生
考虑 维最小化问题,第 代种群为 。以 DE/rand/1/bin 为例,从不含目标个体 的种群中抽取互异的 :