本文解释为什么机器学习模型需要“假设”才能发挥作用,以及为什么不存在适用于所有任务的万能算法。
1. 无免费午餐(No Free Lunch, NFL)定理
1.1 定理核心结论
无免费午餐定理说明:
如果所有可能的任务(或目标函数)都等概率出现,则任何两个学习/优化算法的平均性能完全相同。
数学表达:
2025/11/20大约 4 分钟
本文解释为什么机器学习模型需要“假设”才能发挥作用,以及为什么不存在适用于所有任务的万能算法。
无免费午餐定理说明:
如果所有可能的任务(或目标函数)都等概率出现,则任何两个学习/优化算法的平均性能完全相同。
数学表达:
Ef[performance(A,f)]=Ef[performance(B,f)]
在随机算法、蒙特卡罗模拟或概率建模中,我们常常希望从某个特定分布中生成随机变量样本。
然而,大多数编程语言或计算机硬件只提供均匀分布的随机数生成器,例如:
u∼U(0,1)