变分方法（variational method）不再优化一个数或向量，而是优化一个“函数/场”

1. 最核心定义把问题变成“函数的最优化”所谓“变分方法”本质是❗不再优化一个数或向量而是优化一个“函数/场”也就是求 u(x,y) \text{求 } u(x,y)求u(x,y)变成min⁡uE(u) \min_u E(u)umin​E(u)其中(u(x,y))一个连续场图像、光流、深度等(E(u))能量函数误差 约束2. 为什么叫“变分”名字来自变分法Calculus of Variations它研究的是如何让“函数的函数”泛函 functional取得最小值比如普通优化最小化 (f(x))变分优化最小化 (E[u(x)])3. 在视觉/深度学习里的典型形式几乎所有变分模型都是这个结构E(u)Edata(u)⏟∗数据一致性E∗prior(u)⏟先验/正则 E(u) \underbrace{E_{\text{data}}(u)}*{\text{数据一致性}} \underbrace{E*{\text{prior}}(u)}_{\text{先验/正则}}E(u)Edata​(u)​∗数据一致性先验/正则E∗prior(u)​​(1) 数据项data term让结果“符合观测”例如光流I1(x)≈I2(xu) I_1(x) \approx I_2(x u)I1​(x)≈I2​(xu)(2) 正则项regularization让结果“合理”比如平滑边缘保持稀疏性经典例子∣∇u∣2(平滑) |\nabla u|^2 \quad (\text{平滑})∣∇u∣2(平滑)或 TV∣∇u∣1(保边缘) |\nabla u|_1 \quad (\text{保边缘})∣∇u∣1​(保边缘)4. 它是一个“方法体系”不是单一算法变分方法是一整类框架包括✔ 图像领域经典变分模型Mumford–Shah functionalHorn–Schunck optical flowTotal Variation denoising✔ 现代视觉里的变分思想光流 refinement你这篇就是stereo depth optimizationdepth completionvariational super-resolutionCRF条件随机场也和变分很接近5. 变分 vs “普通优化”的关键区别很多人容易混淆类型优化对象普通优化向量 (x∈Rn)x \in \mathbb{R}^n)x∈Rn)变分方法函数 (u(x))所以它的“变量”是无限维的函数空间。6. 为什么在论文里常见“变分 refinement”初始粗光流低分辨率然后warpcompute energygradient descentmulti-scale本质是在连续空间中做一个“带约束的优化”7. 一句话总结变分方法是一种统一框架通过定义“能量函数”在函数空间中做最优化从而求解图像、流场、深度等连续问题。