2025 年 10 月 12 日｜我终于理解“Regularization”了
有一个词，陪伴我走过了数学、机器学习、再到教育思考的全部阶段—— regularization。
起初，它只是一个我在教材里遇到的“技术名词”： 在偏微分方程（PDE）中，它意味着解的“光滑性假设”，有时被调侃为数学家的洁癖； 在机器学习（ML）与深度学习（DL）中，它代表一种“惩罚项”， 一个用来防止模型“过拟合”的附加代价。
我一直觉得这个词太冷。 它总和“约束”“罚项”“控制”联系在一起。 直到最近，我读到 fast.ai 创办人 Rachel Thomas 的一篇文章—— In defense of screen time（为屏幕时间辩护）， 忽然间，这个“数学词”变得有人味、有温度，也有了哲学。
一、从方程到学习：regularization 的最初含义
在 PDE 课上，regularity 条件通常是存在性与唯一性定理的前提。 解若太“粗糙”，方程根本无从定义。 于是数学家引入正则化算子（regularizer）， 例如在热方程里添加扩散项、在 Navier–Stokes 方程中加黏性项。 这些小小的“约束”，防止能量无限增长、避免解失控。
PDE 的 regularization，本质是让混沌可解析，让系统变得可理解。 它不是惩罚，而是一种抚平——一种让系统能在复杂中保持秩序的温柔力量。
二、机器学习的版本：防止“聪明过头”
到了 ML 领域，这个词又被赋予新的语义： 我们常写出这样的目标函数： [ L(\theta) = \text{Loss} + \lambda R(\theta), ] 其中 (R(\theta)) 是正则项，例如权重平方和 (|\theta|^2)。 数学上，它的功能是限制模型复杂度； 哲学上，它是对自由的一种节制。
模型若太聪明，就会死记硬背训练数据——这叫过拟合。 正则化提醒它：
“你不能只是记住，要学会概括。”
因此，它并不是“惩罚”智能，而是帮助智能学会自我约束。 在复杂世界中，保持谦卑与稳定，才是更深层的智慧。
三、教育的世界：父母的“正则项”
Rachel Thomas 的文章让我第一次意识到—— regularization，其实早就存在于教育之中。
她讲述了自己女儿的成长故事： 一个喜欢绘画、编程、写作和作曲的孩子， 用 Sketchbook Pro、Scratch、p5.js、Chrome MusicLab 等数字工具学习。 而她与丈夫，却常被媒体批评“教育方式错误”， 原因只是孩子花了太多“屏幕时间（screen time）”。
但她指出： “屏幕时间”这个词本身就过于粗糙。 它把所有行为混在一起—— 玩游戏、看视频、写小说、和朋友协作编曲，都被归入同一类。 然而真正重要的，是区分：
是独处还是社交？
是创作还是消费？
是学习还是放空？
她的孩子用屏幕来创造、连接、学习。 而这种行为，正像正则化一样—— 不是约束自由，而是帮助自由找到方向。
四、教育的“惩罚项”何在？
文章批评了当下许多教育制度的“惩罚式正则化”： 要求学生带病上学、对缺勤家庭罚款、 逼迫教师返岗，却忽视空气质量、家长假期、教育资源不均。
这些政策看似“regularization”， 实则是错误的惩罚项—— 它们限制了系统，却没有改善结构。 就像机器学习中那种“过拟正则”， 模型被压抑到连真正的信号也学不出来。
真正的教育正则化，不是“禁”，而是“引”。 Rachel 提倡一种更温柔的调节： 通过在线学习、远程合作、小组创作， 让孩子根据自己的节奏探索世界。 这不是“去除自由度”， 而是给自由度加上可持续的范式。
五、顿悟：Regularization 是一种“温度”
当我读完那篇文章，忽然明白： PDE 的正则，是让方程解存在； ML 的正则，是让模型稳健； 教育的正则，是让人成长而不崩溃。
它们背后的共同语言是：
Regularization is not punishment, but balance. 正则化不是惩罚，而是一种平衡。
在这个意义上，父母的“教育”与科学家的“建模”是一回事。 都是在高维复杂的世界里， 寻找一种既能表达个体差异、又能避免系统发散的方式。
六、AI 时代的启示
AI 时代的教育难题，不只是“孩子花太多时间在屏幕上”， 而是我们如何设计新的正则化机制—— 既保护孩子的创造力，又防止算法诱导的沉迷； 既开放多样化的学习路径，又避免社会分层的加剧。
换句话说， AI 时代的教育，需要的不是更多的惩罚项， 而是更聪明的 regularization：
能识别不同孩子的分布差异；
能动态调节难度与反馈；
能兼顾健康、包容与创造力。
这比任何 λ 参数都难调， 却也比任何模型都更值得。
七、尾声：正则化的哲学
当我回想自己从 PDE 到机器学习的求学之路， 才发现“regularization”贯穿其中—— 它既是数学技巧，也是一种生活态度。
学习若无约束，就像无黏性的流体， 会失去形状； 约束太强，又会僵化， 无法流动。
教育、智能、社会，皆如此。 真正的正则化，是给系统留出活的空间。
后记｜2025 年 10 月 12 日，波士顿
那天晚上，我重新写下这个定义：
Regularization，不是惩罚，而是理解复杂世界的一种方法。 它让系统保持温度、保持形状，也保持希望。
Last updated