复习时间越长,分数越高——散点大致往上走。
画一条直线「概括」这种关系,谁说了算?
班里 8 个同学各自报了「本周复习小时数」和「数学小测分数」。点在图上大致从左下往右上——直觉是:练得多,分往往更高。
老师或新闻稿接下来常做一件事:穿过这些点画一条直线,叫「趋势线」「拟合线」,用来概括「平均来说,多练 1 小时大概多几分」。
广告投入 vs 点击量、身高 vs 体重、气温 vs 冰淇淋销量——只要两件事一起变,就有人画线、算斜率、预测「再多投一点会怎样」。
但线可以画很多种:连第一个点和最后一个点?用眼睛「差不多」?还是有一套统一规则?这就是回归要回答的事。
给定一堆散点,哪一条直线算「最合适」?「合适」又是什么意思?
回归(regression)在这里的意思很朴素:找一条(通常先假设是直线)来代表 x 与 y 的大致关系。
真实数据很少正好落在一条直线上——每个点都有自己的真实 y,和直线上的预测 ŷ之间会有差距。
某个点上,残差(residual)= 真实值 − 预测值 = y − ŷ。在图上看,就是竖直方向从点到直线的距离(有正有负)。
残差大 → 这条线在这个点上猜得偏;把所有点的残差整体看小,就是「拟合得好」的直觉来源。
最常用的规则叫最小二乘(least squares):让残差平方的和尽量小。
为什么平方而不是直接加绝对值?平方让「偏得很远」的点更醒目,数学上也更好算——和前面「标准差里用平方」是同一族思路。
把最左、最右两个点一连——简单,但中间点可能离得很远,SSE 往往很大。
让全体点的平方误差之和最小——兼顾每一个点,不是只照顾两端。
下面 Demo 里可以切换两种线,直接比 SSE——数字不会骗人。
拟合得到 ŷ = a·x + b 后,斜率 a 回答:x 每增加 1 个单位,y 平均变化多少。
复习 1 小时多 3.5 分、每多投 1 万广告多 200 次点击——都是同一套读法。注意:这是相关意义上的平均趋势,不等于因果(那又是另一篇的话题)。
回归 = 用一条简单曲线(这里先讲直线)压缩散点信息;最小二乘 = 用 SSE 这个分数选出「整体最贴」的那条线。
线只描述一起怎么变,不证明 x 导致 y。冰淇淋销量和溺水人数也能拟合得很好——夏天才是幕后推手。
故意让线穿过某几个「重要点」、忽略其余,是手动画线的毛病。最小二乘看的是全体残差,不是数穿过几个点。
SSE 小说明对现有这批点贴得紧;对新数据是否管用,还要看关系是否稳定、有没有漏掉关键变量、样本是否代表总体。
你可以试试:切换预设数据或拖动散点,观察最小二乘拟合线如何变化;勾选「残差竖线」看每个点的 y − ŷ;再对比「瞎连首尾」与「拟合线」的 SSE——谁更贴全体点云。
ŷ = —
首尾连线 · SSE 通常更大
用简单函数(如直线)概括 x 与 y 的关系,便于读斜率、做预测。
真实 y 减预测 ŷ;每个点猜偏多少,竖直方向一眼可见。
选使 Σ(y−ŷ)² 最小的直线——全体点一起投票,不是只连两端。
拟合好 ≠ 因果成立;外推新情况前,先看数据是否代表、关系是否线性。