1 为什么要把训练看成优化问题
给定客户的年龄、职业、账户余额、既往联系次数，模型要估计客户是否会响应营销活动。类似的问题还包括根据服装图片判断类别、根据短文本识别新闻主题。人可以先写几条规则，但当特征增多、规则相互冲突时，逐条修改很难保持一致。训练提供了另一条路径：先用参数描述预测规则，再用数据评价规则的错误，最后反复调整参数，让错误下降。这里的“优化”就是在允许的选择中，寻找目标函数更小或更大的选择。
以公开的 UCI Bank Marketing 数据为背景，设标签为是否订购定期存款，模型输出响应概率。年龄、职业、此前活动的结果可以作为候选特征，但必须核对它们在预测时是否已知。通话时长虽然可能很有预测力，却通常要在通话结束后才知道；如果任务是在拨号前筛选客户，把它作为输入就是泄漏。优化器无法替我们识别这个问题，它反而可能非常高效地利用泄漏，把错误实验做得看起来很好。
先把可用数据分成训练集、验证集和测试集，例如按时间先后分成约 60%、20%、20%。模型只在训练集上更新参数；验证集用于选择学习率、正则化强度和停止轮次；测试集留到选择完成后做最终评估。如果同一客户有多条记录，还应避免客户跨集合。公开数据若缺少可靠的客户标识，就要承认无法完全排除这种重复，并说明限制，不能把普通随机划分称为严格的客户隔离实验。
训练时通常最小化可计算、便于更新的损失，例如二分类的交叉熵。交付时却可能关心 precision、recall、F1 或 AUC。precision 关注被判为正例的样本中有多少是真的，recall 关注真实正例中找回了多少，F1 综合这 2 个比例。ROC-AUC 评价不同阈值下的排序表现；它不对应某个固定阈值，也不保证预测概率已经校准。损失和这些指标有关，但不是同一个量。
如果样本中只有约 10% 是正例，全部预测为负例也能取得约 90% 的准确率，却无法找回正例。因此，本课把“损失是否下降”和“任务是否改善”放在同一张观察表里。比如固定验证集阈值后记录 recall，再看 precision 是否仍满足联系成本要求；同时记录 AUC，检查排序能力。阈值也属于用验证集决定的规则，不能在测试集上反复挑到最好看为止。
优化解决的是“在当前数据、模型和目标下如何改参数”，它不自动证明数据可靠、目标合理或未来仍然有效。即使训练成功，遇到新的营销渠道、不同客户群或不同拍摄条件，结果仍可能下降，这叫分布变化。把训练看成优化问题的价值，在于明确哪些量由算法改善，哪些假设必须由实验设计守住。先把问题说清楚，再追求更低的数字，才有可复用的训练结论。
2 目标函数、约束与可行域
参数记作 θ，可以包含每个特征的权重和偏置。对训练样本的平均损失记作 L_train(θ)，最基本的目标是寻找让它尽可能小的 θ。逻辑回归会把特征加权后转换成概率；交叉熵会对自信却错误的预测给出较大惩罚。这里无需手算完整公式，先抓住 3 个对象：参数是能调整的选择，损失是评价选择的尺子，训练数据是形成这把尺子的依据。
完整目标还可以写成 J(θ)=L_train(θ)+λR(θ)。R 表示复杂度惩罚，λ 控制惩罚强度。例如给权重平方和加惩罚，可以限制模型过度依赖某些特征。要注意目标 J 与原始预测损失 L_train 的区别：加大 λ 后，预测损失可能变大，而带惩罚目标仍被正确地优化。比较实验时需要分别记录它们，不能把不同 λ 下的 J 直接当成同一把性能尺子。
约束则明确哪些参数不允许使用。例如要求权重的平方和不超过某个上限，或者在有充分领域依据时要求某个权重非负。满足全部约束的参数集合叫可行域。目标描述“更喜欢哪里”，约束描述“哪些地方可以去”。某个点即使损失很低，只要违反约束，就不能作为该问题的解。带约束训练有专门的处理方式，本课只建立概念，不把普通梯度更新当作一定能守住边界的方法。
还要区分参数约束与项目要求。“模型文件不超过 20 MB”“预测延迟低于 50 ms”“验证集 recall 至少 0.80”都是可能的项目要求，但不一定都能直接写成当前优化器可处理的参数约束。入门实验可以先在不同模型配置间筛选，再检验这些要求。若某项没有达标，就应报告未达标，不能因为训练目标下降而把它忽略，更不能把验证集指标直接混入每批参数更新。
量纲也会影响目标的解释。账户余额可能达到数万，年龄通常只有几十；未经缩放时，相同大小的权重变化会造成很不相同的预测变化。对数值特征做标准化，可以让优化的步长更容易设置，也让权重惩罚的比较更有意义。均值和标准差必须只从训练集估计，再用于验证集、测试集；职业类别的编码表也应遵循同样原则，并为未知类别预留处理方式。
最后，平均损失并不保证每类样本都表现良好。负例多时，总平均值可能主要反映负例。可以考虑类别权重，使漏掉正例的错误得到更多关注，但这等于改变了优化目标，可能影响 precision、概率解释以及合适的阈值。先记录为什么加权、权重如何确定，再在原始分布的验证集上评估。目标函数的每项都应有任务含义，而不是为了让曲线好看临时拼接。
3 梯度下降及其变体的直觉地图
把损失想成地形的高度，参数就是地面上的位置。梯度指出当前位置高度上升最快的方向，负梯度给出局部下降方向。基本更新写作 θ_next=θ−η∇J(θ)，其中 η 是学习率，也常叫步长。梯度不是终点导航，它只利用当前位置附近的信息；每次更新后，地形方向都可能变化，所以需要重新计算。某处梯度很小，也不等于已经获得满意的泛化性能。
学习率决定沿着当前方向走多远。太小会让训练进展缓慢，太大可能越过谷底、来回摆动，甚至使损失不断上升。梯度本身的大小也会影响实际位移，因此“学习率相同”不代表不同数据、不同模型的更新幅度相同。发现训练不稳定时，应同时检查输入缩放、损失的平均方式和梯度是否出现异常，而不是把所有现象都解释成学习率选错。
全批量梯度下降每次用全部训练样本计算梯度，方向相对稳定，但数据很多时，每次更新成本较高。随机梯度下降常指使用很少样本估计梯度；实际工作中常用小批量，每次读取例如 32 或 128 个样本。小批量方向带有噪声，某次损失上升并不一定表示训练失败。为了可比较，应在固定的数据集上定期计算平均损失，避免把某个难批次误判成整体退化。
“更新次数”和“训练轮次”也不同。模型完整遍历训练集 1 次通常称为 1 个 epoch；如果训练集有 3200 个样本、批大小为 32，且没有额外采样，每轮约有 100 次更新。改变批大小后，即使轮数相同，更新次数也会变化。因此比较优化配置时，除了记录轮数，还应记录更新次数或训练时间。含重采样的流程更要说明每轮如何定义。
动量方法会保留近期更新方向的累积影响，直觉上像给移动加入惯性，可能减少狭长谷地中的反复摆动。Adam 等方法还会根据历史梯度为不同参数调整更新尺度。它们是常见工具，但没有“任何任务都更好”的保证。入门时应先建立普通梯度下降或小批量训练的基线，再在相同划分、相同评价规则下比较；不必先深入内部状态公式和收敛证明。
更换优化器时，也不能假设原来的学习率仍然合适。可以先选少量相差明显的候选值，例如 0.001、0.01、0.1，观察是否稳定，再在合理区间细化。学习率随训练变化的计划属于另一个可记录的超参数，而不是曲线上升时随意按一下的按钮。每个实验只改变少量因素，才能知道改善来自哪里；同时更换模型、批大小和优化器，往往只得到难以解释的结果。
4 动手：二维谷地里的步长实验
先用不需要下载数据的例子隔离步长的影响。定义 f(x,y)=0.5x²+5y²，起点为 (4,2)，初始函数值是 28。这里 x、y 只是 2 个待优化参数，不是 2 个客户特征。函数沿 y 方向更陡，等高线像狭长椭圆。梯度为 (x,10y)，所以每步更新是 x_next=(1−η)x，y_next=(1−10η)y。最小点在 (0,0)，方便我们检查更新是否符合预期。
分别从同一个起点尝试 η=0.05、0.18、0.22，每个配置最多运行 30 步。固定函数、起点和步数，是为了只观察步长变化带来的后果。记录每步的 x、y、f，以及相邻参数之间的距离。不要每次运行后重设图的坐标范围来掩盖发散；可以使用相同的等高线窗口，超出范围时显示明确提示，并保留数值表作为依据。
当 η=0.05 时，第 1 步到达 (3.8,1)，函数值降到 12.22。y 的绝对值每步减半，x 则每步乘以 0.95，整体比较平稳，但在较平缓的 x 方向前进较慢。当 η=0.18 时，第 1 步到达 (3.28,−1.6)，函数值约为 18.18。y 每步乘以 −0.8，会跨过谷底交替变号，同时绝对值逐渐减小，形成下降中的摆动。
当 η=0.22 时，第 1 步到达 (3.12,−2.4)，函数值约为 33.67，已经超过起点。因为 y 每步乘以 −1.2，其绝对值越来越大，最终主导函数值。这个例子里，要让任意起点的 2 个坐标都逐步趋近 0，需要 0<η<0.2。这个范围是由当前函数推出来的，不能照搬成逻辑回归或神经网络的学习率规范。
可以用下面的短程序复现轨迹。这里使用手写梯度，是因为函数足够简单；真实训练通常由工具计算梯度。程序遇到数值异常时应保留发生的步数和配置，不要把异常值悄悄改成 0。若把函数整体乘以 100，梯度也会放大 100 倍，原来合适的学习率就可能失效。这解释了为什么损失采用求和还是取平均，也会影响步长设置。
def run(eta, steps=30):
x, y = 4.0, 2.0
path = [(0, x, y, 0.5*x*x + 5*y*y)]
for k in range(1, steps + 1):
gx, gy = x, 10*y
x, y = x - eta*gx, y - eta*gy
path.append((k, x, y, 0.5*x*x + 5*y*y))
return path
for eta in (0.05, 0.18, 0.22):
print(eta, run(eta))从这个实验迁移到分类任务时，应保留“只改学习率、观察轨迹、记录异常”的方法，而不是保留具体数值。真实损失曲面更复杂，小批量还会引入噪声；偶尔上升与持续发散需要分开判断。也不要因为这个函数没有验证集，就认为分类实验可以省略验证。这里证明的是数值更新如何运动，模型能否服务任务仍要通过独立数据回答。
5 正则化：把复杂度写进目标
如果只追求训练误差，模型可能把偶然关系当成规律。例如短文本分类中，训练集某个罕见词刚好总出现在同一主题，模型就可能给它很大的权重；换一批文章，这个关系便消失。L2 正则化在目标中加入权重平方和惩罚，让获得同样训练收益时、权重更温和的解更有吸引力。它通过改变训练偏好来降低过拟合风险，不能修复错误标签或数据泄漏。
强度 λ 太小时，模型仍可能依赖偶然细节；太大时，有用特征也被压缩，训练集与验证集都表现不佳。这常被称为欠拟合。判断时要同时看数据损失、验证指标和权重变化，而不是把“小权重”本身当成胜利。对数值特征先做恰当缩放很重要，否则同样的权重惩罚会因为单位不同而产生难以解释的偏好。偏置是否参与惩罚，也应查清并写进配置。
用一个精确可算的回归玩具说明权衡：输入 z 取 −2、−1、0、1、2，标签 t=z，模型预测为 wz，偏置固定为 0。平均平方误差是 2(w−1)²，加入惩罚后，J(w)=2(w−1)²+λw²。最优权重是 w=2/(2+λ)。λ=0 时 w=1，训练误差为 0；λ=2 时 w*=0.5，训练误差为 0.5，权重平方为 0.25。
继续把 λ 增到 8，w* 变成 0.2，训练误差升到 1.28，预测整体被压向 0。这个例子没有噪声、没有验证集，因此只能展示惩罚如何拉小权重，不能据此宣称某个 λ 的泛化更好。交互中同时显示数据损失、惩罚项和总目标，是为了避免把“目标里加入了什么”与“模型实际预测得如何”混成同一个数。
回到银行营销或短文本分类，选择 λ 应依靠固定验证集，而不是看哪次训练目标最低。候选值可以按数量级铺开，例如 0、0.01、0.1、1、10，再对有希望的范围细化；具体尺度取决于损失与惩罚的定义。部分工具使用 C 表示正则化强度的倒数，C 越大反而惩罚越弱。记录实际配置含义，比只记一个字段名称更可靠。
正则化还有其他形式，例如 L1 惩罚、限制模型规模，以及训练中的早停。本课先理解 L2 的权衡，不展开稀疏解、贝叶斯解释或复杂神经网络技巧。正则化不是“复杂模型的清洁剂”：如果训练集本来就很难拟合，还应排查特征是否有信息、标签是否可靠、优化是否充分，再决定是否降低惩罚。每个诊断都需要对应证据，不能只凭曲线形状下结论。
6 常见坑：只看训练损失、早停时机乱跳
最常见的误判是训练损失一直下降，就认为模型一直进步。训练集直接参与参数更新，模型越来越适应它是预期现象；验证集才帮助判断这种适应是否还能推广。如果训练损失下降、验证损失先降后升，同时验证 F1 变差，就应怀疑过拟合。反过来，训练与验证损失都很高，也可能是优化不足、模型能力有限或特征无效，不能仅凭“都高”认定是学习率问题。
早停需要事先写明观察量、方向、最小改善幅度、耐心和评估频率。例如每轮计算验证交叉熵，越低越好；绝对下降至少 0.001 才算改善；连续 5 次评估没有这种改善就停止。每当达到改善条件时保存检查点，停止后恢复已保存的最佳状态。否则最后若干轮已经退化，却仍把最后参数用于测试，就没有真正执行原来的早停规则。
验证 F1 常比验证损失更容易跳动，尤其是正例少、阈值固定在 0.5 时，少量样本跨过阈值就会改变结果。可以用验证损失作为停止依据，同时报告 F1 和 recall；也可以选择其他停止量，但要说明任务理由。不要今天按 AUC、明天按 F1，在同一次运行中追着最好看的曲线改规则。指标冲突时应依据预先定义的任务优先级处理。
类别不平衡还会使随机小批次的正例数波动很大。观察训练过程时，把批次损失和整轮验证指标放在不同层次；评估时保留原始类别比例，并报告混淆矩阵。若使用重采样，先完成数据划分，再仅对训练部分操作。先复制正例再划分，可能让重复样本流入验证或测试，形成泄漏，造成看似稳定却不可信的提升。
以 Fashion-MNIST 的服装图片分类为例，像素缩放、数据增强和模型更新都要服从划分边界。训练增强可以帮助覆盖输入变化，但验证和测试通常使用固定处理，以便比较。若把同一原图的多个增强版本分到不同集合，模型可能只是认出了近似图片。短文本也类似：去重与近重复检查要考虑来源，随机拆分同一篇新闻的不同摘录，容易高估泛化能力。
分布变化则可能让离线指标与后续表现分离。营销策略更新后，联系的人群变了；新闻出现新主题后，旧词汇关系变了。此时持续训练得更久通常不能解决评估数据不代表未来的问题。应先按时间、来源或人群切片检查指标与正例比例，再决定更新数据、调整特征或重新训练。多次尝试已经影响验证集选择时，最后保留的测试集尤其重要。
7 案例：过强正则压死有用信号
考虑一个基于银行营销任务构造的教学案例：预测拨号前客户是否会订购，输入含年龄、职业、余额、此前活动结果与联系间隔，明确排除本次通话时长。假设按时间保留的验证集有 2000 条记录，其中正例 200 条。以下数字用于演示诊断方法，不是对公开数据集的实测成绩。数值特征的缩放只在训练集拟合，所有配置共享同一套划分与预处理。
最初的配置使用很强的 L2 惩罚。训练交叉熵约为 0.33，验证交叉熵约为 0.34，ROC-AUC 约为 0.63；在固定阈值 0.5 下，预测几乎全为负例。开发者看到训练与验证损失接近，认为模型“没有过拟合，所以很好”。但验证 recall 接近 0，说明它几乎不能找回目标客户。2 条曲线接近只能提示差距小，不能说明绝对质量足够。
检查权重时，发现经过标准化的数值特征与类别特征对应的权重都很小，预测概率集中在总体正例比例附近。这个现象支持“正则可能过强”的猜测，但还不够：标签全错、输入编码丢失也可能产生类似结果。先核对标签正例数、变换后的特征是否变化、缺失值是否被全部填成同一个常量，再检查训练目标是否已经稳定，排除基本管线故障与明显的优化不足。
接着固定优化器、划分和最大训练预算，只降低 λ，并使用同一套早停规则。较弱惩罚的示例配置达到验证交叉熵 0.29、AUC 0.78，预测概率开始区分不同客户。在同一个阈值 0.5 下，假设得到 TP=80、FP=40、FN=120、TN=1760，则 precision=80/120≈0.667，recall=80/200=0.40，F1=160/320=0.50。这比只报准确率更能说明找回能力与误报代价。
如果任务要求 recall 至少 0.75，就还需要在验证集选择阈值，并接受 precision 可能下降的权衡。比较 λ 时先固定阈值，有助于看清模型变化；完成候选筛选后，再按事先约定的方法选择最终阈值，并冻结整套配置。不能把降低 λ、降低阈值和改变样本比例的效果全部算到正则化头上；这些操作分别改变模型、决策规则和评估环境。
结论不是“惩罚越弱越好”。继续减小 λ 后，训练损失可能更低，验证损失却回升，少数稀有职业类别的权重还可能变得不稳定。应保留验证表现更可靠的配置，检查不同时间段与类别的指标，并报告多个随机种子下是否一致。最后只对冻结后的流程使用测试集；若测试结果不理想，诚实记录它，后续改进需要新的独立评估安排。
8 把优化超参与停止条件写进实验卡
实验卡的用途，是让另一个人能够重建“模型为什么停在这里、为什么选择这个配置”。首先记录数据名称与版本、标签定义、预测发生的时点、样本时间范围，以及训练、验证、测试的划分方法。对银行营销例子，应明确“拨号前预测”与“排除本次通话时长”；对短文本应记录是否按来源或时间划分、如何处理近重复。这些条件往往比优化器名称更影响结论。
接着记录特征与处理：数值列、类别列、缺失值规则、标准化参数的拟合范围、未知类别处理、类别权重或训练重采样。公开图片数据则需要记录像素范围、图像尺寸和训练增强。模型结构、损失公式、惩罚形式与系数也应写清，特别是损失取平均还是求和、偏置是否受惩罚。缺少这些信息，相同的学习率和 λ 也可能代表不同实验。
优化部分记录优化器、初始学习率、批大小、最大轮数、学习率变化计划和随机种子。停止部分记录监控的是验证交叉熵还是其他量、优化方向、最小改善、耐心、评估间隔与检查点恢复规则。还应记录最终停止轮次和所选检查点轮次，因为它们可能不同。若因数值异常或时间预算中断，应另列停止原因，不能把它伪装成正常早停。
评价部分至少给出样本数、正例比例、阈值来源、主要指标以及关键切片。对于不平衡二分类，可以报告 precision、recall、F1、ROC-AUC，并补充 PR-AUC 与其具体计算约定；PR 曲线更直接呈现找回正例时的误报代价，但也受正例比例影响。多分类图片与新闻任务可以报告宏平均 F1 及各类 recall，避免大类别掩盖小类别失败。
再记候选范围与选择规则，例如比较 3 个学习率和 4 个 λ，在相同验证集上优先满足 recall 要求，再比较 precision；若并列，则按事先约定的更简单配置选择。候选越多，越可能偶然碰到适合验证集的配置，因此应记录总尝试次数，而不是只展示获胜运行。随机种子能帮助重现，但跨工具版本与硬件仍可能有差异，应同时保存环境版本与合理的数值容差。
最后将结果与证据对应起来：曲线说明是否稳定训练，检查点说明交付了哪个状态，混淆矩阵说明阈值下的错误，独立测试说明冻结流程的表现。失败实验也有信息价值，例如“学习率 0.22 在二维函数上发散”能缩小合理范围。实验卡应留下具体观察与限制，而不是只写“使用先进优化器，效果良好”。这份记录也是后续判断分布变化和重新训练必要性的起点。
9 凸与非凸：承诺有多强
凸函数有一个直观特征：在任意 2 个点之间连线，函数曲面不会高于连接这 2 个函数值的直线。可以把它想成没有额外山包的碗形，但碗不一定严格圆滑，也不一定只有唯一底点。对于凸优化问题，局部最优也是全局最优；这里的“全局”只针对写下来的目标与可行域，不是在承诺模型对未来客户一定最好。
前面的 f(x,y)=0.5x²+5y² 是严格凸的，唯一最小点是 (0,0)。然而 η=0.22 仍会发散，这说明“问题具有好结构”和“使用的算法配置能找到解”是不同条件。收敛结论通常还依赖步长、函数性质和迭代安排。即使知道存在唯一最优解，有限时间内停下时仍可能没有足够接近它，需要借助目标变化、梯度大小或其他合适标准检查数值进展。
固定特征的线性回归与逻辑回归，在常见损失及凸正则化下，可以形成凸目标；若还有约束，可行域也需要满足相应条件。唯一解则需要更强条件，不能把“凸”直接等同于“唯一”。本课不展开证明，只要求在表述结论时说明讨论对象：是当前参数化下的目标，还是整个包含特征选择、模型选择和阈值选择的实验流程。
神经网络的训练通常是非凸问题。曲面可能有不同局部区域、平缓地带和鞍点；鞍点附近某些方向上升、另一些方向下降。因此梯度很小可能意味着更新暂时困难，不一定意味着到达最小点。也不必把每次训练停滞都归因于某个神秘的局部最低点，数据处理错误、学习率不合适和目标设置不当，往往更值得先检查。
非凸不等于无法训练。实践中可以通过合适初始化、输入缩放、学习率设置和多次运行，找到表现有用的参数。能作出的承诺通常是“在这些数据、预算和评价条件下得到了可重复的结果”，而不是“已经证明找到全局最优”。多个种子的结果可以揭示稳定性，但挑出测试集表现最好的种子会重新污染测试用途，应在验证阶段完成选择或预先约定汇总规则。
最后区分 3 个问题：优化误差关心是否把给定目标降得足够低；泛化关心独立样本是否仍然表现良好；任务适用性关心这些指标是否满足实际决策需求。凸性主要帮助回答第 1 个问题。即使目标被精确求解，泄漏、类别不平衡和分布变化仍会破坏后 2 个问题的答案。知道承诺的边界，才能既用好优化工具，也避免对低损失作过度解释。
放进方案里
在方案中，先把“训练一个分类器”改写成可检查的实验承诺。以银行营销任务为例，声明预测发生在拨号前，使用年龄、职业和既往活动信息，排除本次通话时长。按时间保留训练、验证和测试数据，比例约为 60%、20%、20%；存在客户标识时按客户隔离，并保存每部分的样本数与正例比例。所有填补、编码和标准化只从训练部分学习，再应用到其他集合。
以逻辑回归和平均交叉熵作为基线，加入含义明确的 L2 惩罚。列出待比较的学习率与正则化系数，固定批大小、最大轮数和评价频率，记录总尝试次数。训练中每轮观察验证交叉熵，下降至少 0.001 才计为改善，连续 5 次评估没有改善则停止，并恢复符合该规则的最佳检查点。数值异常单独标记，保留配置与发生位置。
把业务要求写成验证阶段的选择规则，例如在 recall 至少 0.75 的候选中比较 precision；阈值也在验证集确定。若没有候选满足要求，就报告差距并检查特征、数据量和目标，而不是临时降低标准。报告固定阈值下的 precision、recall、F1、混淆矩阵及 ROC-AUC，检查时间段与重要人群的表现。过强正则导致概率集中、recall 过低时，先排查管线，再做只改变惩罚强度的比较。
冻结预处理、模型、检查点和阈值后，再进行最终测试。保存实验卡、数据版本、环境版本和主要曲线，说明公开数据与真实使用场景之间的限制。上线后的评价另设带标签的观察窗口，关注正例比例与特征分布变化；当表现退化时，先确认变化来源，再决定补充数据或重新训练。这样，优化参数、停止条件和失败处理都成为方案中可追溯的约定。
10 小结：下一步机器学习概念总览（A10）
训练通过优化目标调整参数，学习率控制更新幅度，正则化改变对复杂度的偏好，早停依据独立验证信号选择检查点。训练损失降低只是证据的一部分，还要确认划分无泄漏、指标适合类别比例，并检查未来分布是否发生变化。
自测时可以回答：为什么二维凸函数仍会发散？为什么加大 λ 后训练误差可能上升？为什么不能在测试集挑阈值？如果能分别从步长、目标定义和评估独立性解释，就已经抓住本课主线。
A10 将把数据、特征、模型、损失、优化、泛化与评价串成机器学习概念总览，帮助你从完整流程判断：当前困难究竟在数据、训练，还是任务定义，而不是只继续调学习率。