概述
它产生学习参数,例如神经网络中的权重。训练不同于向已训练的模型提供指令。
主要要点
- 目标和数据定义培训任务。
- 将评估与拟合和模型选择分开。
- 将预处理和数据版本与模型一起保存。
深入探讨
监督训练从输入和目标答案开始。该模型预测答案,损失函数测量差异,优化算法更新其参数。在批量示例中重复此操作可以减少损失。一个纪元表示训练数据集的一次遍历;它不是进步的保证。数据集和目标定义了模型的学习奖励。训练模型来预测购买与训练模型来估计客户满意度所教授的任务不同。一个方便的标签可能不足以替代重要的结果。使用验证示例选择设置,然后在单独的测试集上评估所选模型。将属于同一个人、文档或事件的记录放在一起,否则会泄露信息。对于预测,请评估以后的时期,而不是将未来的观察纳入早期的预测中。保存每个检查点的数据版本、预处理规则、模型配置和评估结果。没有标记器或特征转换的已保存模型可能无法重现原始行为。仅针对定义的实验完成训练;部署结果增加了监控和运营责任。
04工作示例
玩具模型的一项更新
使用说明性模型预测 = 权重 × 输入,其中输入为 2、目标为 6、初始权重为 1。
平方误差为 (2 − 6)² = 16。其相对于权重的导数为 2 × 2 × (2 − 6) = −16。
当学习率为 0.1 时,下一个权重为 1 − 0.1 × (−16) = 2.6。新的预测值为 5.2,平方误差为 0.64。
它显示了什么
此构建的计算显示了参数更新。一个改进的示例并不能证明新示例的性能。
现实世界的实施
根据标记的支持请求训练一个小型分类器,并在一周后对其进行评估。
在投入使用之前,将训练有素的需求预测与上周的简单基线进行比较。
付诸实践
为什么这很重要
- 更清晰的判决. 它可以帮助您将清晰的技术声明与营销语言分开。
- 成本与预算. 在花费金钱或时间之前,您可以提出更好的实施问题。
- 团队与工作流程. 具有共同理解的团队可以做出更好的产品、政策和学习决策。
留意
- 不同的团队可能会以不同的方式使用同一术语,因此请尽早定义范围。
- 基准测试可能看起来很强大,但实际性能却参差不齐。
- 忽视数据质量和评估计划通常会产生脆弱的结果。
后续步骤
- 从您需要的结果的简单语言定义开始。
- 在测试之前选择一种成功指标和一种失败条件。
- 使用代表性数据运行小型试点,而不是完善的演示集。
- 记录人工智能培训在哪些方面有帮助以及在哪些方面更简单的方法更好。
资料来源与延伸阅读
- PyTorch优化模型参数
不断探索
常见问题
输入提示会训练模型吗?
提示会更改当前上下文。它本身并不意味着权重更新。服务稍后是否使用交互进行训练取决于其单独的数据策略。