逻辑回归
逻辑回归通过 S 形曲线压缩加权和来预测某物属于某个类别（例如垃圾邮件或非垃圾邮件）的概率。
概述
It matters as the foundational, highly interpretable algorithm for classification.
深入探讨
尽管它的名字如此，逻辑回归是一种分类方法，而不是回归方法。它计算输入特征的加权和，然后将该值传递给 sigmoid（逻辑）函数，该函数将任何数字映射到 0 到 1 之间的概率。如果概率跨越阈值（通常为 0.5），则该点被标记为正。该模型通过最小化对数损失（交叉熵）来学习其权重，这会严重惩罚自信的错误预测。主要优势是可解释性：每个权重都会告诉您某个特征如何改变结果的对数赔率，因此您可以了解哪些因素推动预测向上或向下。多类版本使用 softmax 函数扩展它。
技术洞察
sigmoid 函数（1 除以（1 加 e 的负 z））将线性分数 z 转换为概率。该模型通过梯度下降进行训练，以最小化交叉熵损失，这是凸的，因此存在单个全局最优值。权重具有明确的含义：每个权重都是其特征的每单位对数赔率的变化，对其求幂给出了领域专家可以直接解释的赔率比。
战略影响
更清晰的判决
它可以帮助您将清晰的技术声明与营销语言分开。
成本与预算
在花费金钱或时间之前，您可以提出更好的实施问题。
团队与工作流程
具有共同理解的团队可以做出更好的产品、政策和学习决策。
逻辑回归的未来
逻辑回归经久不衰，因为它快速、透明，并且是衡量更高级模型的强大基线。在金融和医药等受监管领域，其可解释性使其在黑盒模型面临审查的领域得到积极使用。它也存在于现代神经网络内部：带有 sigmoid 或 softmax 的最终分类层本质上是逻辑回归，因此理解它是深度学习的门户。
现实世界的实施
垃圾邮件过滤：根据单词和发件人特征估计邮件是垃圾邮件的概率。
信用评分：通过透明的权重贡献来预测贷款申请人违约的可能性。
医疗风险预测：根据测试值和症状估计患者患病的可能性。
营销流失模型：预测客户下个月是否会取消订阅。
风险与防护栏
不同的团队可能会以不同的方式使用同一术语，因此请尽早定义范围。
基准测试可能看起来很强大，但实际性能却参差不齐。
忽视数据质量和评估计划通常会产生脆弱的结果。
实施路线图
从您需要的结果的简单语言定义开始。
在测试之前选择一种成功指标和一种失败条件。
使用代表性数据运行小型试点，而不是完善的演示集。
记录逻辑回归在哪些方面有帮助以及在哪些方面更简单的方法更好。
不断探索
Free newsletter
Get the daily AI briefing
Three verified AI stories every weekday morning, written in plain English. Free forever, no ads.
One email each weekday. Unsubscribe in one click. We never sell or share your address.
Test yourself
Take the Logistic Regression quiz
Instant feedback on every answer, and a shareable certificate with a verifiable ID once you pass a course.
Support free AI education. AI Understanding is a 501(c)(3) nonprofit — no ads, no paywall, ever. Make a donation
常见问题
What is Logistic Regression?
逻辑回归通过 S 形曲线压缩加权和来预测某物属于某个类别（例如垃圾邮件或非垃圾邮件）的概率。作为基础的、高度可解释的分类算法，它很重要。
尽管有它的名字，逻辑回归实际上是用来做什么的？
逻辑回归输出概率并用于将项目分类为离散类别，例如垃圾邮件与非垃圾邮件。
sigmoid（逻辑）函数在模型中起什么作用？
sigmoid 将线性分数压缩到 0 到 1 的范围内，因此输出可以被解读为概率。
逻辑回归在训练过程中最小化哪个损失函数？
逻辑回归是通过最小化交叉熵来训练的，这会强烈惩罚自信但错误的概率估计。
为什么逻辑回归重视可解释性？
学习到的系数具有明确的含义：每个系数都反映了其特征的每单位对数优势的变化，通常表示为优势比。
逻辑回归通常如何将概率转化为类别标签？
如果预测概率超过阈值（通常为 0.5），则该点被标记为正；否则为负。