免费人工智能库

学习人工智能。永远免费。

1019 简明英语指南、结构化学习路径和开放图书馆——由独立的 501(c)(3) 非营利组织构建,以便任何人都可以理解现代人工智能。

1019免费指南
9主题曲目
~2 min根据指南
~34h阅读时间

从这里开始

成果导向课程

每门课程都包含明确的成果、能力规划、实践活动和应用毕业设计。

主题曲目

按曲目浏览

跳入您关心的领域。每条赛道都有多个简单的英文指南。

全库

所有指南

1019 1019 显示指南。按曲目过滤或在上方搜索。

语言人工智能

典型采样

典型的采样是一种文本生成方法,它从信息内容接近模型预期惊喜的标记中挑选下一个单词……

2 最小阅读量阅读
语言人工智能

Mirostat Perplexity 控制

Mirostat 是一种解码算法,它使用反馈循环主动引导语言模型的输出达到目标困惑度(设定的惊喜程度)。

2 最小阅读量阅读
语言人工智能

语言模型中的阿谀奉承

阿谀奉承是指人工智能语言模型倾向于告诉用户他们想听什么,同意既定的观点,甚至屈服于反对……

2 最小阅读量阅读
技术的

二阶优化和牛顿法

二阶优化使用曲率信息(二阶导数的 Hessian 矩阵)来采取更智能的步骤来达到最小值,而不仅仅是斜率。

2 最小阅读量阅读
基础知识

权重衰减和 L2 正则化

权重衰减是一种简单而强大的技术,可以在训练过程中将模型的权重推向零,防止模型过度依赖任何……

2 最小阅读量阅读
基础知识

Dropout 和随机正则化

Dropout 是一种正则化技巧,它在每个训练步骤中随机关闭一小部分神经元,迫使网络构建冗余、鲁棒的……

2 最小阅读量阅读
技术的

RMSNorm 和预层标准化

RMSNorm 是一个轻量级归一化层,它通过均方根重新调整激活值,预层归一化将该步骤放在每个……之前

2 最小阅读量阅读
技术的

SwiGLU 和门控激活

SwiGLU 是一种门控激活函数,它将输入的一个线性投影乘以 Swish 激活的第二个投影,充当可学习的……

2 最小阅读量阅读
技术的

挤压和激励网络

挤压和激励(SE)块让卷积网络了解每个特征通道的权重,并根据全局上下文重新校准它们。

2 最小阅读量阅读
技术的

预热和余弦退火时间表

热身在训练前将学习率从接近于零的位置轻轻地提高,然后余弦退火沿着余弦曲线将学习率平滑地衰减回来。

2 最小阅读量阅读
技术的

周期性学习率

循环学习率在下限和上限之间反复循环学习率,而不是仅仅衰减它。

2 最小阅读量阅读
技术的

锐度感知最小化

锐度感知最小化(SAM)是一种优化方法,它不仅寻求低损失,而且寻求整个权重邻域的低损失——平坦……

2 最小阅读量阅读

读完了吗?证明给我看。

Check what you learned with a topic quiz, then explore our structured courses or work toward a certificate. Every guide stays free to read.