人工智能基金会
了解什么是人工智能,系统如何学习,哪些地方失误,以及如何在不夸大的情况下判断主张。
免费人工智能库
177 简明英语指南、结构化学习路径和开放图书馆——由独立的 501(c)(3) 非营利组织构建,以便任何人都可以理解现代人工智能。
从这里开始
每门课程都包含明确的成果、能力规划、实践活动和应用毕业设计。
了解什么是人工智能,系统如何学习,哪些地方失误,以及如何在不夸大的情况下判断主张。
在保护隐私、核查输出和保持人类问责的同时,高效使用人工智能。
评估工作场所用例,运行安全试点,衡量价值,负责任地沟通变更。
通过权利、公平、治理、安全和公共利益结果分析人工智能系统。
通过实用的系统设计,理解语言模型、检索、代理、评估、成本和部署保障。
主题曲目
跳入您关心的领域。每条赛道都有多个简单的英文指南。
全库
177 的 1019 显示指南。按曲目过滤或在上方搜索。
推测流和多令牌预测通过一次猜测多个未来令牌并在单个......中验证它们来加速语言模型的生成。
技术的BERTScore 通过比较含义而不是确切的单词来衡量机器生成的文本与参考的匹配程度。
技术的线性注意力用随序列长度线性缩放的数学技巧取代了 Transformers 中的二次 softmax 注意力。
技术的YaRN(另一种 RoPE 扩展)是一种有效的技术,可以将模型的可用上下文窗口扩展到远远超出其训练范围的范围。
技术的位置插值 (PI) 是一种简单、有影响力的技术,它通过将新的位置索引压缩到范围内来扩展 Transformer 的上下文窗口……
技术的LoRA 专家混合体 (MoLE) 将许多小型、训练成本低廉的适配器与学习路由器相结合,因此单个基本模型可以灵活地专业化……
技术的推测性编辑通过预测文件的大部分内容将保持不变并仅验证不同的小部分,使 AI 代码编辑感觉即时。
技术的激活控制通过在运行时直接在其隐藏激活内添加或减去向量来推动模型的行为,无需重新训练。
技术的稀疏自动编码器 (SAE) 是一种工具,可将神经网络错综复杂的内部激活分解为更大的清洁集合......
技术的学习人工智能可解释性中的叠加和多语义:为什么模型将特征打包到共享方向,为什么神经元变得多语义......
技术的Logit 透镜和调谐透镜是可解释性技术,可以逐层查看 Transformer 的隐藏状态,以了解模型在“思考”什么……
技术的DeepSpeed (Microsoft) 和 Megatron-LM (NVIDIA) 是软件堆栈,可在数千个 GPU 上创建具有数十亿参数的训练模型……