什么是 人工智能对齐?

该领域专注于减少人工智能系统中的有害行为、故障和误用风险。

构建执行需要模式识别、推理、语言或决策的任务的系统的广泛领域。

使系统更安全、更可控所需的时间、计算或产品速度方面的额外成本。

一种旨在绕过模型安全约束的提示技术。

一个假设的人工智能系统，可以在许多领域以人类水平执行大多数智力任务。

人工添加的标签或元数据用于训练或评估机器学习模型。