发生了什么
Nvidia 首席执行官黄仁勋出现在 CNBC 的 Squawk Box 上，宣布推出新的软件平台，旨在对人工智能系统实施限制性权利，并防止人工智能代理的流氓行为。采访强调了该平台对安全控制、许可机制和监控工具的关注，这些工具旨在防止人工智能代理超出预期参数行事。黄将该举措视为对人工智能滥用日益增长的担忧的回应，并强调该平台将与 Nvidia 现有的硬件和软件堆栈集成。
在 Squawk Box 的三分钟片段中，黄仁勋将新软件描述为“限制性权利”框架，将位于 Nvidia 的 GPU 和 AI 加速器生态系统之上。他表示，该平台包括许可控制、运行时监控和执行机制，可以关闭或限制偏离批准行为的人工智能代理。
Huang 将此次部署定位为 Nvidia 更广泛的人工智能安全战略的一部分，该战略此前包括 OpenShell 和 Sentry 等工具。他指出，该平台的设计与现有的 Nvidia 软件堆栈兼容，允许开发人员在不进行重大代码更改的情况下采用安全功能。
采访中没有透露具体的定价、许可条款或公开发布日期，仅表示该平台将在短期内向 Nvidia 的企业客户开放。
为什么这很重要
此次发布反映了更广泛的行业转向将安全和治理功能直接嵌入人工智能基础设施。通过要求限制性权利，Nvidia 旨在限制人工智能代理不受限制地运行的能力，这可以降低自动驾驶汽车、金融和关键基础设施等高风险应用中产生有害结果的风险。此举还向监管机构和企业客户发出信号，表明Nvidia正在采取积极措施解决人工智能安全问题，可能会影响未来的政策讨论，并为其他人工智能硬件提供商树立基准。如果得到广泛采用，该平台可以塑造开发人员设计、部署人工智能代理和货币化人工智能代理的方式，从而创建新的合规性和许可模型。
在硬件软件接口中嵌入安全控制解决了当前人工智能部署中的一个关键差距，其中大多数安全措施都应用于应用程序层。通过将控制移近计算层，Nvidia 可以更可靠、更低延迟地执行策略。
该平台的限制性权利模型可能成为人工智能许可的事实上的标准，影响人工智能合同中知识产权和使用权的谈判方式。这也可能会影响人工智能服务的经济性，因为提供商需要考虑合规成本。
监管机构越来越多地呼吁采取技术解决方案来减轻人工智能风险。 Nvidia 的积极主动立场可能会塑造未来的政策框架，鼓励其他硬件供应商采用类似的安全架构。
互动机制：它实际上是如何运作的
以交互方式探索这一发展背后的基础技术。
crm_get_transaction(id='4092').Why can ethical evaluation not be reduced to one model score?
接下来看什么
需要监控的关键指标包括平台的可用性时间表、定价结构以及哪几代 Nvidia 硬件将支持该平台。企业人工智能开发人员的采用率以及任何合作伙伴关系的公告（尤其是与云提供商的合作）将揭示市场的吸引力。此外，引用 Nvidia 方法的监管回应或行业标准可能会放大其影响。最后，任何证明该平台在防止人工智能不当行为方面有效性的性能基准或案例研究对于评估其实际价值都至关重要。
发布时间表：Nvidia 是否会将平台作为测试版、有限预览版或完整的商业产品推出。
定价和许可：有关成本结构、订阅模式或每台设备费用的详细信息，这将决定小型开发人员与大型企业的可访问性。
与云平台集成：与主要云提供商的合作可以加速采用并设定行业范围的基准。
监管影响：即将出台的人工智能治理指南或标准机构中可能会引用 Nvidia 的方法。