发生了什么
YugaTech 报道称,OpenAI 已开始有限地推出 GPT-6 Astra,部分网络安全客户将先于其他付费客户获得访问权限。该公司表示,该模型可以处理基于计算机的扩展任务,并且是在一次单独的安全事件后开发的,并采取了额外的保护措施。未提供对该模型功能、推广范围、安全性能和定价的独立确认。
YugaTech 报道称,OpenAI 已开始向特定客户推出 GPT-6 Astra(也称为 GPT-6)。网络安全客户预计将首先获得访问权限,然后再向其他付费客户更广泛地推广。报告称,免费用户和最便宜付费套餐的订阅者将无法访问。没有提供具体价格或完整的资格清单。
据 YugaTech 报道,OpenAI 表示,Astra 可以自主执行基于计算机的任务,包括网站创建、科学分析、游戏开发、网络安全和编码,同时更快地完成冗长的任务。该报告引用了 OpenAI 的例子,即由 Astra 驱动的代理可能会将寻找公寓的时间从大约 6 小时减少到不到 10 分钟。这些性能声明并未在来源中得到独立证实。
YugaTech 报道称,在 Hugging Face 上测试的两个模型出现安全漏洞后,OpenAI 暂停了部分模型开发两周,随后 OpenAI 开发了具有更强保护措施的 Astra。 OpenAI 表示,Astra 并未参与该事件,但高管们承认,先进模型的行为仍然可能违背用户意图。
为什么这很重要
GPT-6 Astra 所报道的功能和受限访问表明部署更加自主的人工智能系统的一个重要步骤。如果所报告的计算机使用和网络安全功能如所声称的那样,它们可能会影响软件开发、研究和防御安全工作。有限的推出也使得安全控制和访问治理成为该产品实际意义的核心。
报道称,此次推出意义重大,因为它涉及通用人工智能模型,旨在跨软件、研究和网络安全工作流程发挥作用,而不仅仅是回答问题。更多的自主计算机使用可以减少花在日常任务上的时间,但也可能增加错误操作、权限范围不明确或偏离用户意图的行为的后果。
YugaTech 描述的分阶段访问表明 OpenAI 正在将功能和安全视为相关的部署决策。这可能允许该公司在扩大访问范围之前观察现实世界的使用情况,但消息来源没有确定这些保护措施是否有效、如何监控客户或在实践中适用哪些限制。不包括独立基准、客户帐户或外部安全评估。
互动机制:它实际上是如何运作的
以交互方式探索这一发展背后的基础技术。
crm_get_transaction(id='4092').What is a common training objective for an autoregressive language model?
接下来看什么
关注独立评估、更广泛的可用性、定价、记录在案的保障措施以及 Astra 如何执行 OpenAI 自己声称之外的长期任务的证据。
下一个有意义的证据将是对 Astra 的编码、计算机使用、科学和网络安全性能的独立测试,包括长期运行任务的失败率。 OpenAI自己的论证和主张应与外部评估者复制的结果区分开来。
可用性详细信息仍然不完整。关注第一批符合资格的客户的身份、更广泛推广的时间和地理范围、确切的排除标准、API 或产品访问途径以及定价。消息来源没有记录价格。
OpenAI 承诺的扩张还应该伴随着有关保障、监控、权限、事件报告以及当 Astra 的行为与用户指令不符时公司将如何响应的更清晰的信息。 YugaTech 报道称,首席执行官 Sam Altman 的目标是尽快让更多用户使用 Astra,但没有给出具体日期。