发生了什么
QUASA 援引 Axios 和 Tectonic Defense 的报道称,总部位于华盛顿特区的 Aslan 在筹集了 2080 万美元后公开推出。此轮融资由 Khosla Ventures 和 XYZ Venture Capital 领投,其他几位投资者也参与其中。该公司正在开发人工智能代理,旨在创建持久的掩护身份,进入敌对或加密的在线社区,并在情报或军事分析人员控制的隔离设备上进行操作。 QUASA 表示,阿斯兰的公开任务材料描述了所声称的涉及走私、技术转让途径、网络欺诈和针对国防相关专业人员的招聘等工作。这些结果是公司描述的,尚未得到独立确认。该报告没有建立普遍可用性、客户访问、定价或标准化绩效记录。
QUASA 报道称,Axios 描述了 Aslan 在公司筹集 2080 万美元后于 9 月 1 日公开发布的情况。报道称,Khosla Ventures 和 XYZ Venture Capital 领投了本轮融资,2048 Ventures、BoxGroup、Liquid2、Alumni Ventures 和其他投资者跟投。 QUASA 认为 Aslan 是一家总部位于华盛顿特区的公司,致力于与美国情报、军事和执法组织合作。
该报告描述了旨在构建持久角色、寻求进入加密的外国犯罪或对手网络并在由分析师控制的隔离物理设备上运行的特工。 QUASA 表示,该系统的设计目的是在团体更改名称、在平台之间移动或在禁令后重新组建时保留访问权限。所提供的来源并未证明这些功能普遍可用,也未提供定价或客户访问条款。
QUASA 表示,阿斯兰的官方任务页面列出了声称的结果,涉及跨境走私网络、与与国家有联系的中国实体有关的技术转让途径、逃避制裁的网络欺诈市场以及针对与国防相关的美国专业人员的招聘行动。消息来源没有提供足以进行独立核实的案件编号、评估记录、司法调查结果或操作细节。因此,这些声明应被视为 QUASA 报告的公司描述的结果,而不是独立建立的结果。
文章还引用了 Tectonic Defense 对 Aslan 种子前和种子资金的描述,以及 TMC Insight 对可审计性、法律监督、证据处理和遏制的讨论。 QUASA 认为,创建角色并发送消息的人工智能系统需要授权、模型和工具版本、通信、人为干预、收集材料的转换和关闭操作的记录。所提供的报告并未表明阿斯兰已公开展示了所有这些控制措施。
为什么这很重要
在持久角色下进行通信的人工智能代理不仅仅可以观察在线社区:它们可以影响对话、收集信息并保留跨变化平台的访问权限。这就产生了有关授权、身份来源、证据完整性和问责制的实际问题。 QUASA 的报告表明,阿斯兰已为此功能吸引了大量资金,但目前的公开证据对调查概念和融资公告的支持比经过验证的操作可靠性更强烈。
卧底人工智能特工可以改变数字调查的性质,因为他们将参与社区而不仅仅是监视社区。建立信任或发送消息的系统可能会影响其正在研究的行为,从而产生未经授权的影响、诱捕或污染调查记录的风险。
证据处理是与技术记录不同的挑战。完整的活动日志本身并不能证明某个角色是合法授权的,也不能证明所保存的对话是在没有不当干预的情况下获得的。审阅者需要将原始通信与代理撰写的消息、翻译、摘要和模型推论区分开来。
此次融资意义重大,因为它表明投资者对用于敏感调查和国家安全工作的人工智能系统感兴趣。然而,该报告没有提供独立测量的可靠性、错误率、角色妥协率或与人类主导的操作的比较。因此,它并不能证明阿斯兰的方法已准备好用于证据或起诉。
互动机制:它实际上是如何运作的
以交互方式探索这一发展背后的基础技术。
crm_get_transaction(id='4092').An agent must create a draft calendar event for Tuesday at 2 p.m. Which evidence would establish the requested result?
接下来看什么
下一个重要证据将是显示各机构如何授权目标和角色、区分收集到的材料与人工智能生成的通信、监督自主行动以及关闭受损身份的文档。 QUASA 报告称,这些细节尚未公开。访问条件、部署范围、定价、客户身份以及独立测量的错误或妥协率也是未知的。
采购审查应确定允许哪些目标、平台、司法管辖区、代表和行动,以及系统如何阻止超出这些限制的活动。所提供的报告称,对人类监督的一般提及并不能揭示人类是否批准每条消息,只能揭示高风险行动或警报后的干预措施。
人物角色的来源很重要:机构需要记录显示谁授权了一个身份、什么材料塑造了它、哪个操作拥有它以及它何时退役。重用成功的身份可以保留访问权限,同时结合单独调查的权限、记录和保留义务。
审计师应寻求监管链控制,以保留时间戳和完整性,同时将收集到的材料与人工智能生成的通信和分析结论分开。他们还应该测试操作员是否可以撤销凭证、断开工具、保存记录并阻止跨平台的受损角色。
该消息来源留下了主要的未知数,包括阿斯兰的客户、部署管辖区、访问模式、定价、法律批准、独立测试以及任何声称的操作是否产生了可在法庭上使用的证据。解决这些问题需要 Axios、政府买家、法院或独立评估人员的进一步报告。