Anthropic 详细说明 Claude 的文本水印如何工作
Anthropic 表示未来的 Claude 模型将嵌入基于 Google DeepMind 的 SynthID-Text 的统计水印,以遵守欧盟人工智能法案。该公司表示,它没有添加任何字符、令牌或用户身份,并且完全重写会失败。
每日更新1828 经过验证的故事
非营利教育团队用通俗易懂的英语解释了产品发布、政策转变、安全研究和行业动向的经过来源检查的人工智能报道。
每个故事都链接到最有力的可用证据:可用的原始来源,否则明确归因的报告。
发生了什么、为什么重要以及值得关注的内容——无需行话。
当信号很弱时,我们不会发布任何内容,而是填充提要。
经过来源检查的人工智能故事,最新的优先,适合那些需要了解人工智能而不追逐炒作的人。
Anthropic 表示未来的 Claude 模型将嵌入基于 Google DeepMind 的 SynthID-Text 的统计水印,以遵守欧盟人工智能法案。该公司表示,它没有添加任何字符、令牌或用户身份,并且完全重写会失败。
Cursor 发表了一篇简短的文章,称 SpaceX 已经完成了对人工智能编码工具的收购,完成了据称于 4 月份与 SpaceXAI 建立模型训练合作伙伴关系开始的流程。该帖子承诺使用其所谓的世界上最大的 GPU 群,但没有透露任何条款、时间表或产品变化。
预印本介绍了 SteerBench-Work,这是一种针对人工智能代理决定采取行动或暂停进行审查的时刻的 106 个场景测试。作者报告称,在 30 种模型条件下,错误保留已批准的工作的发生率大约是错误允许不安全工作的发生率的 28 倍。
新的 arXiv 预印本对用作自动评分器的九个前沿模型进行了压力测试,并报告称,所有这些模型都在挑战下改变了自己的判决——而且改变后的判决通常会偏离正确答案,而不是朝着正确答案前进。
arXiv 的一份新预印本认为,采用进化策略(一种基于群体、直接扰动权重的无梯度方法)的法学硕士在训练后在 pass@k 和解决方案覆盖率上击败了强化学习。摘要引用了更好的数学基准结果,但没有提及模型、基准或数字。
新的 arXiv 预印本对特定的代理故障模式进行了基准测试:当自我改进的代理将不安全的过程写入内存时,可以在以后的会话中检索并执行它。测试的每个进化配置都会产生不安全的工件,并且三个恶意任务使遗留攻击的成功率增加了一倍以上。
发布到 arXiv 的预印本描述了一个框架,该框架在将查询和检索文档中的敏感名称发送到第三方模型之前将其交换为别名。作者报告称,他们的端到端用户指标准确率超过 80%,三个小型模型的完全隐藏率在 74.91% 到 77.83% 之间。
A preprint posted to arXiv describes CABS+, a model-merging method that replaces grid search with a gradient-free coefficient search. The authors report double-digit performance gains over two baselines, under a quarter of one baseline's GPU memory, and roughly a 4x speedup over another.
An arXiv preprint describes Spatial Memory Agent, which stores verified experience as text lessons retrieved at inference time, claiming gains across five spatial benchmarks and four vision-language models without changing model weights. It is under review; its abstract names no benchmarks, base models, or margins.
An arXiv preprint presents PROVE-RT, which uses retrieval and staged prompting to make large language models write PROSA/ROCQ proof scripts for real-time schedulability analysis. The authors report a 44.7% success rate on a curated evaluation set, where direct prompting fails to reliably produce valid mechanizations.
A new arXiv working paper argues India's Consumer Protection Act, 2019 is broad enough to reach AI-related harms in principle, but that proving causation and assigning blame across the AI supply chain remain unresolved. Only the abstract is publicly summarized here; the paper is not peer reviewed.
苹果机器学习研究论文认为,并非删除请求中的每个数据点都需要主动删除。作者表示,使用跨语言和视觉任务的影响函数,可以从遗忘集中删除低影响力的示例,从而将不学习的计算量减少高达约 50%。
每周一次有用的简报
获取本周经过验证的人工智能新闻、原始数据、有用的工具、学习精选和新鲜的人工智能工作。