已驗證來源
每個故事都連結到最有力的可用證據:可用的原始來源,否則明確歸因的報告。
簡單的英語
發生了什麼、為什麼重要以及值得關注的內容——無需行話。
無填料
當訊號很弱時,我們不會發布任何內容,而是填充提要。
更多故事
9 故事安全性
AWS 基準測試發現 AI 漏洞偵測器標記安全代碼
Help Net Security 報告稱,AWS 在基準測試中測試了 12 個人工智慧模型,該基準測試旨在區分可利用的漏洞和看起來危險的安全程式碼。沒有一個達到 AWS 規定的假陽性和假陰性率生產閾值。helpnetsecurity.com政策
人工智慧安全警告加劇了華盛頓的政治鬥爭
美國有線電視新聞網 (CNN) 報道稱,人工智慧領導人關於失去控制的警告與共和黨不願放慢發展速度和民主黨呼籲政府加快行動的呼聲相衝突。edition.cnn.com政策
中國官方媒體稱 Anthropic 的人工智慧放緩提案是「冷戰」策略
根據《海峽時報》報道,中國《環球時報》指責 Anthropic 執行長 Dario Amodei 利用人工智慧安全論點來證明限制中國人工智慧發展的合理性。straitstimes.com安全性
Anthropic 警告再次引發關於先進人工智慧是否可以逃脫人類控制的爭論
《華盛頓郵報》報道稱,在最近的警告和模型測試事件重新引發了關於災難性風險的爭論後,Anthropic 執行長 Dario Amodei 敦促放慢人工智慧的開發速度並加強保障措施。此处的基本主张尚未得到独立验证。washingtonpost.com創新
麻省理工學院的研究人員推出了用於約束生成人工智慧的 HardFlow
麻省理工學院的研究人員表示,HardFlow 有助於預先訓練的生成模型滿足硬安全性和任務約束,同時產生更高品質的解決方案。news.mit.edu產品展示
Cognition 發布 Fusion 工具以實現更低成本的 AI 代理性能
GIGAZINE 報告稱,Cognition 發布了 Fusion,這是一種適用於 GPT-6 Astra 和 Claude Fable 的工具,可在基準測試中匹配競爭代理系統,同時將報告的成本降低高達 39%。gigazine.net產業
新加坡新創公司將人工智慧轉變為安全和機器人業務
根據《海峽時報》報道,新加坡新創公司 Invigilo 和 dConstruct Robotics 正在將人工智慧應用於工作場所安全、建築測繪和自主機器人,同時將業務擴展到新加坡有限的國內市場之外。straitstimes.com創新
狼人基準測試發現法學碩士可能高估了值得信賴的指控者
40 個開放權重法學碩士配置的基準發現,即使指控者與反對者一致,指控也會改變模型的信念。arxiv.org安全性
前 Anthropic 研究員告訴 BBC 人工智慧研究人員擔心人類的未來
BBC 報告稱,前 Anthropic 研究員 Jacob Coxon 支持放慢人工智慧的發展,同時承認滅絕風險的估計仍然存在爭議且未經驗證。bbc.com