發生了什麼事
一群自稱 Hacktron AI 的安全研究人員使用 Anthropic 的 Claude AI 模型來破壞 OpenAI 的內部系統。他們利用了 Discourse 中的漏洞，Discourse 是為 OpenAI 社群論壇提供支援的外部平台。最初，該模型未能產生工作腳本，但隨著更新的 Opus 5 模型的發布，他們成功起草了一種繞過平台安全性的方法。進入內部後，他們發現了 ChatGPT 的身份驗證令牌，其中一些屬於 OpenAI 員工，並獲得了 OpenAI 內部 GitHub 儲存庫的存取權限。
駭客攻擊背後的團隊 Hacktron AI 參與了 OpenAI 的官方錯誤賞金計畫。他們使用 Anthropic 的 Claude 模型來編寫漏洞程式碼，有效地將腦力外包給了一台不眠不休的機器。
此次洩漏始於 Discourse 中的一個漏洞。研究人員將詳細資訊輸入 Claude，但最初未能產生工作腳本。然而，隨著更新的 Opus 5 型號的發布，人工智慧成功地制定了繞過平台安全性的方法。
進入 Discourse 伺服器後，研究人員發現了 ChatGPT 的身份驗證令牌，其中一些屬於實際的 OpenAI 員工。然後，他們存取了 OpenAI 的內部 GitHub 儲存庫，並獲得了專有技術知識的寶庫。
為什麼這很重要
這起事件凸顯了與人工智慧驅動的資料外洩相關的潛在風險。人工智慧正在有效降低網路攻擊的進入門檻，將臨時用戶變成潛在的數位威脅。這對科技巨頭來說是一記警鐘，強調用於建立未來的工具也可能摧毀未來。此次洩漏表明需要加強安全措施，包括限制對敏感內部資料的訪問，並確保一項服務的洩漏不會導致對更關鍵系統的訪問。
人工智慧正在降低網路攻擊的進入門檻，將普通用戶變成潛在的數位威脅。
該事件強調了加強安全措施的必要性，包括限制對敏感內部數據的訪問，並確保一項服務的洩露不會導致更關鍵系統的訪問。
這次漏洞凸顯了人工智慧的雙重性質：雖然它帶來了新的風險，但安全團隊也利用它來編寫更好的修補程式和檢測異常。
互動機制：它實際上是如何運作的
以互動方式探索這項發展背後的基礎技術。
Why can ethical evaluation not be reduced to one model score?
接下來看什麼
人工智慧在網路攻擊中的使用越來越多，國家支持的駭客團體或有組織的犯罪集團有可能利用這些工具。漏洞賞金計畫在增強安全性方面的有效性，以及科技公司調整防禦措施以跟上人工智慧進步步伐的必要性。
人工智慧在網路攻擊中的使用越來越多，以及國家支持的駭客團體或有組織的犯罪集團利用這些工具的可能性是全球網路安全專家的主要擔憂。
正如研究人員負責任的揭露過程所證明的那樣，漏洞賞金計畫在加強安全方面的有效性仍然是現代防禦戰略的關鍵組成部分。
隨著每個新模型的發布，漏洞開發的速度不斷加快，科技公司需要調整其防禦措施以跟上人工智慧進步的步伐，這一點至關重要。