概述
多智能體強化學習 (MARL) 訓練多個共享環境的學習智能體，每個智能體都適應自己的行為，而其他智能體也會適應。這很重要，因為大多數現實世界的問題——交通、市場、機器人團隊——都涉及許多決策者，而不是一個人。
多智能體強化學習位於核心人工智慧工具包。當你理解它時，其他人工智慧主題就變得更容易評估和比較。
深入探討
在單一代理強化學習中，一個代理人透過在固定環境中最大化獎勵來學習策略。 MARL 增加了更多代理，這改變了一切：從每個代理的角度來看，環境是非靜態的，因為其他代理不斷改變他們的策略。智能體可以是合作型的（分享團隊獎勵，例如踢足球的機器人），也可以是競爭型的（零和遊戲，例如撲克或追逃），或是混合型的。研究人員使用諸如馬可夫博弈（隨機博弈）之類的形式來概括單智能體馬可夫決策過程。著名的成果包括 DeepMind 的 AlphaStar 在《星海爭霸 II》中達到大師級水平，以及 OpenAI 五支擊敗職業 Dota 2 隊伍的成績，兩者都依賴於透過自我對戰相互訓練的智能體群體。
技術洞察
一個核心挑戰是非平穩性：當每個智能體更新其策略時，其他智能體面臨一個移動目標，因此天真的獨立學習可能無法收斂。一種流行的解決方案是採用分散式執行的集中式訓練 (CTDE)，由 MADDPG 和 QMIX 等演算法使用。在訓練期間，批評者會看到所有代理的觀察和操作來計算穩定的梯度，但在部署時，每個代理僅使用自己的本地觀察進行操作 - 將協調學習與實際的獨立操作相結合。
掌握多智能體強化學習
多智能體強化學習 (MARL) 訓練多個共享環境的學習智能體，每個智能體都適應自己的行為，而其他智能體也會適應。這很重要，因為大多數現實世界的問題——交通、市場、機器人團隊——都涉及許多決策者，而不是一個人。多智能體強化學習位於核心人工智慧工具包。當你理解它時，其他人工智慧主題就變得更容易評估和比較。為了建立深入的理解，請將多智能體強化學習視為一種操作模型，而不是單一功能：定義期望的結果，澄清假設，並將系統可以可靠地完成的任務與仍需要專家判斷的任務分開。
在實踐中，使用多智能體強化學習的強大團隊首先建立強大的概念模型，然後將這些模型映射到實際的生產限制。他們記錄明確的成功標準，根據實際數據和工作流程進行測試，並根據觀察到的失敗模式而不是一次性基準測試勝利進行迭代。這就是理論理解轉變為跨產品、政策和營運的持久能力的地方。
它可以幫助您將清晰的技術聲明與行銷語言分開。同時，不同的團隊可能會以不同的方式使用相同術語，因此請儘早定義範圍。最具彈性的方法是將實驗速度與治理規則結合：運行試點、捕獲證據、發布決策日誌，並隨著模型行為、使用者期望和監管要求的發展不斷更新保障措施。
戰略影響
它可以幫助您將清晰的技術聲明與行銷語言分開。
它可以幫助您將清晰的技術聲明與行銷語言分開。在高品質部署中，這會轉化為可衡量的操作規則、所有權邊界和定期審查儀式，以便團隊可以增強信心，而不是擴大模糊性。
在花費金錢或時間之前，您可以提出更好的實施問題。
在花費金錢或時間之前，您可以提出更好的實施問題。在高品質部署中，這會轉化為可衡量的操作規則、所有權邊界和定期審查儀式，以便團隊可以增強信心，而不是擴大模糊性。
具有共同理解的團隊可以做出更好的產品、政策和學習決策。
具有共同理解的團隊可以做出更好的產品、政策和學習決策。在高品質部署中，這會轉化為可衡量的操作規則、所有權邊界和定期審查儀式，以便團隊可以增強信心，而不是擴大模糊性。
現實世界的實施
協調倉庫機器人車隊，以便它們在運送包裹時不會在過道中發生碰撞或僵局
交通號誌控制，每個路口都是一個學習減少全市壅塞的代理
透過多個智能體之間的自我對弈來訓練遊戲 AI，如 OpenAI Five (Dota 2) 和 AlphaStar (StarCraft II)
管理智慧電網中分散式電池和家庭之間的投標和需求響應
實施模式
多智能體強化學習實踐
協調倉庫機器人車隊，以便它們在運送包裹時不會在過道中發生碰撞或僵局。
協調倉庫機器人車隊，以便在通道中運送包裹時不會發生碰撞或僵局。當團隊預先定義品質閾值、為邊緣情況保留人工升級路徑並追蹤一段時間內的生產力提升和錯誤成本時，通常會獲得更好的結果。
多智能體強化學習實踐
交通號誌控制，其中每個十字路口都是一個學習減少全市擁堵的代理。
交通號誌控制，其中每個交叉口都是一個學習減少全市擁堵的代理。當團隊預先定義品質閾值、為邊緣情況保留人工升級路徑並追蹤一段時間內的生產力增益和錯誤成本時，通常會得到更好的結果。
多智能體強化學習實踐
透過在多個智能體之間進行自我對弈來訓練遊戲 AI，如 OpenAI Five (Dota 2) 和 AlphaStar (StarCraft II)。
透過在多個代理程式之間進行自我對弈來訓練 OpenAI Five (Dota 2) 和 AlphaStar (StarCraft II) 等遊戲 AI 當團隊預先定義品質閾值、為邊緣情況保留人工升級路徑並隨著時間的推移跟踪生產力增益和錯誤成本時，通常會獲得更好的結果。
多智能體強化學習實踐
管理智慧電網中分散式電池和家庭之間的投標和需求響應。
管理智慧電網中分散式電池和家庭之間的投標和需求響應當團隊預先定義品質閾值、為邊緣情況保留人工升級路徑並追蹤一段時間內的生產力增益和錯誤成本時，通常會獲得更好的結果。
風險與防護欄
不同的團隊可能會以不同的方式使用相同術語，因此請儘早定義範圍。
基準測試可能看起來很強大，但實際效能卻參差不齊。
忽視數據品質和評估計劃通常會產生脆弱的結果。
實施路線圖
從您需要的結果的簡單語言定義開始。
從您需要的結果的簡單語言定義開始。將每個步驟視為證據門：如果不符合標準，則暫停推出，縮小差距，然後再擴大使用。
在測試之前選擇一種成功指標和一種失敗條件。
在測試之前選擇一種成功指標和一種失敗條件。將每個步驟視為證據門：如果不符合標準，則暫停推出，縮小差距，然後再擴大使用。
使用代表性資料運行小型試點，而不是完善的演示集。
使用代表性資料運行小型試點，而不是完善的演示集。將每個步驟視為證據門：如果不符合標準，則暫停推出，縮小差距，然後再擴大使用。
記錄多智能體強化學習在哪些方面有幫助以及在哪些方面較簡單的方法較好。
記錄多智能體強化學習在哪些方面有幫助以及在哪些方面較簡單的方法較好。將每個步驟視為證據門：如果不符合標準，則暫停推出，縮小差距，然後再擴大使用。