人工智慧基礎
了解人工智慧是什麼、系統如何學習、失敗的地方以及如何在不炒作的情況下判斷主張。
免費人工智慧庫
1019 簡明英語指南、結構化學習路徑和開放圖書館——由獨立的 501(c)(3) 非營利組織構建,以便任何人都可以理解現代人工智慧。
從這裡開始
每門課程都包括明確的成果、映射的能力、實踐活動和應用的頂點。
了解人工智慧是什麼、系統如何學習、失敗的地方以及如何在不炒作的情況下判斷主張。
有效率地使用人工智慧,同時保護隱私、檢查輸出並維持人類責任。
評估工作場所用例、運行安全試點、衡量價值並負責任地傳達變更。
透過權利、公平、治理、安全和公共利益結果來分析人工智慧系統。
透過實務系統設計,了解語言模型、檢索、代理、評估、成本及部署保障。
主題曲目
跳入您關心的領域。每條賽道都有多個簡單的英文指南。
全庫
1019 的 1019 顯示指南。按曲目過濾或上方搜尋。
典型的取樣是一種文字產生方法,它從資訊內容接近模型預期驚喜的標記中挑選下一個單字…
語言人工智慧Mirostat 是一種解碼演算法,它使用回饋循環主動引導語言模型的輸出達到目標困惑度(設定的驚喜程度)。
語言人工智慧阿諛奉承是指人工智慧語言模型傾向於告訴使用者他們想聽什麼,同意既定的觀點,甚至屈服於反對…
科技二階最佳化使用曲率資訊(二階導數的 Hessian 矩陣)來採取更聰明的步驟來達到最小值,而不僅僅是斜率。
基礎知識權重衰減是一種簡單而強大的技術,可以在訓練過程中將模型的權重推向零,防止模型過度依賴任何…
基礎知識Dropout 是一種正規化技巧,它在每個訓練步驟中隨機關閉一小部分神經元,迫使網路建置冗餘、穩健的…
科技RMSNorm 是一個輕量級歸一化層,它透過均方根重新調整活化值,預層歸一化將該步驟放在每個…之前
科技SwiGLU 是一種門控激活函數,它將輸入的一個線性投影乘以 Swish 激活的第二個投影,充當可學習的…
科技擠壓和激勵(SE)區塊讓卷積網路了解每個特徵通道的權重,並根據全局上下文重新校準它們。
科技熱身在訓練前將學習率從接近零的位置輕輕地提高,然後餘弦退火沿著餘弦曲線將學習率平滑地衰減回來。
科技循環學習率在下限和上限之間反覆循環學習率,而不是只是衰減它。
科技銳利度感知最小化(SAM)是一種最佳化方法,它不僅尋求低損失,而且尋求整個權重鄰域的低損失-平坦…