免費人工智慧庫

科技 指南永遠免費。

177 簡明英語指南、結構化學習路徑和開放圖書館——由獨立的 501(c)(3) 非營利組織構建,以便任何人都可以理解現代人工智慧。

177免費指南
1主題曲目
~2 min根據指南
~6h閱讀時間

從這裡開始

基於結果的課程

每門課程都包括明確的成果、映射的能力、實踐活動和應用的頂點。

主題曲目

按曲目瀏覽

跳入您關心的領域。每條賽道都有多個簡單的英文指南。

全庫

所有指南

177 1019 顯示指南。按曲目過濾或上方搜尋。

科技

注意力推出和頭部修剪

注意力推出是一種追蹤資訊如何流經 Transformer 堆疊注意力層的方法,以解釋哪些輸入標記影響…

2 最小閱讀量閱讀
科技

二階優化和牛頓法

二階最佳化使用曲率資訊(二階導數的 Hessian 矩陣)來採取更聰明的步驟來達到最小值,而不僅僅是斜率。

2 最小閱讀量閱讀
科技

RMSNorm 和預層標準化

RMSNorm 是一個輕量級歸一化層,它透過均方根重新調整活化值,預層歸一化將該步驟放在每個…之前

2 最小閱讀量閱讀
科技

SwiGLU 和門控激活

SwiGLU 是一種門控激活函數,它將輸入的一個線性投影乘以 Swish 激活的第二個投影,充當可學習的…

2 最小閱讀量閱讀
科技

擠壓和激勵網絡

擠壓和激勵(SE)區塊讓卷積網路了解每個特徵通道的權重,並根據全局上下文重新校準它們。

2 最小閱讀量閱讀
科技

預熱和余弦退火時間表

熱身在訓練前將學習率從接近零的位置輕輕地提高,然後餘弦退火沿著餘弦曲線將學習率平滑地衰減回來。

2 最小閱讀量閱讀
科技

週期性學習率

循環學習率在下限和上限之間反覆循環學習率,而不是只是衰減它。

2 最小閱讀量閱讀
科技

銳利度感知最小化

銳利度感知最小化(SAM)是一種最佳化方法,它不僅尋求低損失,而且尋求整個權重鄰域的低損失-平坦…

2 最小閱讀量閱讀
科技

線性探測和凍結特徵評估

線性探測透過凍結網路並僅在頂部訓練一個簡單的線性分類器來測試預訓練模型的內部表示的好壞。

2 最小閱讀量閱讀
科技

DenseNet 和密集連接

DenseNet 是一個卷積網絡,其中每一層都接收所有前面層的特徵圖作為輸入。

2 最小閱讀量閱讀
科技

瓶頸架構

瓶頸架構將資料壓縮通過狹窄的中間層,然後再次擴展,迫使網路學習緊湊、高效…

2 最小閱讀量閱讀
科技

梯度累積

梯度累積可讓您在更新之前對幾個小批量的梯度求和,從而在有限的 GPU 記憶體上模擬大批量大小…

2 最小閱讀量閱讀

讀完了嗎?證明一下。

透過主題測驗檢查您學到了什麼,然後探索我們的結構化課程或努力獲得證書。每本指南都可以免費閱讀。

AI 技術指南 — 第 3 頁,共 15 頁 | AI Understanding