Безплатна AI библиотека

технически водачиСвободен завинаги.

177 ръководства на обикновен английски език, структурирани пътеки за обучение и отворена библиотека — създадена от независима 501(c)(3) организация с нестопанска цел, така че всеки да може да разбере модерния AI.

177Безплатни ръководства
1Тематични песни
~2 minПо ръководство
~6hReading time

Започнете тук

Five outcome-based courses

Each course includes explicit outcomes, mapped competencies, practice activities, and an applied capstone.

Тематични песни

Преглед по песен

Скочете в района, който ви интересува. Всяка песен има множество ръководства на обикновен английски.

Пълна библиотека

Всички ръководства

177 на 1019 показани ръководства. Филтрирайте по песен или потърсете по-горе.

технически

Внимание Разгръщане и подрязване на главата

Attention rollout е метод за проследяване как информацията протича през подредените слоеве на вниманието на Transformer, за да се обясни кои входни токени влияят...

2 мин. прочетеноПрочетете
технически

Оптимизация от втори ред и методи на Нютон

Оптимизацията от втори ред използва информация за кривината (хесовата матрица на вторите производни), за да предприеме по-интелигентни стъпки към минимум, а не само към наклона.

2 мин. прочетеноПрочетете
технически

RMSNorm и нормализиране на предварителния слой

RMSNorm е олекотен слой за нормализиране, който премащабира активациите по техния среден квадрат, а нормализацията преди слоя поставя тази стъпка преди всяка...

2 мин. прочетеноПрочетете
технически

SwiGLU и затворени активации

SwiGLU е затворена функция за активиране, която умножава една линейна проекция на входа по втора проекция, активирана от Swish, действайки като обучаем...

2 мин. прочетеноПрочетете
технически

Мрежи за притискане и възбуждане

Блоковете Squeeze-and-Excitation (SE) позволяват на конволюционната мрежа да научи колко да претегля всеки канал на функция, като ги калибрира повторно въз основа на глобалния контекст.

2 мин. прочетеноПрочетете
технически

Графици за загряване и косинусово отгряване

Warmup леко повишава скоростта на обучение от почти нула преди тренировка, след което косинусното отгряване плавно го намалява обратно след косинусова крива.

2 мин. прочетеноПрочетете
технически

Циклични нива на обучение

Цикличните скорости на обучение многократно циклизират скоростта на обучение нагоре и надолу между долна и горна граница, вместо само да я намаляват.

2 мин. прочетеноПрочетете
технически

Минимизиране с острота

Sharpness-Aware Minimization (SAM) е метод за оптимизация, който търси не само ниска загуба, но ниска загуба в цял квартал от тегла - плосък...

2 мин. прочетеноПрочетете
технически

Линейно изследване и оценка на замразени характеристики

Линейното сондиране тества колко добри са вътрешните представяния на предварително обучен модел чрез замразяване на мрежата и обучение само на прост линеен класификатор отгоре.

2 мин. прочетеноПрочетете
технически

DenseNet и Dense Connectivity

DenseNet е конволюционна мрежа, в която всеки слой получава картите на характеристиките на всички предходни слоеве като вход.

2 мин. прочетеноПрочетете
технически

Архитектури с тесни места

Архитектурата с тесни места изтласква данните през тесен междинен слой, преди да ги разшири отново, принуждавайки мрежата да се научи на компактни, ефективни...

2 мин. прочетеноПрочетете
технически

Градиентно натрупване

Натрупването на градиенти ви позволява да симулирате голям размер на партида върху ограничена GPU памет чрез сумиране на градиенти върху няколко малки мини-партиди, преди да актуализирате...

2 мин. прочетеноПрочетете

Finished reading? Prove it.

Check what you learned with topic quizzes, then explore our structured courses and current certification requirements. Core guides remain free to read.