Безплатна AI библиотека

технически водачиСвободен завинаги.

177 ръководства на обикновен английски език, структурирани пътеки за обучение и отворена библиотека — създадена от независима 501(c)(3) организация с нестопанска цел, така че всеки да може да разбере модерния AI.

177Безплатни ръководства
1Тематични песни
~2 minПо ръководство
~6hReading time

Започнете тук

Five outcome-based courses

Each course includes explicit outcomes, mapped competencies, practice activities, and an applied capstone.

Тематични песни

Преглед по песен

Скочете в района, който ви интересува. Всяка песен има множество ръководства на обикновен английски.

Пълна библиотека

Всички ръководства

177 на 1019 показани ръководства. Филтрирайте по песен или потърсете по-горе.

технически

Паралелизъм на последователностите и внимание на ринга

Паралелизмът на последователностите разделя една дълга входна последователност между множество графични процесори по дължината на измерението на токена (време), а Ring Attention позволява на тези графични процесори да изчисляват...

2 мин. прочетеноПрочетете
технически

Компромиси при повторно изчисляване на активиране

Повторното изчисляване на активирането (градиент или контролна точка на активиране) спестява GPU памет по време на обучение чрез изхвърляне на междинни активации при преминаването напред...

2 мин. прочетеноПрочетете
технически

Оптимизация на груповата относителна политика

Оптимизацията на груповата относителна политика (GRPO) е метод за укрепване на обучението за фина настройка на езикови модели, който оценява всеки отговор спрямо група...

2 мин. прочетеноПрочетете
технически

Нормализиране на потоците

Нормализиращите потоци са генеративни модели, които превръщат прост шум (като Гаус) в сложни данни чрез верига от обратими, диференцируеми...

2 мин. прочетеноПрочетете
технически

Енергийно базирани модели

Базираните на енергия модели (EBM) изучават скаларна „енергийна“ функция, която присвоява ниски стойности на правдоподобни данни и високи стойности на неправдоподобни данни, дефинирайки...

2 мин. прочетеноПрочетете
технически

Разтоварване на състоянието на оптимизатора към CPU и NVMe

Трик за спестяване на памет, който паркира тежкото счетоводство на обучението (състояния на оптимизатора, градиенти, понякога тегла) в CPU RAM или на NVMe SSD вместо това...

2 мин. прочетеноПрочетете
технически

Шардинг на контролни точки и възобновяемо обучение

Техники за запазване на състоянието на обучение на модел на парчета (шардове), така че гигантските модели да могат да бъдат запазени и презаредени, без да се задушават ограниченията на паметта или диска, и така...

2 мин. прочетеноПрочетете
технически

Управление на паметта на GPU и фрагментиране

Как AI рамките разпределят, използват повторно и възстановяват ограничената памет на GPU и защо остатъчните пропуски (фрагментация) могат да причинят грешки при липса на памет дори...

2 мин. прочетеноПрочетете
технически

Мултиинстанционно GPU разделяне

Multi-Instance GPU (MIG) е технология на NVIDIA, която разделя един физически GPU на множество изолирани хардуерни дялове.

2 мин. прочетеноПрочетете
технически

Планиране на GPU и оркестрация на клъстери

Графикът на GPU решава кои задачи да се изпълняват на кои ускорители и кога, докато оркестрацията координира тези задачи в цял клъстер от машини.

2 мин. прочетеноПрочетете
технически

Slurm за клъстери за обучение на AI

Slurm е мениджър на натоварването с отворен код, който планира и изпълнява задачи на високопроизводителни изчислителни клъстери и се превърна в избор по подразбиране за големи AI...

2 мин. прочетеноПрочетете
технически

Планирайте и решавайте подкани

Подканата за планиране и решаване (PS) казва на езиковия модел първо да изработи ясен план и след това да го изпълни стъпка по стъпка, коригирайки неуспехите, които просто...

2 мин. прочетеноПрочетете

Finished reading? Prove it.

Check what you learned with topic quizzes, then explore our structured courses and current certification requirements. Core guides remain free to read.