Termin ze słownika AI

Czym jest Kodowanie pozycyjne?

Definicja

Informacje dodane do osadzania tokenów, aby transformatory mogły rozróżnić kolejność sekwencji.

Przejrzyj pełny słownik AIPrzeglądaj wszystkie bezpłatne przewodniki AI

Powiązane terminy

Lina (obrotowe osadzenie pozycyjne)Metoda kodowania pozycyjnego, która obraca wektory zapytań i kluczy w celu zakodowania względnych pozycji tokenów.AlibiMetoda błędu pozycyjnego, która penalizuje wyniki uwagi na podstawie odległości symbolicznej, pomagając modelom ekstrapolować na dłuższe konteksty.Dostrajanie efektywne pod względem parametrów (PEFT)Metody dostosowujące modele poprzez uczenie małego podzbioru dodanych parametrów.AGI (sztuczna inteligencja ogólna)Hipotetyczny system sztucznej inteligencji, który może wykonywać większość zadań intelektualnych na poziomie człowieka w wielu dziedzinach.Agent AISystem oprogramowania, który potrafi obserwować, rozumować i podejmować działania, aby osiągnąć cel, często przy użyciu narzędzi i pamięci.AdnotacjaEtykiety lub metadane dodane przez człowieka używane do uczenia lub oceniania modeli uczenia maszynowego.

Dowiedz się więcej z naszych bezpłatnych przewodników

Positional Interpolation for Long ContextInstant-NGP Hash EncodingByte-Pair EncodingTokenization and Byte Pair Encoding

Zobacz także

Multi-Head AttentionFlash AttentionQLoRASliding Window AttentionDPO (Direct Preference Optimization)BPE (Byte Pair Encoding)Tree of ThoughtsSentencePiece