Termin ze słownika AI

Czym jest Prawo skalowania?

Definicja

Zależność empiryczna pokazująca, jak wydajność poprawia się wraz z rozmiarem modelu, danymi lub obliczeniami.

Przejrzyj pełny słownik AIPrzeglądaj wszystkie bezpłatne przewodniki AI

Powiązane terminy

Uwaga na przesuwane oknoWzorzec uwagi, w którym każdy token obsługuje tylko okno pobliskich tokenów o stałym rozmiarze, aby zmniejszyć obliczenia.Samodzielna graKonfiguracja szkoleniowa, w której model jest ulepszany poprzez generowanie danych w drodze interakcji lub konkursów z jego kopiami.Przejrzystość algorytmicznaJak jasno logika, źródła danych i ograniczenia systemu AI są udokumentowane i zrozumiałe.Dryf danychZmiana rzeczywistych danych wejściowych w czasie, która może obniżyć wydajność modelu.UogólnienieJak dobrze model radzi sobie z nowymi, niewidocznymi danymi spoza zbioru szkoleniowego.GradientoweWektor pokazujący, jak bardzo powinien zmienić się każdy parametr, aby zmniejszyć straty.

Dowiedz się więcej z naszych bezpłatnych przewodników

AI & LawAI in Law Enforcement and PolicingYaRN Context Window ScalingChinchilla Scaling Laws

Zobacz także

Safety FilterSemantic SearchRobustnessSelf-Supervised LearningReward ModelSentiment AnalysisRetrievalSmall Language Model (SLM)