ต่อไปคำแนะนำต่อไป
โครงข่ายประสาทเทียมแบบ Convolutional
ความรู้พื้นฐาน
คู่มือพื้นฐาน
กฎการปรับขนาดคือความสัมพันธ์เชิงประจักษ์ระหว่างการสูญเสียโมเดลภาษาและปริมาณ เช่น พารามิเตอร์ ข้อมูลการฝึกอบรม และการคำนวณ
ฟังคำแนะนำนี้บรรยายโดย AI · ~2 min
They can help researchers plan experiments and extrapolate within studied regimes, but they do not guarantee an exact result for a new architecture, dataset, or training setup.
Kaplan and colleagues’ 2020 study found empirical power-law relationships between language-model cross-entropy loss and model size, dataset size, and training compute over the regimes they tested. On log-log plots, a power law appears approximately linear. These fitted relationships can be used to estimate outcomes for larger runs, but extrapolations are conditional on comparable training and data setups. The original paper found large models to be more sample-efficient in its experiments and suggested compute-optimal training with relatively large models and fewer tokens than later Chinchilla work recommended. Later studies, including Llama 3, explored training beyond that earlier compute-optimal allocation.
Fitting a loss curve from smaller controlled runs to inform a larger training-budget decision
Comparing parameter and data allocations under a fixed pretraining-compute budget
Checking whether a forecast remains accurate when the data mixture or architecture changes
Separating measured loss trends from downstream capability claims in a model report
Scaling-law research studies new data mixtures, modalities, architectures, and inference-time computation. As training and data regimes change, researchers must remeasure the relevant curves. Scaling laws support resource planning, while downstream accuracy, safety, and reliability require separate evaluation.
จดหมายข่าวฟรี
เรื่องราว AI ที่ตรวจสอบแล้ว 3 เรื่องทุกวันทำงาน เช้า, เขียนเป็นภาษาอังกฤษธรรมดา ฟรีตลอดไป ไม่มีโฆษณา
อีเมลหนึ่งฉบับทุกวันทำงาน ยกเลิกการสมัครในคลิกเดียว เราไม่เคยขายหรือแชร์ที่อยู่อีเมลของคุณ
ทดสอบตัวเอง
ข้อเสนอแนะทันทีสำหรับทุกคำตอบ และใบรับรองที่สามารถแชร์ได้พร้อม ID ที่ตรวจสอบได้เมื่อคุณผ่านหลักสูตร
สนับสนุนการศึกษา AI ฟรี AI Understanding เป็นองค์กรไม่แสวงหาผลกำไร 501(c)(3) — ไม่มีโฆษณา ไม่มีกำแพงเงิน, ตลอดไป บริจาค
Scaling laws are empirical relationships between language-model loss and quantities such as parameters, training data, and compute. They can help researchers plan experiments and extrapolate within studied regimes, but they do not guarantee an exact result for a new architecture, dataset, or training setup.
Kaplan et al. report empirical power-law relationships over their tested ranges; the fit should not be read as a guarantee outside comparable settings.
แคปแลน และคณะ ศึกษาการสูญเสียเป็นกฎกำลังในการนับพารามิเตอร์ (N) โทเค็นการฝึกอบรม (D) และการคำนวณทั้งหมด (C)
Fitted curves can inform large-run forecasts from smaller experiments, but changes in data, architecture, or training conditions can limit extrapolation.
การสูญเสียมีส่วนที่ลดลงได้ซึ่งจะหดตัวตามขนาดบวกกับพื้นที่ไม่สามารถลดได้ซึ่งกำหนดโดยการสุ่มโดยธรรมชาติของข้อมูล
With L(X)=E+A·X^-α, a fixed multiplicative increase gives a similar fractional change in the reducible term, but smaller absolute changes as that term shrinks.
เรียนรู้ต่อไป
คำแนะนำเพิ่มเติมที่เลือกสำหรับหัวข้อนี้
ต่อไปคำแนะนำต่อไป
โครงข่ายประสาทเทียมแบบ Convolutional
ความรู้พื้นฐาน