NastępnyNastępny poradnik
Kontynuacja treningu wstępnego a dostrajania
Techniczne
PRZEWODNIK Językowy AI
Prompting changes what you ask the model, retrieval-augmented generation (RAG) changes what information the model sees at answer time, and fine-tuning changes the model's weights so it behaves differently by default.
Posłuchaj tego przewodnikaOpowiadane przez sztuczną inteligencję · ~3 min
The right choice depends on what is actually missing: knowledge points to RAG, consistent format or style points to prompting first and fine-tuning second, and a new skill the model cannot do reliably points to fine-tuning. Picking the wrong lever wastes money and often makes results worse.
A useful way to decide is to name the gap before naming the solution. There are four common gaps: knowledge (the model does not know your facts), format (it knows but answers in the wrong shape), style or tone (it answers correctly but does not sound right), and skill (it cannot reliably perform the task at all, such as a specialised extraction or a domain-specific judgement). Prompting is the first lever for almost every gap because it is cheap, fast to change and easy to test. Clear instructions, a defined output schema and a few examples fix a large share of format and style problems. Its limits are context length, cost per call when prompts grow long, and inconsistency on hard tasks. RAG addresses knowledge. At query time a retriever finds relevant passages from your documents and places them in the prompt, so the model answers from current, citable sources. It suits facts that change, facts that must be traceable, and collections too large to fit in a prompt. Its quality depends heavily on retrieval: if the right passage is not found, the model cannot use it. Fine-tuning trains the model on examples of desired input and output. It is strong at locking in a format, a tone, or a narrow skill, and it can let a smaller model replace a larger one, cutting latency and cost. A common misconception is that fine-tuning is a good way to add facts. It can shift what a model tends to say, but it is an unreliable and hard-to-update way to store knowledge, and it can increase confident errors about material the model saw only a few times. The methods combine. Many production systems use a fine-tuned model that is good at reading retrieved context, driven by a well-designed prompt. The practical order is usually: prompt, then add retrieval if knowledge is missing, then fine-tune when you have evaluation data showing a persistent gap.
A support team wants a chatbot to answer questions about a product manual that changes monthly; RAG fits because the facts change and answers need citations to the current version.
A legal team needs every contract summary in the same five-heading structure; a clear prompt with two worked examples usually solves this before any training is considered.
A company processes millions of short classification requests a day and finds that a small fine-tuned model matches a large prompted model's accuracy at a fraction of the cost and latency.
A hospital tries to fine-tune a model on internal policy documents so it will 'know' them, finds it still invents details, and switches to RAG so answers quote the actual policy text.
Longer context windows and cheaper inference have made prompting and retrieval more capable, which reduces the number of cases where fine-tuning is the only option. At the same time, hosted fine-tuning services have become easier to use, including preference and reinforcement-based variants. The boundaries between the three approaches are likely to keep blurring, with systems that retrieve, prompt and use lightly adapted models together. The durable skill is diagnostic: identifying whether a failure comes from missing knowledge, unclear instructions or a real capability gap, and then measuring whether a change actually helped.
Darmowy newsletter
Trzy zweryfikowane historie AI każdego poranka w dni robocze, napisane prostym angielskim. Bezpłatne na zawsze, bez reklam.
Jedno e‑mail każdego dnia roboczego. Wypisz się jednym kliknięciem. Nigdy nie sprzedajemy ani nie udostępniamy Twojego adresu.
Sprawdź się
Natychmiastowa informacja zwrotna na każde pytanie oraz udostępnialny certyfikat z weryfikowalnym ID po zaliczeniu kursu.
Wspieraj darmową edukację AI. AI Understanding jest organizacją non-profit 501(c)(3) — bez reklam, bez płatnej ściany, zawsze. Przekaż darowiznę
Prompting changes what you ask the model, retrieval-augmented generation (RAG) changes what information the model sees at answer time, and fine-tuning changes the model's weights so it behaves differently by default. The right choice depends on what is actually missing: knowledge points to RAG, consistent format or style points to prompting first and fine-tuning second, and a new skill the model cannot do reliably points to fine-tuning. Picking the wrong lever wastes money and often makes results worse.
Jest to luka w wiedzy wynikająca ze zmieniających się faktów. RAG dostarcza aktualne, możliwe do cytowania informacje w momencie zapytania, a ich aktualizacja oznacza jedynie aktualizację dokumentów.
Podpowiadanie jest tanie, można je szybko zmienić i łatwo przetestować, a jasne instrukcje i kilka przykładów rozwiązują wiele problemów związanych z formatem i stylem.
Dostrajanie zmienia tendencje zamiast wiarygodnego przechowywania faktów, jest niewygodne w aktualizowaniu w przypadku zmiany faktów i może sprawić, że model będzie z całą pewnością błędny.
Dostrajanie jest przydatne w przypadku blokowania wąskiej umiejętności lub formatu i umożliwienia mniejszemu modelowi zastąpienia większego w celu zmniejszenia kosztów i opóźnień.
Jeżeli aport nie dotrze do odpowiedniego przejścia, model nie będzie mógł z niego skorzystać. Oddzielny pomiar czasu przywracania izoluje problem.
Ucz się dalej
Wybrano więcej przewodników na ten temat
NastępnyNastępny poradnik
Kontynuacja treningu wstępnego a dostrajania
Techniczne