Урок 6 із 7
RAG проти донавчання
6 хв читання
Хочеш, щоб модель знала твій продукт і звучала як твій бренд. Одне з цього — задача для RAG, друге — для донавчання. Де що?
Знання проти поведінки
RAG додає знання в момент запиту: передає моделі факти для читання, не змінюючи саму модель. Донавчання змінює саму модель: ти далі навчаєш базову модель на прикладах, щоб вона засвоїла нову поведінку — формат, тон, задачу, яку виконує надійно. RAG — про те, що вона знає; донавчання — про те, як вона діє.
RAG постачає знання в момент запиту; донавчання переформовує поведінку через навчання.
Як обрати
Факти, що змінюються, або мають бути актуальними й цитованими? Це RAG — онови документ, а не ваги. Сталий стиль, суворий формат виводу чи вузька задача, з якою базова модель не дає ради? Це донавчання. Вони не суперники: чимало реальних систем донавчають заради поведінки й беруть RAG заради знань. Спершу берися за RAG: він дешевший, його швидше змінювати й легше відстежити.
Мінливі факти → RAG. Стала поведінка чи формат → донавчання. Часто потрібні обидва.
Донавчання запікає знання у ваги, де їх важко оновити й неможливо процитувати. Ось чому це неправильний інструмент для фактів, що змінюються, і правильний — для поведінки, що змінюватися не має.
Якщо коротко
- —RAG додає знання в момент запиту, не змінюючи модель.
- —Донавчання змінює поведінку — тон, формат, задачу — через навчання.
- —Мінливі чи цитовані факти → RAG; стала поведінка → донавчання; часто обидва.
Твій асистент знає твої продукти (вони змінюються щотижня), але відповідає сухо й не в голосі бренду. Як правильно розподілити?
Продовжити в застосунку
Пройди весь курс «RAG і пошук» — з відстеженням
Отримай персональний план, прогрес і стріки в застосунку — цей урок і кожен наступний, по порядку.