Урок 1 із 6
Промпт, RAG чи донавчання
6 хв читання
Відповіді твоєї моделі недостатньо хороші. Перший інстинкт — донавчити. Але в дев'яти випадках із десяти це дорога й хибна відповідь. То яка правильна?
Прив'яжи прогалину до інструмента
Три інструменти закривають три різні прогалини. Промпт-інжиніринг змінює сам запит. RAG дає моделі факти, яких вона не має. Донавчання змінює саму поведінку моделі. Помилка — одразу хапатися за найважчий: донавчання повільне, дороге й заморожує в собі знання, що згодом застарівають.
Постав собі два питання по черзі: це прогалина в знаннях чи в поведінці? Знання → RAG. Поведінка → можливо, донавчання. Ні те, ні те → просто пиши кращий промпт.
Найдешевший інструмент, що працює
Починай знизу драбини й піднімайся, лише коли справді мусиш. Промпт безкоштовний, а один цикл правок займає хвилини. RAG заземлює відповіді у твоїх власних документах, не чіпаючи ваги. Донавчання — остання сходинка: берися за нього, тільки коли потрібна стала нова поведінка і є розмічені дані, щоб її навчити.
Донавчання вчить формі, а не фактам. Хочеш, щоб модель щось знала, — дістань це пошуком; хочеш, щоб вона стабільно поводилась певним чином, — донавчи її.
Їх можна поєднувати. Поширений продакшн-стек — донавчена модель для тону й формату, а RAG підставляє свіжі факти в момент запиту.
Суть коротко
- —Прогалина в знаннях (нові чи приватні факти) → RAG, а не донавчання.
- —Прогалина в поведінці (стиль, формат, сталість) → донавчання, але тільки з даними.
- —Завжди спершу спробуй промпт — це найдешевше, що може спрацювати.
Потрібно, щоб модель відповідала, спираючись на внутрішню вікі компанії, яка щотижня змінюється. Найкращий перший інструмент?
Продовжити в застосунку
Пройди весь курс «Донавчання та кастомізація» — з відстеженням
Отримай персональний план, прогрес і стріки в застосунку — цей урок і кожен наступний, по порядку.