Урок 1 із 6
Промпт, RAG чи донавчання
6 хв читання
Відповіді твоєї моделі недостатньо хороші. Інстинкт — донавчити. У дев'яти випадках із десяти це дорога хибна відповідь — то яка правильна?
Прив'яжи прогалину до інструмента
Три інструменти закривають три різні прогалини. Промпт-інжиніринг змінює те, що ти просиш. RAG дає моделі факти, яких вона не має. Донавчання змінює те, як модель поводиться. Помилка — хапатися за найважчий інструмент першим: донавчання повільне, дороге і заморожує в собі знання, які застарівають.
Постав два питання по черзі: це прогалина в знаннях чи в поведінці? Знання → RAG. Поведінка → можливо, донавчання. Ні те, ні те → просто пиши кращий промпт.
Найдешевший інструмент, що працює
Починай знизу драбини й піднімайся, лише коли мусиш. Промпт безкоштовний і ітерується за хвилини. RAG заземлює відповіді у твоїх власних документах, не чіпаючи ваги. Донавчання — остання сходинка: тягнися до неї, лише коли потрібна стала нова поведінка і в тебе є розмічені дані, щоб її навчити.
Донавчання вчить формі, а не фактам. Треба, щоб модель щось знала, — дістань це пошуком; треба, щоб вона стало поводилась певним чином, — донавчи її.
Їх можна поєднувати. Поширений продакшн-стек — донавчена модель для тону й формату, а RAG підставляє свіжі факти на момент запиту.
Суть коротко
- —Прогалина в знаннях (нові чи приватні факти) → RAG, а не донавчання.
- —Прогалина в поведінці (стиль, формат, сталість) → донавчання, але тільки з даними.
- —Завжди спершу спробуй промпт — це найдешевше, що може спрацювати.
Потрібно, щоб модель відповідала за внутрішньою вікі компанії, яка змінюється щотижня. Найкращий перший інструмент?
Продовжити в застосунку
Пройди весь курс «Донавчання та кастомізація» — з відстеженням
Отримай персональний план, прогрес і стріки в застосунку — цей урок і кожен наступний, по порядку.