Урок 6 із 6
Складаємо докупи
4 хв читання
У тебе є дерево рішень, механізм і запобіжники. То коли ж справді донавчати?
Що в тебе тепер є
За шість коротких уроків у тебе зібрався робочий метод кастомізації — не рефлекс донавчати все, а набір рішень, які можна прогнати на будь-якій моделі, що поки недостатньо хороша.
- —Спершу вирішуй — прогалина в знаннях → RAG, прогалина в поведінці → можливо, донавчання, інакше промпт.
- —Знай механізм — SFT зсуває поведінку до твоїх прикладів; LoRA робить це дешево.
- —Дані — це специфікація — кілька сотень чистих, послідовних прикладів б'ють тисячі шумних.
- —Дистилюй — використай великого вчителя, щоб натренувати малого, швидкого, дешевого учня.
- —Оцінюй чесно — відкладені дані, в порівнянні з базовою моделлю, на кожній зміні.
Одне правило, яке варто лишити
Якщо запам'ятати одне: тягнися до найдешевшого інструмента, що закриває прогалину. Промпт, потім RAG, потім донавчання — і донавчай, лише коли маєш чітку прогалину в поведінці й чисті дані, щоб її навчити. Більшість проблем «нам треба донавчити» — це замаскована задача промпта чи пошуку.
Перед наступним донавчанням запиши точну поведінку, якої не можеш отримати жодним іншим способом. Не можеш її назвати — тобі ще рано донавчати.
Яке одне правило зв'язує весь цей курс докупи?
Продовжити в застосунку
Пройди весь курс «Донавчання та кастомізація» — з відстеженням
Отримай персональний план, прогрес і стріки в застосунку — цей урок і кожен наступний, по порядку.