Урок 3 із 6
Підготовка даних
6 хв читання
Дві команди донавчають ту саму модель. Одна бере 5 000 зіскрапаних прикладів, інша — 300 перевірених вручну. Менший набір перемагає. Чому?
Сміття на вході — донавчене сміття на виході
Донавчена модель точно імітує свої приклади — разом з їхніми помилками. Якщо дані непослідовні, помилково розмічені чи не в тому тоні, модель вчить саме це. Ось чому кілька сотень чистих, послідовних прикладів зазвичай б'ють тисячі шумних: ти вчиш не фактам, а патерну, і кожен поганий приклад його розмиває.
Твій датасет — це специфікація. Модель копіює те, що ти їй показуєш, тож послідовність у прикладах стає послідовністю в її поведінці.
Який вигляд мають хороші дані
Хороші дані для донавчання послідовні за форматом, репрезентативні для реальних входів, які ти побачиш у продакшні, й досить різноманітні, щоб покрити крайні випадки. Збігайся з точною структурою промпта, яку використовуватимеш при інференсі. Відклади зріз, на якому ніколи не тренуєш, щоб потім чесно виміряти. І тримай людей на перевірці розмітки — якість розмітки — це стеля якості твоєї моделі.
Ніколи не донавчай на клієнтських даних, не перевіривши згоду й правила приватності. Тренувальні дані можуть запам'ятатися й спливти пізніше — стався до датасету так, ніби він може витекти.
Суть коротко
- —Якість і послідовність б'ють сирий обсяг — кілька сотень чистих пар дають багато.
- —Збігай формат прикладів із твоїми реальними промптами на інференсі.
- —Відклади тестовий зріз, на якому ніколи не тренуєш, для чесного оцінювання.
- —Перевір розмітку й приватність, перш ніж щось піде в тренування.
У тебе 4 000 прикладів, але їх розмічали різні люди в непослідовних форматах. Найкращий хід перед донавчанням?
Продовжити в застосунку
Пройди весь курс «Донавчання та кастомізація» — з відстеженням
Отримай персональний план, прогрес і стріки в застосунку — цей урок і кожен наступний, по порядку.