Урок 6 із 6
Що означає «донавчання»
9 хв читання
Тобі, напевно, доводилося чути, що компанії «донавчають» AI під свої потреби. Вони не переучують його з нуля — це коштувало б цілий статок. То що ж вони насправді роблять?
Універсал іде на короткий курс
Навчання великої моделі — читання цілої бібліотеки — величезне й дороге; відбувається один раз і породжує широкого універсала, якого називають базовою моделлю. Донавчання — це маленьке, зосереджене продовження: ти показуєш цьому універсалові скромний набір прикладів, як саме він має поводитися, і даєш потренуватися тільки на них. Це різниця між цілою кар'єрою досвідченого кухаря й курсом випічки на вихідні: той самий кухар, нова спеціалізація, набагато менше зусиль.
Донавчання — це короткий, зосереджений раунд додаткового тренування поверх готової базової моделі, а не переучування з нуля.
Воно формує поведінку, а не знання
Дивись, що в сцені змінюється, а що ні. Глибинне знання моделі лишається на місці; змінюються її голос і звички: стають теплішими, офіційнішими, стислішими. Донавчання здебільшого вчить як відповідати, а не нових фактів. Це поштовх поверх усього вже засвоєного, що скеровує те саме знання до певного стилю чи задачі.
Більшість помічників, якими ти користуєшся, — це базова модель плюс таке формування: додаткове тренування, що перетворює сирий передбачувач наступного слова на щось корисне й у стилі бренду. Цей крок формування широко звуть післянавчанням.
Донавчання скеровує стиль і поведінку поверх базової моделі — воно рідко вливає цілком нове знання.
Перекрути надто — і воно перевчиться
Є межа. Виверни ручку на максимум — і модель перестає бути гнучкою: просто папужить ту жменьку прикладів, на яких її донавчали, слово в слово, навіть коли вони геть не пасують. Вона завчила навчальний набір, замість опанувати стиль за ним. Ця невдача має назву — перевчання: приклади завчено так цупко, що модель втрачає загальне чуття.
Часто донавчання взагалі не потрібне. Для разового стилю просто покажи приклади у своєму запиті — модель уміє скопіювати взірець на місці. Це навчання в контексті, і спробувати його першим не коштує нічого.
Донавчиш надто — і воно перевчиться, папужачи приклади замість вивчити стиль. Часто кількох прикладів у запиті досить.
Що взяти з собою
- —Донавчання — це маленький додатковий раунд тренування поверх готової базової моделі.
- —Воно здебільшого формує стиль і поведінку, а не цілком нове знання.
- —Перестараєшся — і воно перевчиться; для разового приклади в запиті часто спрацьовують натомість.
Що насправді робить «донавчання» моделі?
Продовжити в застосунку
Пройди весь курс «Як навчається AI» — з відстеженням
Отримай персональний план, прогрес і стріки в застосунку — цей урок і кожен наступний, по порядку.