Урок 6 із 6
Що означає «донавчання»
9 хв читання
Тобі, напевно, доводилося чути, що компанії «донавчають» AI під свої потреби. Вони не переучують його з нуля — це коштувало б цілий статок. То що ж вони насправді роблять?
Універсал іде на короткий курс
Навчання великої моделі — читання цілої бібліотеки — величезне й дороге; воно стається один раз і породжує широкого універсала, званого базовою моделлю. Донавчання — це маленьке, зосереджене продовження: ти показуєш цьому універсалові скромний набір прикладів того, як саме хочеш, щоб він поводився, і даєш потренуватися лише на них. Це різниця між цілою кар'єрою навченого кухаря й курсом випічки на вихідні — той самий кухар, нова спеціалізація, набагато менше зусиль.
Донавчання — це короткий, зосереджений раунд додаткового тренування поверх готової базової моделі, а не переучування з нуля.
Воно формує поведінку, а не знання
Дивись, що в сцені змінюється, а що ні. Глибинне знання моделі лишається на місці; зсувається її голос і звички — тепліші, офіційніші, стисліші. Донавчання здебільшого вчить як відповідати, а не нових фактів. Це поштовх поверх усього вже вивченого, що скеровує те саме знання до певного стилю чи задачі.
Більшість помічників, якими ти користуєшся, — це базова модель плюс таке формування: додаткове тренування, що перетворює сирий передбачувач наступного слова на щось корисне й у стилі бренду. Цей крок формування широко звуть післянавчанням.
Донавчання скеровує стиль і поведінку поверх базової моделі — воно рідко вливає цілком нове знання.
Перекрути надто — і воно перевчиться
Є межа. Виверни ручку на максимум — і модель перестає бути гнучкою: вона просто папужить ту жменьку прикладів, на яких її донавчали, слово в слово, навіть коли вони не пасують. Вона завчила навчальний набір, замість вивчити стиль за ним. Ця невдача має назву: перевчання — вивчення прикладів так тісно, що модель втрачає загальне чуття.
Часто донавчання взагалі не потрібне. Для разового стилю просто покажи приклади у своєму запиті — модель уміє скопіювати взірець на місці. Це навчання в контексті, і спробувати його першим не коштує нічого.
Донавчиш надто — і воно перевчиться, папужачи приклади замість вивчити стиль. Часто кількох прикладів у запиті досить.
Що взяти з собою
- —Донавчання — це маленький додатковий раунд тренування поверх готової базової моделі.
- —Воно здебільшого формує стиль і поведінку, а не цілком нове знання.
- —Перестараєшся — і воно перевчиться; для разового приклади в запиті часто спрацьовують натомість.
Що насправді робить «донавчання» моделі?
Продовжити в застосунку
Пройди весь курс «Як навчається AI» — з відстеженням
Отримай персональний план, прогрес і стріки в застосунку — цей урок і кожен наступний, по порядку.