Урок 7 із 7
Навчання на льоту
8 хв читання
Модель, яку ти розбираєш, по суті є передбачувачем наступного слова з фіксованими, застиглими параметрами. Тренування закінчено; усередині нічого не змінюється, коли ти нею користуєшся. І все ж ти можеш навчити її цілком нової задачі в одному повідомленні — узагалі без перетренування. Як?
Просто покажи їй кілька прикладів
Трюк майже надто простий: поклади пару готових прикладів задачі просто у свій промпт. Модель читає їх, бачить патерн і просто продовжує його для твого нового випадку — бо продовжувати патерн це саме те, що робить передбачувач наступного слова. У сцені нижче модель стикається з вигаданою задачею, якої ніколи не бачила. Без прикладів вона може лише знизати плечима; дай їй пару — і дивись, як вона схоплює правило.
Дай моделі патерн — і вона його завершить: без тренування, без зміни параметрів, лише з кількома прикладами, доданими до того, що вона читає.
Це навчання в контексті
Це зветься навчанням у контексті, або few-shot-промптингом — «few-shot» означає, що ти даєш їй кілька прикладів (shots), від яких відштовхнутися. Спитати без прикладів — це zero-shot; додати жменьку — це few-shot. Саме тому промпт, який показує, чого ти хочеш, так часто перемагає той, що лише описує.
Приклади не перетреновують модель — вони скеровують ту саму застиглу модель до потрібного тобі патерну, і лише для цього повідомлення. Почни новий чат — і покажеш їх знову.
Чому простий передбачувач це вміє
Може здаватися магією, що машина «просто передбач наступне слово» вчиться задач на льоту. Але згадай перший урок: щоб добре передбачати текст на величезному шматку інтернету, модель мусила увібрати колосальну бібліотеку патернів і мінівмінь. Твої приклади не вчать її вміння з нуля — вони вказують на те, яке вона вже підхопила під час тренування, і кажуть: «ось це, будь ласка».
Навчання в контексті — це не нове знання, що з'являється з нізвідки; це модель розпізнає, який із багатьох натренованих патернів тобі потрібен, із прикладів, які ти їй показуєш.
Під капотом ці приклади лежать у контекстному вікні — короткочасній робочій пам'яті моделі для розмови. Ось чому «урок» тимчасовий: він триває лише доти, доки приклади лишаються у вікні, а свіжий чат починається з чистого аркуша.
Де воно сяє — і де спиняється
Оскільки весь «урок» живе у промпті, навчання в контексті має чіткі межі. Воно блискуче, щоб задати формат чи стиль — спосіб викласти відповідь, тон, незвичний патерн — лише з двох-трьох прикладів. Але воно не може влити знання, якого модель ніколи не вчила: показати їй приклади не навчить її факту, якого вона не знає, — лише того, якою ти хочеш бачити форму відповіді. І ефект тимчасовий — триває лише доки приклади в полі зору. Почни новий чат — і модель знову чиста, чекає, поки їй покажуть.
Навчання в контексті скеровує, а не навчає. Кілька прикладів неперевершені, щоб задати форму відповіді, але не можуть додати відсутнього знання — а щойно приклади залишають промпт, ефект зникає.
Підсумок
- —Ти можеш навчити застиглу модель нової задачі під час використання, поклавши кілька прикладів у промпт — навчання в контексті
- —Модель бачить патерн і продовжує його; ніщо в ній не перетреновується — приклади лише скеровують її для цього повідомлення
- —Це працює, бо тренування вже дало моделі безліч патернів; твої приклади вказують на потрібний
Тобі треба, щоб AI форматував дати в особливому, незвичному стилі, а перетренувати його ти не можеш. Який найнадійніший спосіб домогтися свого?
Продовжити в застосунку
Пройди весь курс «Як AI працює насправді» — з відстеженням
Отримай персональний план, прогрес і стріки в застосунку — цей урок і кожен наступний, по порядку.