Урок 1 із 8
Як AI генерує текст
8 хв читання
AI відповідає повними реченнями за мить. Але як він насправді їх пише — що йде першим?
По одному слову за раз
AI не вигадує ціле речення, щоб потім його надрукувати. Він пише так, як автодоповнення у твоєму телефоні — по одному слову, щоразу питаючи себе одне: яке слово зазвичай іде далі? Обрати слово, додати, спитати знову. Речення виростає з цього циклу.
AI будує текст по одному слову й ніколи не бачить готового речення наперед — він щоразу обирає лише наступне слово. Цей вгадувач наступного слова й називається мовною моделлю.
Звідки беруться шанси
То як він вирішує, що «зазвичай іде далі»? Він не тримає списку відповідей. Натомість для кожного слова, яке могло би бути наступним, він виставляє бал — інтуїтивне число, наскільки слово пасує. Після «кіт сів на» килимок має високий бал; гелікоптер — низький. Тоді всі бали перетворюються на шанси, що завжди дають у сумі 100, і з них він обирає. Це і весь рушій: оціни кожен варіант, перетвори бали на шанси, обери одне.
Шанси ніде не зберігаються — вони обчислюються заново з балів щоразу. Піднявши бал одного слова, ти не просто підіймаєш його — ти забираєш частку в усіх інших, бо шанси завжди дають 100. Слова конкурують.
Диск, пояснений
Ти, певно, знаєш, що в AI є «диск креативності». Ось що це насправді. Температура — це одне число, яке вирішує, наскільки різко перемагає найвищий бал. Постав низько — і найвищий бал забирає майже всі шанси: найбезпечніше слово, щоразу. Постав високо — і шанси сплющуються, тож у довгих претендентів з'являється реальний шанс. Вона ніколи не міняє бали — лише те, наскільки жорстко винагороджується найкращий.
Цей диск — температура. Низька робить шанси гострими (безпечне слово майже завжди перемагає); висока сплющує їх (несподівані слова дістають шанс). Вона не чіпає бали — лише задає, наскільки різко винагороджується найкращий бал.
Цікаво, чому за високого значення результат щоразу різний? Вибір — це зважений кидок кубика проти цих шансів, тож навіть з тими самими балами слово може випасти інакше щоразу.
Підсумок
- —AI пише по одному слову, щоразу обираючи те, що ймовірно йде далі
- —Для кожного наступного слова він рахує бал, перетворює бали на шанси із сумою 100, тоді обирає одне
- —Температура задає, наскільки різко перемагає топ-бал: низька — безпечно й передбачувано, висока — креативно й ризиковано
На рушії ти тягнеш бал одного слова вгору. Що стається з шансами інших слів?
Продовжити в застосунку
Пройди весь курс «AI з нуля» — з відстеженням
Отримай персональний план, прогрес і стріки в застосунку — цей урок і кожен наступний, по порядку.