Урок 1 із 9
Чат — це одне спільне вікно
6 хв читання
Ти вводиш питання, тиснеш enter — і з'являється відповідь. Просто. Але за цим віконцем твої слова не зникають у якомусь безмежному мозку: вони опиняються в маленькому, цілком конкретному місці. Варто зрозуміти, у якому, — і ти зовсім інакше користуватимешся кожним чатом з AI.
Усе лягає на одну сторінку
Уяви єдиний аркуш паперу, який бачить AI. Твоє повідомлення записують на цей аркуш. Відповідь AI лягає сюди ж. Твоє уточнення — теж. Поза цим аркушем AI не пам'ятає про тебе нічого: щоразу, відповідаючи, тихо перечитує все згори й продовжує далі. Цей спільний аркуш і є контекстне вікно.
Твої повідомлення й відповіді AI лягають на одну спільну сторінку, яка дедалі росте, — це контекстне вікно. AI перечитує її всю щоразу й не знає про тебе нічого, чого там не записано.
Твої слова стають токенами
Є ще одна деталь. AI не читає речення цілими словами, як ти. На вході текст розрізають на дрібні шматочки — коротке слово або частину довшого. Кожен шматочок — це токен. «Неймовірно» розпадеться на три токени: не·ймовір·но. Відповідь будується так само, по одному токену. Дрібниця, та саме через неї у вікна є межа: її рахують у токенах, а не в повідомленнях.
Твої слова розбивають на токени — дрібні шматочки тексту — ще до того, як їх побачить AI. Розмір вікна міряють у токенах, тому дуже довга розмова зрештою впирається в межу.
Трохи глибше, якщо цікаво: різні асистенти ріжуть текст на токени трохи по-різному, а якщо зовсім грубо, один токен — це приблизно чотири символи англійського тексту, тож ціла сторінка тексту — кілька сотень токенів.
Підсумок
- —Усе, що ти пишеш, і все, що AI відповідає, лягає на одну спільну сторінку — контекстне вікно
- —AI щоразу перечитує всю цю сторінку й не має пам'яті поза нею
- —Спочатку твій текст розбивають на токени, і розмір вікна міряють теж у них
Ти кажеш AI своє ім'я в чаті, закриваєш застосунок і наступного дня відкриваєш цілком новий чат. Питаєш: «Як мене звати?» Що станеться?
Продовжити в застосунку
Пройди весь курс «Працюємо з AI» — з відстеженням
Отримай персональний план, прогрес і стріки в застосунку — цей урок і кожен наступний, по порядку.