Урок 1 із 9
Чат — це одне спільне вікно
6 хв читання
Ти вводиш питання, тиснеш enter — і з'являється відповідь. Просто. Але за цим віконцем твої слова не зникають у якомусь величезному мозку — вони лягають десь у маленькому й конкретному місці. Знати, де саме, змінює те, як ти користуєшся кожним чатом з AI.
Усе лягає на одну сторінку
Уяви єдиний аркуш паперу, який AI бачить. Коли ти надсилаєш повідомлення, воно записується на цей аркуш. Коли AI відповідає, його відповідь теж лягає туди. Постав уточнення — і воно теж додається. AI не має жодної пам'яті про тебе поза цим одним аркушем — щоразу, коли він відповідає, він тихо перечитує все з самого верху й продовжує звідти. Цей спільний аркуш і є контекстне вікно.
Твої повідомлення й відповіді AI живуть на одній зростаючій сторінці — контекстному вікні. AI перечитує все це при кожному ході й не знає про тебе нічого, що там не записано.
Твої слова стають токенами
Є ще одна деталь. AI не читає твоє речення цілими словами, як ти. На вході твій текст ріжеться на маленькі шматочки — коротке слово або частину довшого. Кожен шматочок — це токен. «Неймовірно» може прийти як не·ймовір·но, три токени. Відповідь будується так само, по одному токену за раз. Це фонова деталь, але саме тому у вікна є межа — її рахують у токенах, а не в повідомленнях.
Твої слова розбиваються на токени — маленькі шматочки тексту — ще до того, як AI їх побачить. Розмір вікна вимірюється в токенах, тому дуже довгий чат урешті вичерпує місце.
Під капотом, якщо цікаво: асистенти ріжуть текст на токени трохи по-різному, а грубе правило таке — один токен це приблизно чотири символи англійського тексту, тож сторінка тексту це кілька сотень токенів.
Підсумок
- —Усе, що ти пишеш, і все, що AI відповідає, лягає на одну спільну сторінку — контекстне вікно
- —AI перечитує всю цю сторінку при кожному ході й не має пам'яті поза нею
- —Спершу твій текст розбивається на токени, а розмір вікна вимірюється в токенах
Ти кажеш AI своє ім'я в чаті, закриваєш застосунок і наступного дня відкриваєш цілком новий чат. Питаєш: «Як мене звати?» Що станеться?
Продовжити в застосунку
Пройди весь курс «Працюємо з AI» — з відстеженням
Отримай персональний план, прогрес і стріки в застосунку — цей урок і кожен наступний, по порядку.