Урок 5 із 8
Чому AI забуває розмову
10 хв читання
Ти кажеш AI своє ім'я, трохи спілкуєшся, тоді ставиш уточнення — а він поводиться так, ніби імені й не чув. Він не відволікся. То що ж насправді сталося?
Він щоразу перечитує весь чат
AI не має пам'яті про тебе між повідомленнями. Щоразу, коли ти тиснеш «надіслати», він не пригадує розмову, а перечитує її. Увесь чат досі розкладено перед ним, наче нотатки на столі, і наступні слова він передбачає з того, що на столі лежить. Нічого не відкладається осторонь: сама розмова — єдине, на що він узагалі дивиться.
Усе, чим AI може скористатися просто зараз, лежить в одному місці — у його контекстному вікні. Уяви це як стіл: AI перечитує весь стіл щоразу, коли відповідає, бо не має жодної пам'яті про чат, окрім того, що на ньому лежить.
У столу є край
Але стіл лише певного розміру. Поки розмова росте, повідомлення складаються одне на одне — і щойно стає тісно, чимось доводиться жертвувати. Найстаріші нотатки зісковзують за далекий край, звільняючи місце новим. Їх не ховають у шухляду — вони просто зникають з поля зору. AI читає стіл, як і раніше, тільки вже не бачить того, що впало.
Коли контекстне вікно заповнюється, найстаріша частина випадає з поля зору, щоб звільнити місце. Це і є «забування»: не зламана пам'ять, а повний стіл, що зіштовхує початок за край.
Зазирни всередину: фіксована кількість комірок
У столу є край — але який він завбільшки? Усередині вікно — це фіксований обсяг місця, поділений на комірки. Кожне надіслане повідомлення займає кілька комірок; довше — більше. Перед кожною відповіддю AI перечитує все в цьому місці, згори донизу. І ось механізм забування: коли новим повідомленням треба більше місця, ніж є, найстаріші комірки викидають, щоб звільнити простір, — без вибору, без шухляди, просто зникають.
Це місце — контекстне вікно, а комірки — це токени, приблизно шматочки слів. У вікна їх фіксована кількість — його довжина контексту. Поза ним нічого не пам'ятається; AI завжди працює лише з тим, що зараз у цьому місці.
Здавалося б, більше вікно все виправляє — і воно допомагає. Але кожна комірка, яку AI перечитує, коштує трохи більше часу й грошей, тож вікна не безмежні, а достатньо довгий чат заповнить будь-яке з них. Ось чому навіть моделі з величезним вікном усе одно збиваються в марафонській розмові. Надійний вихід — не більший стіл, а повернути важливе назад у вікно: повторити ключові факти, щоб вони опинилися в тих комірках, які AI справді читає.
Ось чому він забуває твоє ім'я
Твоє ім'я лежало на столі весь той час, поки згадка про нього була свіжою, — і ще трохи по тому. Але довга розмова невпинно зіштовхує нотатки за край, і врешті те раннє повідомлення йде разом з ними. Спитай «як мене звати?» тепер — і AI чесно його не бачить. Річ не в недбалості: цієї інформації просто вже немає в нього перед очима.
AI знає лише те, що зараз лежить на столі. Щойно щось випадає за межі контекстного вікна, це наче його й не казали, — тож вихід простий: поклади це назад у поле зору.
У довгому чаті, якщо щось важливе — ключова інструкція, факт про тебе — час від часу повторюй це. Саме повернення на стіл змушує AI і далі з цим рахуватися. А новий чат просто очищає стіл дочиста.
Підсумок
- —AI не має пам'яті між повідомленнями — він щоразу перечитує всю розмову, коли відповідає
- —Ця розмова лежить у контекстному вікні фіксованого розміру, наче на столі з обмеженим місцем
- —Коли стіл заповнюється, найстаріші повідомлення зісковзують і AI більше їх не бачить — ось чому він «забуває»
Ти глибоко в довгому чаті й хочеш, щоб AI і далі тримався однієї важливої інструкції з самого початку розмови. Найкращий хід?
Продовжити в застосунку
Пройди весь курс «AI з нуля» — з відстеженням
Отримай персональний план, прогрес і стріки в застосунку — цей урок і кожен наступний, по порядку.