Глосарій
Що таке контекстне вікно?
Обсяг тексту, який AI тримає перед очима водночас, — уся твоя розмова від початку. Модель перечитує його з кожною відповіддю й нічого не пам'ятає поза ним; щойно місця бракує, найстаріше витісняється.
Контекстне вікно — це все, що модель бачить водночас: твій промпт плюс уся розмова досі, виміряна в токенах. Модель перечитує все це з кожною відповіддю й нічого не памʼятає поза ним. Щойно вікно заповнюється, найстаріші репліки випадають за край.
Один фіксований бюджет токенів
Що довший чат, то раніше найстаріші репліки випадають зі старту — модель більше їх не бачить.
Саме тому довгий чат починає «забувати» початок, а вставлений величезний документ може витіснити саме твоє запитання. Більші вікна допомагають, але не безкоштовні — вони дорожчі й можуть розмивати фокус, тож те, що ти кладеш у вікно, — це справжнє проєктне рішення.
Пов'язані терміни
Зустрічається в цих уроках
Побач наживо
Подивись, як вікно заповнюється й забуває
Побач, що вміщається, що зникає і чому — безкоштовно в застосунку.