Урок 4 із 7
Памʼять агента
7 хв читання
Агент бездоганно зробив крок 1. Через сорок кроків він забув, що взагалі намагався зробити. Куди поділася ціль?
Короткочасна памʼять — це контекстне вікно
Робоча памʼять агента — це просто його контекстне вікно — фіксований бюджет токенів, що тримає ціль, історію та кожен результат інструмента дотепер. Кожен крок дописує в нього. Попрацюй достатньо довго — і найраніші репліки (часто саме первинна ціль) виштовхуються, щоб звільнити місце. Агент не «вирішив» забути; йому забракло місця.
Короткочасна памʼять — це контекстне вікно. Воно скінченне, наповнюється в міру роботи агента, і найстаріші репліки випадають першими. «Забування» — це витіснення, а не вибір.
Довгочасна памʼять живе поза вікном
Тож стійка памʼять мусить жити поза вікном. Патерн: пиши факти, результати та резюме у зовнішнє сховище, а тоді підтягуй назад у контекст лише кілька релевантних, коли потрібно. Стискай старі репліки в резюме. Пере-впорскуй ціль на кожному кроці. Вікно — це RAM; твоє сховище — диск.
Справжня памʼять агента — це інженерія, а не більше вікно: зберігай назовні, підтягуй релевантний зріз, решту резюмуй і тримай ціль на видноті.
Дешевий і потужний прийом: повторюй ціль і ключові обмеження в кінці контексту на кожному кроці. Моделі найбільше зважають на початок і кінець, тож закріплена ціль виживає, навіть коли середина історії стискається.
Суть коротко
- —Короткочасна памʼять — це контекстне вікно, скінченне й наповнюване кожним кроком.
- —Коли воно переповнюється, найстаріші репліки (часто ціль) витісняються.
- —Довгочасна памʼять — зовнішнє сховище, куди ти пишеш і звідки підтягуєш.
- —Резюмуй старі репліки і пере-закріплюй ціль, щоб вона ніколи не зникала.
Агент губить свою ціль на довгих задачах. Яке виправлення справді усуває причину?
Продовжити в застосунку
Пройди весь курс «AI-агенти в продакшені» — з відстеженням
Отримай персональний план, прогрес і стріки в застосунку — цей урок і кожен наступний, по порядку.