Урок 4 із 7
Памʼять агента
7 хв читання
Агент бездоганно зробив крок 1. А через сорок кроків уже й не памʼятає, що взагалі намагався зробити. Куди поділася ціль?
Короткочасна памʼять — це контекстне вікно
Робоча памʼять агента — це просто його контекстне вікно: фіксований бюджет токенів, що вміщає ціль, історію та всі результати інструментів дотепер. Кожен крок дописує в нього. Попрацюй достатньо довго — і найраніші репліки (часто саме первинна ціль) виштовхуються, щоб звільнити місце. Агент не «вирішив» забути — йому просто забракло місця.
Короткочасна памʼять — це контекстне вікно. Воно скінченне, наповнюється в міру роботи агента, і найстаріші репліки випадають першими. «Забування» — це витіснення, а не вибір.
Довгочасна памʼять живе поза вікном
Тому стійка памʼять мусить жити поза вікном. Патерн такий: пиши факти, результати й підсумки у зовнішнє сховище, а тоді підтягуй назад у контекст лише кілька потрібних — тоді, коли вони справді потрібні. Старі репліки стискай у підсумки. Ціль щокроку вкидай наново. Вікно — це RAM, а сховище — диск.
Справжня памʼять агента — це інженерія, а не просто ширше вікно: зберігай усе назовні, підтягуй лише потрібний зріз, решту підсумовуй і тримай ціль на видноті.
Дешевий і потужний прийом: повторюй ціль і ключові обмеження в кінці контексту на кожному кроці. Моделі найбільше зважають на початок і кінець, тож закріплена ціль виживає, навіть коли середина історії стискається.
Суть коротко
- —Короткочасна памʼять — це контекстне вікно, скінченне й наповнюване кожним кроком.
- —Коли воно переповнюється, найстаріші репліки (часто ціль) витісняються.
- —Довгочасна памʼять — зовнішнє сховище, куди ти пишеш і звідки підтягуєш.
- —Підсумовуй старі репліки і щокроку знову закріплюй ціль, щоб вона ніколи не зникала.
Агент губить свою ціль на довгих задачах. Яке виправлення справді усуває причину?
Продовжити в застосунку
Пройди весь курс «AI-агенти в продакшені» — з відстеженням
Отримай персональний план, прогрес і стріки в застосунку — цей урок і кожен наступний, по порядку.