Урок 5 із 7

LLM як операційна система

6 хв читання

Ми раз за разом навішуємо на модель інструменти, пам'ять і файли. Відступи й придивись: хіба це не починає скидатися на комп'ютер — де модель це чип?

Модель — це процесор

Ось спосіб утримати всю картину (ідею популяризував Андрей Карпаті). Модель — це процесор (CPU): частина, що думає й координує. Вона не діє сама; вона керує частинами навколо. Контекстне вікно — це її оперативна пам'ять (RAM): швидка робоча пам'ять, але мала — використати можна лише те, що в ній зараз, і вона заповнюється.

LLM як ОС переосмислює модель як координатора, а не самотній мозок: процесор, що керує пам'яттю й пристроями навколо.

Пам'ять, інструменти й веб як пристрої

Решта стає на місця. Довготривала пам'ять і твої файли — це диск: сховище, що переживає окремий чат. Інструменти та застосунки — це периферія: клавіатура, принтер і мережа, до яких тягнеться процесор. А живий веб — це його мережева карта. Завдання моделі — вчасно вводити й виводити потрібне зі своєї малої оперативної пам'яті.

Коли бачиш це як ОС, обмеження стають зрозумілими: завдання, завелике для RAM (контекстного вікна), доводиться підвантажувати з диска та інструментів — саме це й роблять агенти.

Це аналогія, а не буквальне залізо — але корисна. Вона пояснює, чому контекст цінний (RAM мала) і чому інструменти важливі (сам процесор мало що може).