Урок 5 із 7

LLM як операційна система

6 хв читання

Ми раз за разом навішуємо на модель інструменти, пам'ять і файли. Відступи й придивись: хіба це не починає скидатися на комп'ютер, де модель — це чип?

Модель — це процесор

Ось спосіб утримати всю картину (ідею популяризував Андрей Карпаті). Модель — це процесор (CPU): частина, що думає й координує. Сама вона не діє, а керує частинами навколо. Контекстне вікно — це її оперативна пам'ять (RAM): швидка робоча пам'ять, але мала: використати можна лише те, що в ній зараз, і вона швидко заповнюється.

LLM як ОС переосмислює модель як координатора, а не самотній мозок: процесор, що керує пам'яттю й пристроями навколо.

Пам'ять, інструменти й веб як пристрої

Решта стає на місця. Довготривала пам'ять і твої файли — це диск: сховище, що переживає окремий чат. Інструменти та застосунки — це периферія: клавіатура, принтер і мережа, до яких тягнеться процесор. А живий веб — це його мережева карта. Завдання моделі — вчасно вводити й виводити потрібне зі своєї малої оперативної пам'яті.

Коли бачиш це як ОС, обмеження стають зрозумілими: завдання, завелике для RAM (контекстного вікна), доводиться підвантажувати з диска та інструментів, а саме це й роблять агенти.

Це аналогія, а не буквальне залізо, але корисна. Пояснює, чому контекст цінний (RAM мала) і чому інструменти важливі (сам процесор мало що може).