Урок 6 із 7
Чому «думання» дорожче
5 хв читання
Модель, що «думає», дає кращу відповідь на складне питання — і несподівано більший рахунок. Звідки взялася додаткова вартість?
Невидимі токени, за які ти все одно платиш
Модель-міркувальник розбирає задачу крок за кроком, перш ніж відповісти. Ці кроки — це справжній вихід — [токени міркування](glossary://reasoning-tokens) — генеруються по одному й тарифікуються за ставкою виходу, хоча інтерфейс зазвичай їх ховає. Видима відповідь може бути короткою, але ти платиш за все думання за нею.
Приховані токени міркування тарифікують за ставкою виходу — думання не безкоштовне.
Підбирай модель до питання
Це виправдано для справді складних задач — багатокрокова математика, хитрий код, ретельний аналіз — де краща відповідь окупається. І марнотратно для простих питань, які й звичайна модель розв'яже. Майстерність — знати, коли задача заслуговує на додаткове думання, а решту часу тягтися до дешевшої моделі.
Міркування виправдовує вартість на складному — і марнує її на простому.
Не став модель-міркувальник за замовчуванням на кожен запит — приховані токени думання можуть помножити рахунок за питання, яким вони й не були потрібні.
Плата за думку
- —Моделі-міркувальники видають приховані токени думання.
- —Ці токени тарифікують за ставкою виходу.
- —Бери міркування для складного, дешевші моделі для простого.
Чому модель-міркувальник коштує більше за звичайну?
Продовжити в застосунку
Пройди весь курс «Скільки коштує AI» — з відстеженням
Отримай персональний план, прогрес і стріки в застосунку — цей урок і кожен наступний, по порядку.