Урок 6 із 7
Чому «думання» дорожче
5 хв читання
Модель, що «думає», дає кращу відповідь на складне питання — і несподівано більший рахунок. Звідки взялася додаткова вартість?
Невидимі токени, за які ти все одно платиш
Модель-міркувальник розбирає задачу крок за кроком, перш ніж відповісти. Ці кроки — справжній вихід: токени міркування, що генеруються по одному й тарифікуються за ставкою виходу, хоча інтерфейс зазвичай їх ховає. Видима відповідь може бути короткою, але платиш ти за все думання, що стоїть за нею.
Приховані токени міркування тарифікують за ставкою виходу — думання не безкоштовне.
Підбирай модель до питання
Це виправдано для справді складних задач (багатокрокова математика, хитрий код, ретельний аналіз), де краща відповідь окупається. І марнотратно для простих питань, які й звичайна модель розв'яже. Майстерність — знати, коли задача заслуговує на додаткове думання, а решту часу братися за дешевшу модель.
Міркування виправдовує вартість на складному — і марнує її на простому.
Не став модель-міркувальник за замовчуванням на кожен запит — приховані токени думання можуть помножити рахунок за питання, яким вони й не були потрібні.
Плата за думку
- —Моделі-міркувальники видають приховані токени думання.
- —Ці токени тарифікують за ставкою виходу.
- —Бери міркування для складного, дешевші моделі для простого.
Чому модель-міркувальник коштує більше за звичайну?
Продовжити в застосунку
Пройди весь курс «Скільки коштує AI» — з відстеженням
Отримай персональний план, прогрес і стріки в застосунку — цей урок і кожен наступний, по порядку.