Урок 3 із 7
Думання коштує токенів
10 хв читання
Спитай модель хитре арифметичне питання й вимагай лише відповідь — без викладок — і вона часто схибить. Дай їй спершу розписати кроки — і вона проходить легко. Та сама модель, те саме питання. Чому показати роботу робить її розумнішою?
Один токен — одна порція думки
Ось факт про те, як працюють ці моделі: на кожен токен, який модель пише, припадає однакова фіксована кількість обчислень — один швидкий прохід через мережу. Немає кнопки паузи й немає прихованого чернетника збоку. Складну задачу, що потребує кількох кроків міркування, годі втиснути в цей єдиний прохід. Змушена випалити відповідь одним токеном, модель має одну порцію думки на всю роботу — а для багатокрокової задачі цього замало.
Модель витрачає фіксовану кількість обчислень на кожен токен. Відповідь в один токен дістає рівно одну порцію думки — хоч яким складним було б питання.
Дай їй місце попрацювати
Тож виправлення майже безглузде: дай їй писати більше. Коли модель міркує вголос — «3 ряди по 8 це 24; відняти 5; лишається 19» — кожен із цих токенів це ще одна порція обчислень, а попередні кроки стають нотатками, які вона може перечитати. Написані слова і є чернетником. Спробуй обидва режими нижче: змусь відповісти миттєво, а тоді дай спершу подумати — на тому самому питанні.
Дати моделі думати на письмі — це не для показухи: зайві токени це зайві обчислення. Більше місця попрацювати, розподіленого на більше токенів, це буквально більше думки, докладеної до задачі.
Крути місце на думку більше й менше
У цього виправлення є регулятор. Нижче ти керуєш двома речами водночас: наскільки складна задача і скільки місця на думку даєш — скільки кроків викладок модель може написати, перш ніж відповість. Дай складній задачі замало місця — і вона мусить випалити поспішну здогадку; дай досить — і викладки доходять до відповіді. І помічай: місце, що лишилося понад те, що задачі потрібно, просто стоїть без діла.
Скільки місця потрібно задачі — не фіксовано: воно росте разом із задачею. Легка завершується за один крок; складна виходить правильною лише тоді, коли даси досить кроків, щоб дійти.
Чому складніші задачі потребують більше місця
Тож «думання» моделі — не настрій, який можна виманити: це місце, полічене у написаних кроках, і кожен крок — фіксована порція обчислень. Складнішій задачі просто потрібно більше цих кроків, і якщо їй не дають їх написати, вона не дійде; жодна впевненість не заповнить прогалину. Ось справжня причина, чому вимога куцої однорядкової відповіді на по-справжньому складне питання так часто дає хибну.
У цьому вся ідея моделей-мислителів: їх тренують видавати довгу приватну смугу викладок перед фінальною відповіддю, витрачаючи стільки токенів на «думання», скільки потребує складна задача. Решта курсу — про те, як модель учиться добре користуватися цим місцем.
Підсумок
- —Модель витрачає фіксовану кількість обчислень на кожен токен — один прохід, без прихованого чернетника
- —Змушена відповісти одним токеном, вона не впорається з багатокроковими задачами — немає місця для кроків
- —Дозвіл виписати міркування дає їй більше токенів, а кожен токен це більше обчислень — показати роботу і є думанням
- —Скільки місця потрібно задачі, залежить від її складності — складні виходять правильними лише з достатньою кількістю кроків
Модель раз по раз помиляється в багатокроковій текстовій задачі, коли ти просиш лише фінальне число. Яке одне найнадійніше виправлення?
Продовжити в застосунку
Пройди весь курс «Як AI вчиться думати» — з відстеженням
Отримай персональний план, прогрес і стріки в застосунку — цей урок і кожен наступний, по порядку.