Урок 3 із 7
Думання коштує токенів
10 хв читання
Спитай модель хитре арифметичне питання й вимагай лише відповідь, без жодних викладок, — і вона часто схибить. Дай їй спершу розписати кроки — і пройде легко. Та сама модель, те саме питання. Чому ж розписаний хід робить її розумнішою?
Один токен — одна порція думки
Ось факт про те, як працюють ці моделі: на кожен токен, який пише модель, припадає однакова фіксована кількість обчислень — один швидкий прохід крізь мережу. Тут немає ні кнопки паузи, ні захованої збоку чернетки. Складну задачу, що потребує кількох кроків міркування, годі втиснути в цей єдиний прохід. Змушена випалити відповідь одним токеном, модель має одну порцію думки на всю роботу — а для багатокрокової задачі цього замало.
Модель витрачає фіксовану кількість обчислень на кожен токен. Відповідь в один токен дістає рівно одну порцію думки — хоч яким складним було б питання.
Дай їй місце попрацювати
Тож виправлення майже кумедне: дай їй писати більше. Коли модель міркує вголос — «3 ряди по 8 це 24; відняти 5; лишається 19» — кожен такий токен додає ще одну порцію обчислень, а попередні кроки стають нотатками, до яких можна повернутися. Написані слова і є чернеткою. Спробуй нижче обидва режими: змусь відповісти миттєво, а тоді дай спершу подумати — на тому самому питанні.
Дати моделі думати на письмі — не показуха: додаткові токени означають додаткові обчислення. Більше простору для роботи, розподіленого на більше токенів, — це буквально більше думки, докладеної до задачі.
Регулюй місце на думку
У цього виправлення є регулятор. Нижче ти керуєш двома речами водночас: наскільки складна задача і скільки місця на думку даєш — тобто скільки кроків викладок модель може написати, перш ніж відповість. Даси складній задачі замало місця — і вона мусить випалити поспішну здогадку; даси досить — і викладки дійдуть до відповіді. І зауваж: місце, що лишилося понад потрібне задачі, просто стоїть без діла.
Скільки місця потрібно задачі — не фіксовано: воно росте разом із задачею. Легка завершується за один крок; складна виходить правильною лише тоді, коли даси досить кроків, щоб дійти.
Чому складніші задачі потребують більше місця
Тож «думання» моделі — не настрій, який можна виманити: це місце, полічене у написаних кроках, де кожен крок — фіксована порція обчислень. Складнішій задачі просто потрібно більше цих кроків, і якщо їй не дають їх написати, вона не дійде; жодна впевненість не заповнить прогалину. Ось справжня причина, чому вимога куцої однорядкової відповіді на по-справжньому складне питання так часто дає хибну.
У цьому й уся ідея моделей-мислителів: їх тренують видавати довгу внутрішню низку викладок перед фінальною відповіддю, витрачаючи на «думання» стільки токенів, скільки потребує складна задача. Решта курсу — про те, як модель учиться добре користуватися цим простором.
Підсумок
- —Модель витрачає фіксовану кількість обчислень на кожен токен — один прохід, без прихованої чернетки
- —Змушена відповісти одним токеном, вона не впорається з багатокроковими задачами — немає місця для кроків
- —Дозвіл виписати міркування дає більше токенів, а кожен токен — це більше обчислень; розписати хід і є думання
- —Скільки місця потрібно задачі, залежить від її складності — складні виходять правильними лише з достатньою кількістю кроків
Модель раз по раз помиляється в багатокроковій текстовій задачі, коли ти просиш лише фінальне число. Яке виправлення тут найнадійніше?
Продовжити в застосунку
Пройди весь курс «Як AI вчиться думати» — з відстеженням
Отримай персональний план, прогрес і стріки в застосунку — цей урок і кожен наступний, по порядку.