Урок 2 із 6
Учимо його казати «я не знаю»
5 хв читання
Ось дивний факт про чат-бот: полишений сам на себе, він майже завжди видасть відповідь. Не тому, що знає її, а тому, що видавати текст — це єдине, що він уміє. Мовчати не в його природі.
У нього немає вбудованого «я не впевнений»
У сирої моделі немає датчика, що спалахує, коли питання їй не по зубах. З кожним питанням робить те саме — тягнеться до наступного правдоподібного слова. Тож на питання, на яке вона ніяк не може відповісти (твоє приватне життя, новини наступного тижня, вигадане ім'я), усе одно з'являється гладка відповідь, подана так само спокійно, як факт, який вона знає назубок.
Проблема не в тому, що вона нечесна, а в тому, що за замовчуванням вгадувати й знати зсередини відчуваються однаково: немає окремого кроку «а я справді це знаю?».
Її можна навчити бачити свою межу
Сучасних асистентів тренують на прикладах, де правильний хід — відмовитися: сказати «я не можу цього підтвердити» замість вигадувати. Ця вивчена відмова — уміння, а не обмеження: добра модель вибудовує приблизне чуття власної межі і біля краю обирає чесність, а не впевнену здогадку.
Доречне «я не знаю» — одна з найкорисніших речей, які AI може сказати. Це різниця між інструментом, що вгадує, і тим, якому можна довіряти.
Під капотом це балансування. Натренуй відмову надто сильно — і модель стане боязкою, ухиляючись від питань, на які могла б відповісти; замало — і вона блефує. Пошук цієї межі — те, над чим досі активно працюють.
Що взяти з собою
- —За замовчуванням модель радше вгадає, ніж лишить порожнечу.
- —Сказати «я не знаю» — тренована навичка, і ознака кращої моделі, а не гіршої.
- —Якщо відповідь мусить бути правильною, попроси позначити будь-яку невпевненість — і сприймай упевнену відповідь на непізнаване питання як тривожний дзвінок.
Ти питаєш AI, скільки конкретна приватна компанія заробила минулого кварталу, — цифра, до якої в нього немає доступу. Найнадійніша реакція:
Продовжити в застосунку
Пройди весь курс «Коли AI помиляється» — з відстеженням
Отримай персональний план, прогрес і стріки в застосунку — цей урок і кожен наступний, по порядку.