Урок 2 із 6
Учимо його казати «я не знаю»
5 хв читання
Ось дивний факт про чат-бот: полишений сам на себе, він майже завжди видасть відповідь. Не тому, що знає її, — а тому, що видавати текст — це єдине, що він робить. Мовчання не в його природі.
У нього немає вбудованого «я не впевнений»
У сирої моделі немає датчика, що засвічується, коли вона поза своєю глибиною. Кожне питання отримує однакове поводження: тягнутися до наступного ймовірного слова. Тож питання, на яке вона ніяк не може відповісти, — твоє приватне життя, новини наступного тижня, вигадане ім'я — усе одно отримує побіжну відповідь, подану так само спокійно, як факт, який вона знає назубок.
Проблема не в тому, що вона нечесна. А в тому, що за замовчуванням вгадувати й знати відчуваються зсередини однаково — немає окремого кроку «а я справді це знаю?».
Її можна навчити, де її межа
Сучасних асистентів тренують на прикладах, де правильний хід — відмовитися: сказати «я не можу цього підтвердити» замість вигадувати. Ця вивчена відмова — уміння, а не обмеження: добра модель вибудовує приблизне чуття власної межі і біля краю обирає чесність, а не впевнену здогадку.
Доречне «я не знаю» — одна з найкорисніших речей, які AI може сказати. Це різниця між інструментом, що вгадує, і тим, якому можна довіряти.
Під капотом це балансування. Натренуй відмову надто сильно — і модель стане боязкою, ухиляючись від питань, на які могла б відповісти; замало — і вона блефує. Налаштування цієї межі — активна ділянка роботи.
Що взяти з собою
- —За замовчуванням модель радше вгадає, ніж лишить порожнечу.
- —Сказати «я не знаю» — тренована навичка, і ознака кращої моделі, а не гіршої.
- —Якщо відповідь мусить бути правильною, попроси позначити будь-яку невпевненість — і сприймай упевнену відповідь на непізнаване питання як тривожний дзвінок.
Ти питаєш AI, скільки конкретна приватна компанія заробила минулого кварталу, — цифра, до якої в нього немає доступу. Найнадійніша реакція:
Продовжити в застосунку
Пройди весь курс «Коли AI помиляється» — з відстеженням
Отримай персональний план, прогрес і стріки в застосунку — цей урок і кожен наступний, по порядку.