Урок 2 із 6

Повідомляти про впевненість і помилку

6 хв читання

Твій AI викладає хибний факт точнісінько таким самим упевненим тоном, як і правильний. Якщо твій інтерфейс передає цей тон користувачу напряму — ти випускаєш баг.

Впевненість — це не правильність

Плавний, самовпевнений тон AI мало пов'язаний з його справжньою [калібрацією](glossary://calibration) — тим, наскільки його впевненість збігається з точністю. Він звучить однаково впевнено, чи має рацію, чи вигадує. Постукай по цих відповідях: та, що звучить найупевненіше, — хибна, а невпевнена — правильна.

Впевненість, яку користувач чує, — це тон, а не правда. Твій UI мусить додати сигнал, який голос моделі пропускає.

Показуй невпевненість, не ховай її

Тож впиши чесність у дизайн. Виводь джерело чи цитату, яку користувач може відкрити, помітно познач вивід з низькою впевненістю і зроби перевірку за один дотик замість акту віри. Тихе «перевір це» краще за гладеньку відповідь, що ховає, яка вона хитка.

Хороший AI-UX повідомляє наскільки впевнено поряд із що — джерела, сигнали впевненості й легкий шлях перевірити.

Опирайся фальшивій точності. Вигаданий значок «впевненість 94%» гірший за жоден — показуй сигнали, за які можеш ручатися (справжнє джерело, позначку «це може бути хибним»), а не число, яке модель насправді не може обґрунтувати.