Урок 3 із 9
Чому воно вигадує?
5 хв читання
Попроси джерело — і воно дасть книжку, якої немає: автор, назва, сторінка, усе вигадане. Чому корисний інструмент так гладко бреше?
Створене звучати правильно
Оскільки воно передбачає ймовірний текст, то видає те, на що добра відповідь схожа — байдуже, правда це чи ні. Коли не знає, воно не спиняється; заповнює прогалину правдоподібним здогадом. Це галюцинація: плавна, впевнена й хибна.
Воно оптимізує правдоподібність, а не правду — тож прогалини заповнює вигадкою.
Чому воно просто не скаже «не знаю»
Сказати «не впевнене» — це навичка, до якої модель треба вчити, і вона недосконала. Новіші моделі більше застерігаються, але жодна не імунна. Рішення на твоєму боці: сприймай несподівані факти, імена, числа й цитати як твердження для перевірки, а не відповіді для довіри.
Впевненість безкоштовна; правильність — ні. Перевіряй конкретику.
Ніколи не пускай факти, цитати чи цифри AI без перевірки — надто імена, дати й цитати, які воно вигадує найплавніше.
Захист від вигаданих фактів
- —Галюцинації — від передбачення правдоподібного тексту.
- —Воно заповнює прогалини замість зізнатися, що не знає.
- —Перевіряй конкретику — імена, числа, цитати, джерела.
Чому AI іноді так впевнено заявляє хибне?
Продовжити в застосунку
Пройди весь курс «AI простими словами» — з відстеженням
Отримай персональний план, прогрес і стріки в застосунку — цей урок і кожен наступний, по порядку.