Урок 3 із 9
Чому воно вигадує?
5 хв читання
Попроси джерело — і отримаєш книжку, якої не існує: автор, назва, сторінка — усе вигадане. Чому корисний інструмент так гладко бреше?
Створене, щоб звучати правильно
Модель передбачає ймовірний текст — тобто те, на що схожа добра відповідь, байдуже, правда це чи ні. Коли не знає — не зупиняється, а заповнює прогалину правдоподібним здогадом. Оце й є галюцинація: гладка, упевнена й хибна.
Женеться за правдоподібністю, а не за правдою: прогалини заповнює вигадкою.
Чому воно просто не скаже «не знаю»
Сказати «не знаю напевно» — теж навичка, якої модель треба спеціально навчати, і дається вона недосконало. Новіші моделі обережніші, та застрахованих серед них немає. Рішення — на твоєму боці: сприймай несподівані факти, імена, числа й цитати як твердження, які треба перевірити, а не як відповіді, яким можна вірити.
Впевненість безкоштовна; правильність — ні. Перевіряй конкретику.
Ніколи не пускай далі факти, цитати чи цифри від AI без перевірки — надто імена, дати й цитати: саме їх він вигадує найлегше.
Захист від вигаданих фактів
- —Галюцинації — від передбачення правдоподібного тексту.
- —Замість визнати, що не знає, — заповнює прогалину.
- —Перевіряй конкретику — імена, числа, цитати, джерела.
Чому AI іноді так впевнено заявляє хибне?
Продовжити в застосунку
Пройди весь курс «AI простими словами» — з відстеженням
Отримай персональний план, прогрес і стріки в застосунку — цей урок і кожен наступний, по порядку.