Урок 1 із 6
Чому він вигадує
5 хв читання
Попроси в AI книжку на якусь вузьку тему — і він може видати назву, автора й захопливий опис книжки, якої ніколи не існувало. Він не бреше. Він не знає, що помиляється.
Побіжна здогадка виглядає точнісінько як факт
AI пише по одному слову за раз, щоразу тягнучись до ймовірного наступного слова. Коли він вивчив відповідь, це дає правду. Коли ні — дає щось, що звучить як правда: той самий рівний тон, та сама охайна форма. Вигадана відповідь і справжня виходять однаковим голосом. Це галюцинація: побіжний текст, що просто випадково хибний.
Помилка не спотворена й не невпевнена. Вона відшліфована й певна. Саме це робить її слизькою — на поверхні ніщо не махає прапорцем.
Де скупчуються вигадки
Вигадані відповіді з'являються в передбачуваних місцях: точні факти, яких його по-справжньому не вчили, — дати, номери сторінок, цитати, посилання, — усе надто свіже для його тренування, і вузькі закутки, де справжня відповідь рідкісна в мережі. Спитай про відому подію — він зазвичай має рацію; попроси точне джерело — може наворожити його.
Швидке правило: що конкретніше й перевірніше твердження — число, ім'я, URL, посилання, — то більше воно варте перевірки. Конкретика — це те, де ховається вигадка.
Одна звичка, яку варто взяти з собою
- —Сприймай упевнену відповідь як чернетку, а не як вирок — особливо імена, числа й цитати.
- —Побіжний тон — не доказ. Він читається однаково, правдива відповідь чи вигадана.
- —Решта курсу — це набір інструментів: коли сумніватися і як перевіряти.
AI дає тобі конкретну статистику з правдоподібним на вигляд джерелом. Як безпечніше це прочитати?
Продовжити в застосунку
Пройди весь курс «Коли AI помиляється» — з відстеженням
Отримай персональний план, прогрес і стріки в застосунку — цей урок і кожен наступний, по порядку.