Урок 1 із 6
Чому він вигадує
5 хв читання
Попроси в AI книжку на якусь вузьку тему — і він може видати назву, автора й захопливий опис книжки, якої ніколи не існувало. Він не бреше. Просто не знає, що помиляється.
Гладка здогадка виглядає точнісінько як факт
AI пише по одному слову, щоразу тягнучись до правдоподібного наступного. Якщо відповідь він засвоїв — на виході правда. Якщо ні — на виході щось, що звучить як правда: той самий рівний тон, та сама охайна форма. Вигадана відповідь і справжня виходять однаковим голосом. Це галюцинація: гладкий текст, що просто випадково хибний.
Помилка не спотворена й не невпевнена — навпаки, відшліфована й певна. Саме це й робить її слизькою: на поверхні ніщо не насторожує.
Де скупчуються вигадки
Вигадані відповіді з'являються в передбачуваних місцях: точні факти, яких його толком не вчили (дати, номери сторінок, цитати, посилання), усе надто нове для його тренування, і вузькі закутки, де правдива відповідь рідко трапляється в мережі. Спитай про відому подію — зазвичай має рацію; попроси точне джерело — може його й наворожити.
Просте правило: що конкретніше твердження і що легше його перевірити (число, ім'я, URL, посилання), то більше воно варте перевірки. Саме в конкретиці й ховається вигадка.
Одна звичка, яку варто взяти з собою
- —Сприймай упевнену відповідь як чернетку, а не як вирок — особливо імена, числа й цитати.
- —Гладкий тон — не доказ. Читається однаково — що правдива відповідь, що вигадана.
- —Решта курсу — це набір інструментів: коли сумніватися і як перевіряти.
AI дає тобі конкретну статистику з правдоподібним на вигляд джерелом. Як найбезпечніше це сприйняти?
Продовжити в застосунку
Пройди весь курс «Коли AI помиляється» — з відстеженням
Отримай персональний план, прогрес і стріки в застосунку — цей урок і кожен наступний, по порядку.