Урок 3 із 8
Чому AI вигадує
9 хв читання
Інколи AI видає тобі факт, який просто… хибний — книжку, якої не існує, цитату, якої ніхто не казав, — і звучить при цьому абсолютно впевнено. Чому так стається і чому так упевнено?
Він радше вгадає, ніж зупиниться
Згадай єдиний хід AI: передбачити правдоподібне наступне слово, знову і знову (урок перший). Коли він справді знає відповідь, найправдоподібніші наступні слова і є правдою. Але коли не знає — коли деталь загубилася під час стискання (урок другий) — він не спиняється й не відчуває прогалини. Він просто все одно тягнеться до наступних найправдоподібніших на вигляд слів. Для вгадувача наступного слова вигадана назва книжки виглядає точнісінько як справжня — тож вона й вилітає, така ж гладка й природна.
Коли AI подає щось хибне так, ніби це правда, — це галюцинація. Він не бреше — він гадки не має, що помиляється. Він заповнює прогалину правдоподібним здогадом, бо вгадувати наступне слово — єдине, що він узагалі робить.
Зазирни всередину: воно оцінює, як звучить, а не чи це правда
Чому вигадана відповідь виходить така ж гладка, як справжня? Поглянь, як модель обирає. Для кожної відповіді, яку вона могла би дати, вона оцінює одне: наскільки та звучить переконливо — наскільки природно лягає до попереднього. Другої оцінки — чи відповідь насправді правдива — у неї немає. Вона бере найпереконливішу на звук і промовляє її. Правди в табелі оцінок ніколи не було.
Модель ранжує відповіді за правдоподібністю — наскільки ймовірні слова — і не має окремого сигналу про правду. Коли правдиві слова водночас найправдоподібніші, правильна відповідь виходить задарма. Коли ні — вона впевнено промовляє правдоподібне натомість. Машина та сама в обох випадках.
У цьому весь фокус упевненої хибної відповіді. На заяложеному факті найправдивіші слова і є тими, що звучать переконливо, тож вона їх і видає. На тому, чого вона по-справжньому не читала, слова, що звучать переконливо, — це просто… слова, що звучать переконливо; і вони вилітають, гладкі й хибні. Єдиний спосіб змусити її віддати перевагу правді — зробити правду найправдоподібнішим, що перед нею лежить; саме це й робить дане їй джерело чи твої власні нотатки.
Звучати впевнено — не означає мати рацію
І звучить він завжди впевнено. Ця спокійна, гладка впевненість — це стиль, який він підхопив із мільйонів добре написаних сторінок, і цей стиль накладається на кожну відповідь, хоч правдиву, хоч хибну. Дикий здогад виходить тим самим відшліфованим голосом, що й непохитний факт. Тож тон, який ти чуєш, нічого не каже про те, чи правильний зміст.
Упевнений тон AI — це не доказ. Він звучить так само впевнено, коли вгадує, як і коли має рацію, — тож судити про правду за рівнем упевненості не можна.
Коли це важливо, стався до конкретики — імен, чисел, цитат, посилань, дат — як до здогадів, які треба перевірити, а не до фактів. Запитання «наскільки ти впевнений і яке джерело?» допомагає виявити хиткі.
Підсумок
- —AI завжди передбачає правдоподібне наступне слово — тож коли він не знає, то заповнює прогалину здогадом, а не спиняється
- —Упевнений, гладкий тон — це лише його стандартний стиль, накладений однаково на правильні й хибні відповіді
- —Це вигадане-але-правдоподібне твердження і є галюцинацією — тож перевіряй конкретику, що має значення
AI дає тобі точну цитату, приписує її відомому авторові й звучить цілком упевнено. Найрозумніший наступний крок?
Продовжити в застосунку
Пройди весь курс «AI з нуля» — з відстеженням
Отримай персональний план, прогрес і стріки в застосунку — цей урок і кожен наступний, по порядку.