Урок 4 із 6
Це не база даних
10 хв читання
Здається, ніби AI шукає в якійсь гігантській таблиці. Ні. Ніякої таблиці немає. То що ж насправді відбувається, коли він відповідає?
Картотека чи імпровізатор?
База даних — це картотека: кожен запис лежить у шухляді, і запит витягує саме потрібний — або не знаходить нічого. Навчена модель працює зовсім не так. Вона не зберегла жодних записів. Натомість вона тримає закономірності, і коли ти щось питаєш, вона змішує найближчі закономірності в цілком нову відповідь, зроблену на місці. Спитай те саме ще раз — і вона знову імпровізує; спитай те, чого ніхто ніколи не картотекував, — і вона все одно щось зімпровізує.
База даних дістає збережений запис. Модель породжує свіжу відповідь, змішуючи закономірності, — нічого не витягується з шухляди.
Ось чому вона дає раду небаченому
Це суперсила моделі. Оскільки вона змішує, а не шукає, вона може відповісти на питання, яких зовсім не було в її читанні, — суміш двох тем, вірш про твого кота, план поїздки, якої ще ніхто не робив. У картотеки немає нічого на запит, якого вона не містить. У моделі завжди є щось, бо вона будує відповідь, а не дістає її. Ось чому те саме питання двічі може дати дві трохи різні відповіді: кожну складено наново, а не зчитано з готового запису.
Оскільки вона породжує, а не дістає, модель може відгукнутися на те, чого ніколи не бачила, — вона складає, а не копіює.
Та сама сила — та сама небезпека
Але зверни увагу на зворотний бік. Якщо модель завжди будує відповідь, вона збудує її навіть тоді, коли не варто — навіть коли їй нема на що спертися. Картотека чесно каже «не знайдено». Модель — рідко; вона просто тягнеться до найближчих закономірностей і видає тобі гладку відповідь, хай навіть ці закономірності насправді не пасують. Змішування гладке в обох випадках, тож ззовні добре підкріплена відповідь і дикий здогад можуть виглядати абсолютно однаково.
Тримай це в кишені для наступного уроку: оскільки вона породжує, а не шукає, AI залюбки видасть упевнену відповідь на питання, для якого не має жодних реальних підстав.
Те саме змішування, що дає моделі раду з новими питаннями, — це саме те, що дозволяє їй відповідати, коли не варто.
Що взяти з собою
- —Модель не зберігає записів — вона щоразу змішує закономірності в нову відповідь.
- —Ось чому вона дає раду питанням, яких зовсім не було в її навчанні.
- —Ось чому вона рідко каже «не знайдено» — вона завжди щось будує.
Чим навчена модель відрізняється від пошуку по базі даних?
Продовжити в застосунку
Пройди весь курс «Як навчається AI» — з відстеженням
Отримай персональний план, прогрес і стріки в застосунку — цей урок і кожен наступний, по порядку.