Урок 4 із 6
Це не база даних
10 хв читання
Здається, ніби AI шукає в якійсь гігантській таблиці. Ні. Ніякої таблиці немає. То що ж насправді відбувається, коли він відповідає?
Картотека чи імпровізатор?
База даних — це картотека: кожен запис лежить у своїй шухляді, і запит витягує саме потрібний — або не знаходить нічого. Навчена модель працює зовсім не так. Записів вона не зберегла жодних. Натомість тримає закономірності, і коли щось питаєш, змішує найближчі з них у цілком нову відповідь, просто на ходу. Спитай те саме ще раз — і вона імпровізує заново; спитай те, чого ніхто й ніколи не заносив до картотеки, — і вона все одно щось зімпровізує.
База даних дістає збережений запис. Модель породжує свіжу відповідь, змішуючи закономірності, — нічого не витягується з шухляди.
Ось чому вона дає раду небаченому
Це суперсила моделі. Оскільки вона змішує, а не шукає, то може відповісти на питання, яких зовсім не було в її читанні: суміш двох тем, вірш про твого кота, план подорожі, у яку ще ніхто не вирушав. У картотеки немає нічого на запит, якого вона не містить. А в моделі завжди є щось, бо вона будує відповідь, а не дістає готову. Ось чому одне й те саме питання двічі може дати дві трохи різні відповіді: кожну складено наново, а не зчитано з готового запису.
Оскільки вона породжує, а не дістає, модель може відгукнутися на те, чого ніколи не бачила, — вона складає, а не копіює.
Та сама сила — та сама небезпека
Але зверни увагу на зворотний бік. Якщо модель завжди будує відповідь, вона збудує її навіть тоді, коли не варто — навіть коли спертися їй геть нема на що. Картотека чесно каже «не знайдено». Модель — майже ніколи: просто тягнеться до найближчих закономірностей і видає тобі гладку відповідь, хай навіть ті закономірності геть не пасують. Змішування гладке в обох випадках, тож ззовні добре підкріплену відповідь і дикий здогад годі відрізнити.
Запам'ятай це на наступний урок: оскільки AI породжує відповідь, а не шукає її, він залюбки видасть щось упевнене навіть на питання, для якого не має жодних реальних підстав.
Те саме змішування, що допомагає моделі впоратися з новими питаннями, дозволяє їй відповідати й тоді, коли не варто.
Що взяти з собою
- —Модель не зберігає записів — вона щоразу змішує закономірності в нову відповідь.
- —Ось чому вона дає раду питанням, яких зовсім не було в її навчанні.
- —Ось чому вона рідко каже «не знайдено» — вона завжди щось будує.
Чим навчена модель відрізняється від пошуку по базі даних?
Продовжити в застосунку
Пройди весь курс «Як навчається AI» — з відстеженням
Отримай персональний план, прогрес і стріки в застосунку — цей урок і кожен наступний, по порядку.