Урок 2 із 9
Чи справді розуміє?
5 хв читання
Завершує за тебе речення, пояснює жарти, пише код. Ну то ж напевно розуміє? Механізм куди скромніший, ніж здається.
Передбачає наступне слово
Мовна модель робить одну-єдину річ: за вже написаним текстом вгадує наступне слово, потім наступне, і так далі. Усе, що вона «каже», — це той самий цикл на великій швидкості. Модель ранжує ймовірні продовження за шаблонами зі свого навчання, а не звіряється з розумом, який осягає сенс.
Плавність — це передбачення наступного слова в масштабі, а не розуміння.
Сенс, який дочитуємо ми
То чи розуміє воно? Ні переконань, ні чуттів, ні намірів — проте передбачення такі влучні, що корисна поведінка виходить сама собою. Чесна відповідь: мову модель відтворює блискуче, а розуміння — погано, і перше легко сплутати з другим.
Майстер форми мови, але не переживання сенсу.
Ось чому воно так упевнено помиляється: гладке, правдоподібне речення — це ще не правдиве.
Що запам'ятати
- —Передбачає наступне слово, знову і знову.
- —Плавність — не те саме, що розуміння.
- —Правдоподібне ≠ правильне — перевіряй важливі твердження.
Як мовна модель складає свої відповіді?
Продовжити в застосунку
Пройди весь курс «AI простими словами» — з відстеженням
Отримай персональний план, прогрес і стріки в застосунку — цей урок і кожен наступний, по порядку.