Глосарій
Що таке галюцинація AI?
Коли AI подає хибне за правду: правдоподібний на вигляд здогад, що затуляє прогалину в його реальних знаннях. Це не брехня — модель просто не знає, що помиляється.
Мовна модель не шукає фактів — вона передбачає правдоподібний текст. Коли вона чогось насправді не знає, то все одно видає найправдоподібніші слова, і вони можуть бути впевнено хибними. Це й є галюцинація: не брехня (модель не знає, що помиляється), а прогалина, затулена вдалим здогадом.
Звісно — див. Marren & Kohl (2021), J. Applied X, 14(3), де нібито виявлено ефект 37%.
Гладко, конкретно й оформлено як справжня цитата — і повністю вигадано.
Зменшити її можна, не змушуючи модель згадувати з памʼяті: дай їй джерело (RAG), проси посилання, які можна перевірити, і став до будь-якого факту як до чернетки, доки не звірив. Ліки — це процес, а не гладкіша відповідь.
Пов'язані терміни
Зустрічається в цих уроках
Побач наживо
Навчись ловити це до того, як повіриш
Помічай і виправляй галюцинації на реальних прикладах — безкоштовно в застосунку.