Урок 3 із 6
Як розпізнати фейк
6 хв читання
Ти знаєш ці поради: порахуй пальці, перевір текст, шукай занадто гладку шкіру. Проблема в тому, що моделі це виправили — а детектори, які мали б їх ловити, раз по раз помиляються.
Твої очі перестали працювати
Певний час фейки можна було розпізнати за їхніми помилками. Моделі швидко покращилися, і ці ознаки зникають — переконливе AI-зображення, голос чи відео тепер дешево зробити. Довіряти власним очам — саме той інстинкт, через який люди попадаються на хороший фейк.
AI-медіа більше не розпізнати надійно на око — а детектори лише вгадують.
Детектори вгадують і промахуються
Тож люди хапаються за «детектор AI». Але ці інструменти видають імовірність, а не доказ, і помиляються в обидва боки: позначають справжні фото як фейк (хибне спрацювання) і пропускають справжні фейки як справжні (хибний пропуск). Ставити на кону репутацію — чи звинувачення — на цій цифрі — помилка.
Оцінка детектора — це здогад, хибний достатньо часто, щоб вердикт ніколи не був доказом.
Ніколи не сприймай результат «детектора AI» як доказ — у жодному напрямку. Справжнє фото можуть позначити як фейк, а хороший фейк може пройти як справжній.
Суть
- —Старі візуальні «ознаки» зникають — не покладайся на пошук глюків.
- —Детектори AI дають імовірність, а не доказ.
- —Вони помиляються в обидва боки — позначають справжнє й пропускають фейки.
Наскільки надійні «детектори AI» для зображень і відео?
Продовжити в застосунку
Пройди весь курс «AI-медіа: власність, діпфейки й довіра» — з відстеженням
Отримай персональний план, прогрес і стріки в застосунку — цей урок і кожен наступний, по порядку.