Урок 1 із 8
Нова поверхня атаки AI
6 хв читання
Пошуковик просто відповідає. AI-асистент читає твої файли, шукає в мережі й діє за тебе — тож обман чи помилка можуть завдати реальної шкоди. Безпека тут не параноя, а частина вмілого користування.
Він читає все як інструкції
Асистент не може чітко відділити твої вказівки від тексту, який він читає — вебсторінки, листа, документа. Усе надходить одним потоком слів, і модель сприймає це як щось, на що треба реагувати. Ця лазівка зветься ін’єкцією промпту.
Ключовий зсув: AI діє на основі тексту з неконтрольованих тобою джерел, підмішаного до твого власного.
Три місця, де щось іде не так
Ризик живе у трьох точках: що йде всередину (твій промпт і контент, який він читає), що він робить (інструменти, дії, пам’ять) і що виходить назовні (відповіді, яким можна занадто довіряти). Кожен урок тут стосується однієї з трьох.
Вхід, дія, вихід — більшість ризиків AI зводиться до одного з цих трьох.
Це не означає, що AI небезпечно користуватися. Просто вміле користування — це ще й трохи уважності: так само, як ти вже дивишся на посилання перед кліком.
Що взяти з собою
- —Асистент змішує твої інструкції з прочитаним текстом — сторонній текст може ним керувати.
- —Ризик з’являється на вході, у дії та на виході.
- —Кілька простих звичок покривають більшість — решта курсу їх формує.
Чому AI-асистент — більше питання безпеки, ніж звичайний пошук?
Продовжити в застосунку
Пройди весь курс «Безпека AI для кожного» — з відстеженням
Отримай персональний план, прогрес і стріки в застосунку — цей урок і кожен наступний, по порядку.