Урок 6 із 8

Захисні бар’єри та джейлбрейки

6 хв читання

Попроси асистента про щось шкідливе — і він ввічливо відмовить. Чому ж ти й далі чуєш, що люди змушують його порушувати правила? Бо бар’єр — це фільтр, а не стіна.

Що роблять бар’єри

Фільтр безпеки перевіряє запити й блокує явно шкідливі, пропускаючи нешкідливі. Він ловить багато. Та він міркує над словами, тож запит, замаскований під художній твір чи рольову гру — джейлбрейк — іноді прослизає.

Бар’єри зменшують ризик, але не гарантують. Стався до них як до корисного фільтра, а не обіцянки.

Що це означає для тебе

Два висновки. Не покладайся на бар’єр, щоб зробити AI безпечним для ризикованої задачі — фільтр може підвести. А якщо будуєш з AI, ніколи не дозволяй виходу моделі запускати реальні дії (оплати, видалення, листи) без твого перегляду, бо джейлбрейк чи ін’єкція можуть цим керувати.

Ніколи не з’єднуй сирий вихід AI напряму з реальною дією — лишай людину в контурі.

Фільтри безпеки швидко вдосконалюються, але вони імовірнісні. Проєктуй так, ніби модель іноді можна вмовити на будь-що.