Урок 6 із 7
Тримати агентів на повідку
7 хв читання
Агент, що може забронювати столик, теоретично може й спорожнити твій банківський рахунок. То як отримати допомогу, не віддаючи ключі?
Дай читати; став ворота на те, що можна зламати
Розв'язок — повідок: чіткі межі того, що агент може робити сам. Малоризикові дії (пошук, читання твого календаря, чернетка відповіді) можуть виконуватися вільно. Але все, що витрачає гроші, надсилає повідомлення від тебе чи незворотне, зупиняється на контрольній точці й чекає на твоє «так». Це людина в циклі: агент пропонує, ти схвалюєш.
Людина в циклі означає, що агент ніколи не робить ризиковану, незворотну дію сам: спершу її погоджує людина.
Дозволи та запобіжники
Поряд із контрольною точкою йдуть ще два інструменти. Дозволи вирішують, до чого інструменту взагалі можна торкатися: лише читати чи читати й надсилати. Запобіжники — це правила, що блокують явно погані ходи ще до їх виконання. Разом вони означають, що агент працює в межах огорожі, яку ти задаєш, а не в усьому відкритому полі.
Мета — не повністю автономний агент, а корисний, якому можна довіряти, бо ризиковані краї обгороджено, а останнє «так» — за тобою.
Найобережніше стався до дій, які рухають гроші, надсилають повідомлення чи щось видаляють. Такі не відкотиш назад. Читай, що пропонує агент, перш ніж схвалити: поспішне «так» — головна причина, чому автоматизація дає збій.
Суть
- —Дозволяй малоризикові дії; став ворота на все ризиковане чи незворотне.
- —Людина в циклі: агент пропонує, людина схвалює.
- —Дозволи обмежують, до чого можуть торкатися інструменти; запобіжники блокують погані ходи.
Твій агент вишиковує чотири кроки; три — лише читання, а один — «сплатити рахунок на €900». Що має статися?
Продовжити в застосунку
Пройди весь курс «Агенти та інструменти» — з відстеженням
Отримай персональний план, прогрес і стріки в застосунку — цей урок і кожен наступний, по порядку.