Внедрение ИИ-агентов

Подтверждение человеком: как устроить контроль действий ИИ-агента

· Время чтения: 4 мин

Контроль действий ИИ-агента держится на одном правиле: подтверждение человеком обязательно там, где действие уходит наружу или затрагивает деньги и договоры. Ниже ситуации в формате если случилось одно, делаем другое.

Если действие уходит за пределы компании

Письмо клиенту, сообщение поставщику в мессенджере, ответ на претензию — всё, что увидит внешний адресат, агент оформляет как черновик. Сотрудник читает текст, правит тон и факты, после чего сам нажимает отправку. Так ответственность за слова остаётся у человека, а агент экономит время на подготовке.

Если речь идёт о деньгах и договорах

Платёж, выставление счёта, согласование скидки или изменение условий договора требуют отдельного подтверждения. Агент может подготовить платёжное поручение или проект дополнительного соглашения, но проведение и подписание остаются за уполномоченным сотрудником. Полезно заранее записать, кто подтверждает каждый тип действий:

  • платежи поставщикам подтверждает финансовый директор или главный бухгалтер
  • скидки сверх установленных правил подтверждает руководитель отдела продаж
  • изменения в договоре подтверждает юрист вместе с ответственным менеджером
  • массовые рассылки клиентам подтверждает руководитель направления

Если агент не уверен или данных не хватает

Хорошее правило для агента звучит так: при нехватке данных не угадывать, а задать вопрос сотруднику и показать, чего именно не хватило. Например, в 1С не найден договор или в письме клиента названы две разные даты. Агент сообщает о пробеле, а не заполняет его предположением. Это правило записывается обычными словами в описании роли.

Если сотрудники подтверждают всё не читая

Формальное подтверждение — главный риск этой схемы. Когда человек нажимает кнопку, не читая текст, контроль превращается в декорацию. Признаки: подтверждение приходит через секунды после запроса, черновики почти не правятся, никто не задаёт агенту уточняющих вопросов.

Сводка правил подтверждения для разных ситуаций

СитуацияЧто делает агентКто решает
Письмо клиентуГотовит черновик и показывает авторуАвтор письма или руководитель
Платёж поставщикуСобирает данные и готовит документФинансист или бухгалтер
Сводка для руководителяФормирует и показывает на экранеРуководитель читает, подтверждение не нужно
Правка договораПредлагает формулировку и список измененийЮрист и ответственный менеджер

Как подтверждения вписываются в рабочий день сотрудника

Подтверждение не должно превращаться в очередь, из-за которой сотрудник бросает основную работу. Разумно собирать действия, ожидающие решения, в один список, который человек просматривает несколько раз в день. Срочные вопросы приходят отдельным сообщением. Если ответа нет в течение рабочего дня, агент напоминает один раз и не засыпает сотрудника повторами.

Документы и контрагенты в белорусской практике

В Беларуси многие документы получают юридическую силу после подписания и отправки: электронный счёт-фактура на портале МНС, электронная ТТН, акт, договор. Агент может подготовить данные для ЭСЧФ или проект акта, сверить УНП контрагента с карточкой в учётной системе и показать расхождения. Выпуск и подписание документа выполняет сотрудник с нужными полномочиями, а порядок оформления уточняется у бухгалтера.

Памятка сотруднику: что проверить в черновике перед подтверждением

Подтверждение работает, если человек знает, на что смотреть. Короткая памятка для проверки черновика:

  • совпадает ли получатель с тем, кому действительно нужно писать
  • верны ли суммы, даты и названия документов
  • соответствует ли тон отношениям с этим клиентом
  • не раскрыты ли лишние сведения о других клиентах или о ценах

Как сохранить следы решений для разбора

Для спорных ситуаций важно, чтобы подтверждения были видны: кто, когда и что именно одобрил. Если платформа ведёт такой журнал, подключите его к регулярному разбору. Coagent, например, разделяет простые действия, которые агент выполняет сам, и важные, которые идут только после подтверждения человека; границу между ними компания задаёт обычными словами.

Составьте такую таблицу для своих процессов и согласуйте её с руководителями отделов до запуска агента.

Разберём ваш случай

Опишите процесс, который хочется разгрузить. Разберём его вместе и покажем, как агент возьмёт его в работу. Отвечаем в рабочее время.

  • Начнём с одного процесса и покажем результат на ваших данных
  • Подключение к вашим системам настраиваем вместе с вашим специалистом
  • Роли и права агента задаются вашими словами

Можно и без формы: +375 44 474-49-50 · [email protected]