Безопасность и закон

Безопасность ИИ-агента: права доступа, журнал и отключение

· Время чтения: 4 мин

Безопасность ИИ-агента держится на трёх документах: карта прав доступа, журнал действий и порядок отключения. Ниже образец каждого из них и пояснения, как применять шаблон в белорусской компании.

Три вопроса, на которые должен отвечать регламент

Прежде чем подключать агента к рабочим системам, руководитель должен получить ответы на три вопроса. К чему агент имеет доступ, что он делает и как это увидеть задним числом, как его быстро остановить, если что-то пошло не так. Из этих вопросов и складывается шаблон.

Регламент не должен быть длинным. Страница на каждый из трёх разделов читается и обновляется, а толстый документ откладывают в папку и забывают.

Образец карты прав доступа

Карта показывает, какие системы подключены и какие действия разрешены. Для каждой системы выделяют три уровня: что агент делает сам, что только после подтверждения человека и что запрещено совсем.

СистемаАгент делает самТолько после подтвержденияЗапрещено
ПочтаЧитает входящие, сортирует, готовит черновикиОтправка письма наружуУдаление писем и смена настроек ящика
1С через ODataЧитает справочники и остатки, создаёт черновикиПроведение и изменение документовИзменение прав пользователей
Система учёта клиентов, например Битрикс24Читает карточки, добавляет заметкиСмена статуса сделки и суммыУдаление клиентов
Документы и таблицыЧитает и сводит данныеИзменение утверждённых файловУдаление архивов
TelegramГотовит ответы сотрудникамСообщения клиентам и контрагентамРассылки без согласования

Образец правил журнала действий

Журнал нужен, чтобы по каждому действию агента можно было понять, кто его инициировал, что было сделано и на каком основании. Без журнала невозможно разбираться с ошибками и отвечать на вопросы проверяющих. В образец стоит включить следующие записи:

  • дата, время и сотрудник, от имени которого работал агент;
  • система и объект: письмо, документ 1С, сделка в CRM;
  • что было прочитано, создано или изменено;
  • было ли запрошено подтверждение и кто его дал;
  • результат: выполнено, отклонено, завершилось ошибкой.

Определите, кто просматривает журнал и как часто. Хорошо, когда это делает не тот, кто настраивает агента, а ответственный за безопасность или руководитель отдела.

Образец порядка отключения

Отключение агента должно занимать минуты. Для этого заранее назначают ответственных и описывают порядок действий. Образец:

  1. сотрудник, заметивший странное поведение, сообщает ответственному за безопасность;
  2. ответственный приостанавливает агента или отключает его доступы к системам;
  3. фиксируется время и описание ситуации;
  4. проверяются последние записи журнала и документы, к которым был доступ;
  5. решение о возобновлении работы принимает руководитель после исправления правил.

Как применять шаблон в компании

Берите шаблон как основу и подгоняйте под свои системы. Coagent устроен так, что роль, правила и доступы агента задаются обычными словами, поэтому карту прав из таблицы выше можно взять за основу при настройке правил агента. Но текстовое правило и техническое ограничение доступа не одно и то же: права в самих системах выдаёт администратор, и именно они фактически ограничивают агента. Простые действия агент выполняет сам, а важные, такие как отправка письма или изменение договора, только после подтверждения человека; решения о платежах остаются за людьми.

Права стоит выдавать узко и расширять по мере доверия. Начните с чтения и черновиков, а действия, которые меняют данные, добавляйте после проверки.

Кто за что отвечает при работе с агентом

Безопасность не сводится к настройкам. Нужны люди с понятными ролями: владелец процесса, который решает, что агент делает, ответственный за доступы, который их выдаёт и отзывает, и проверяющий, который смотрит журнал. В небольшой компании все три роли могут совмещать два человека, но они должны быть названы письменно.

Скопируйте таблицу прав на свою компанию и заполните её вместе с ответственным за информационную безопасность.

Расскажите о своём процессе

Назовите задачу, с которой команда справляется вручную. Вместе определим границы, права агента и то, что останется за сотрудником.

  • Начнём с одного процесса и покажем результат на ваших данных
  • Подключение к вашим системам настраиваем вместе с вашим специалистом
  • Агенты работают на сервере вашей компании

Удобнее связаться самим: +375 44 474-49-50 · [email protected]