Что именно уходит наружу при работе с внешним сервисом
Допустим, производственная компания в Лиде подключила внешнюю нейросеть, чтобы готовить ответы на письма поставщиков. Сотрудник вставил в запрос текст договора, реквизиты и сумму. Для человека это обычная рабочая операция, но с точки зрения защиты данных текст ушёл за пределы компании и обрабатывается на чужой стороне. Чаще всего в запросы попадают такие сведения:
- условия договоров, цены и скидки
- реквизиты контрагентов и контактные данные сотрудников
- переписка с клиентами, где встречаются персональные данные
- внутренние регламенты и финансовые показатели
- расшифровки звонков с обсуждением сделок
Три варианта и где обрабатываются данные
| Вариант | Где идёт обработка | На что обратить внимание |
|---|---|---|
| Внешний сервис со своими ключами | На стороне поставщика модели | Условия хранения и использования запросов |
| Модели от платформы | На стороне платформы или её партнёров | Договорные условия и перечень передаваемых данных |
| Локальная модель на сервере компании | Внутри инфраструктуры компании | Мощность оборудования и обслуживание |
Ни один вариант не является безопасным по умолчанию. Внешняя модель вызывает вопросы о передаче данных, локальная требует оборудования и людей, которые её поддерживают. Выбор зависит от того, что именно вы собираетесь отдавать модели.
Чем рискует компания
Риски делятся на несколько групп. Во-первых, утечка или несанкционированное использование коммерческой информации. Во-вторых, нарушение обязательств по конфиденциальности перед заказчиками и банками. В-третьих, обработка персональных данных без должных оснований, что вызывает вопросы по Закону № 99-З. Наконец, зависимость от внешнего сервиса: если условия или доступность изменятся, бизнес-процесс остановится.
Что мешает локальной модели
Локальный вариант выглядит надёжнее, но у него свои ограничения. Нужен сервер с достаточной мощностью, специалист, который обновляет и проверяет модель, и готовность принять, что качество ответов может отличаться от крупных внешних сервисов. Для части задач, например для краткой сводки внутренней переписки или поиска по документам, локальной модели хватает. Для сложных текстов результат стоит проверять на реальных примерах.
Как выбрать вариант по уровню чувствительности данных
Разделить данные по чувствительности
Выделите открытые сведения, внутренние рабочие и закрытые: персональные данные, финансы, условия договоров.
Привязать к задачам
Для каждой задачи агента определите, какие данные ему нужны. Часто достаточно обезличенной части.
Выбрать модель под задачу
Для открытых данных подойдёт внешний сервис, для закрытых локальная модель или другой вариант, одобренный юристом.
Закрепить правила в роли агента
Ограничения прописываются обычными словами: какие данные не передавать, какие документы не читать.
Проверять журнал запросов
Периодически просматривайте, что реально уходит в модель, и корректируйте правила.
Что можно сделать в первую очередь
Эти действия не требуют ни новых программ, ни больших расходов. Они дают общую картину и позволяют договориться о правилах до того, как отсутствие порядка приведёт к неприятностям.
- составить перечень задач, для которых используется нейросеть
- выяснить, какие данные в них попадают
- запретить передачу закрытых данных во внешние сервисы, пока не согласован порядок
- обучить сотрудников простому правилу: не вставлять в запрос то, чего нельзя показывать посторонним
- проверить договоры с поставщиками моделей
Платформа Coagent позволяет выбрать нейросеть под агента: свои ключи, модели платформы или собственные модели на сервере компании. Сама платформа ставится на сервер, а данные подключённых систем остаются у компании, но при внешней модели часть сведений обрабатывается за пределами сервера, и это нужно учитывать при настройке.
Можно ли использовать внешнюю модель для обезличенных данных?
Это один из распространённых компромиссов: в запрос попадают только тексты без персональных данных и коммерческих секретов. Но обезличивание нужно проверять, чтобы личные данные не остались в тексте.
Нужна ли локальная модель каждой компании?
Нет. Если задачи не связаны с закрытыми данными, внешний сервис может подойти. Локальная модель оправдана там, где требования к конфиденциальности строгие.
Кто принимает решение о выборе модели?
Руководство вместе с ответственным за информационную безопасность и юристом. Техническая реализация настраивается вместе с клиентом.
Составьте перечень задач агента и отметьте, какие данные в них попадают.