1Какие данные вообще уходят к ИИ
Чтобы оценивать риск трезво, надо понять, что именно передаётся. При работе ИИ-агента наружу идут: тексты диалогов с клиентами, содержимое базы знаний, которое вы сами загрузили, и данные, которые агент берёт из подключённых систем для ответа. Не уходит то, к чему вы не дали доступ, — модель не «видит» вашу CRM целиком, а получает лишь то, что ей передали в рамках задачи.
Важно различать два слоя: данные в диалоге (то, что обрабатывается прямо сейчас) и данные на хранении (история переписок, база знаний в системе). У них разные риски и разные меры защиты, и спрашивать про них нужно отдельно.
2Реальные риски и преувеличенные страхи
Самый частый миф — «модель обучится на наших данных и выдаст их другим». У серьёзных провайдеров API данные запросов по умолчанию не используются для обучения, и это фиксируется в условиях. Стоит проверить формулировку у конкретного поставщика, но паника здесь обычно беспочвенна. Реальные риски лежат приземлённее и ближе к классической информационной безопасности:
- Утечка через хранение: где и как лежит история диалогов и база знаний, кто имеет к ним доступ.
- Передача лишнего: в модель уходит больше данных, чем нужно для задачи.
- Слабая защита ключей доступа к интеграциям — через них можно дотянуться до подключённых систем.
- Несоответствие требованиям к персональным данным при трансграничной передаче.
3Персональные данные и закон
Если в диалогах есть персональные данные клиентов (имена, телефоны, адреса), к ним применимы требования законодательства о персональных данных. Это не запрещает использовать ИИ, но обязывает понимать, где данные обрабатываются и хранятся, на каком основании и с каким согласием клиента.
Практичные следствия: минимизировать передаваемые персональные данные (передавать только необходимое для задачи), знать географию обработки и хранения, и при чувствительных данных склоняться к решениям, где данные не покидают нужный периметр. Это та же логика, что и при выборе любого облачного сервиса, — ИИ здесь не исключение.
4О чём спросить поставщика
Безопасность ИИ — это во многом правильные вопросы на входе. Перед подключением стоит выяснить:
- Используются ли наши данные для обучения моделей и можно ли это отключить.
- Где физически обрабатываются и хранятся данные и сколько хранится история.
- Как шифруются данные при передаче и на хранении, как защищены ключи доступа.
- Кто внутри поставщика имеет доступ к нашим данным и как это контролируется.
- Есть ли возможность self-hosted или изолированного контура для чувствительных данных.
