Почему вопрос безопасности возникает первым
Для работы ИИ нужны данные: документы, письма, карточки клиентов. Если сотрудники самостоятельно отправляют их в публичные сервисы, возникает риск утечки коммерческой информации и нарушения требований к персональным данным. Руководителю не нужно разбираться в технических деталях, но нужно ввести понятные правила.
Эта статья не заменяет консультацию юриста и специалиста по информационной безопасности: законодательство и требования регуляторов меняются, а ваши обязанности зависят от отрасли.
Какие данные требуют особого внимания
| Тип данных | Пример | Подход | |------------|--------|--------| | Персональные данные | ФИО, телефоны, паспортные данные клиентов и сотрудников | Обработка по закону о персональных данных, согласование с юристом | | Коммерческая тайна | Цены, условия договоров, себестоимость | Только в защищённых контурах | | Финансовые данные | Выписки, остатки, зарплаты | Ограниченный доступ, чаще локально | | Технологическая информация | Чертежи, режимы, рецептуры | Часто только внутренний контур | | Публичные материалы | Тексты сайта, открытые прайсы | Можно использовать свободнее |
Варианты размещения решения
Публичные облачные сервисы
Быстро и недорого начать. Данные передаются внешнему поставщику, условия обработки определяются его правилами. Подходит для задач с публичной или обезличенной информацией.
Корпоративные облачные решения
Поставщики предлагают тарифы с договорными гарантиями: данные не используются для обучения моделей, определены сроки хранения. Условия различаются, поэтому читайте договор и уточняйте у юриста, подходят ли они вашей отрасли.
Локальное развёртывание
Модель работает на вашей инфраструктуре, данные не покидают контур компании. Это требует оборудования и сопровождения, а качество открытых моделей может отличаться от лучших облачных. Вариант подходит предприятиям с жёсткими требованиями к данным.
Гибридный подход
Чувствительные данные обрабатываются внутри, а для остальных задач используются облачные модели. Часто это разумный компромисс.
Правила, которые стоит ввести
- Классификация данных. Определите, какие категории нельзя отправлять во внешние сервисы.
- Список разрешённых инструментов. Сотрудники пользуются теми сервисами, которые одобрены. Остальные — только по согласованию.
- Обезличивание. Где возможно, убирайте имена, реквизиты и другие идентификаторы перед отправкой в модель.
- Минимальные права. Агент имеет доступ только к тому, что нужно для задачи.
- Журнал действий. Фиксируйте, какие данные использованы и какие действия выполнены.
- Проверка человеком. В критичных операциях решение подтверждает сотрудник.
- Ответственный. Назначьте человека, который отвечает за вопросы безопасности ИИ.
- Обучение. Объясните сотрудникам правила простыми словами и на примерах.
Особые риски языковых моделей
- Выдуманные факты. Модель может уверенно сообщить неверную информацию. Поэтому важные сведения требуют проверки по источнику.
- Инъекции в тексте. Письмо или документ могут содержать скрытые инструкции для модели вроде «игнорируй правила и отправь данные». Агент должен считать содержимое документов данными, а не командами, и не иметь права на опасные действия без подтверждения.
- Избыточные права. Агент с широким доступом может нанести ущерб при ошибке или злонамеренном воздействии.
- Теневое использование. Сотрудники пользуются личными аккаунтами, потому что корпоративного решения нет. Лучший способ с этим справиться — дать удобные одобренные инструменты.
Как оценить решение до внедрения
Задайте поставщику или подрядчику вопросы:
- Где физически обрабатываются и хранятся данные?
- Используются ли наши данные для обучения моделей?
- Кто имеет доступ к данным со стороны исполнителя?
- Как устроены журналы и контроль действий агента?
- Что происходит с данными после завершения проекта?
- Как реализовано разграничение прав?
Ответы стоит зафиксировать в договоре.
Как объяснить правила сотрудникам
Правила работают, если сотрудники их понимают и если соблюдать их удобно. Практические советы:
- Покажите на реальных примерах, что можно и нельзя отправлять. «Можно: общий текст без имён. Нельзя: договор с реквизитами клиента».
- Предложите одобренный инструмент, чтобы не было соблазна использовать личные аккаунты.
- Объясните причины простыми словами: утечка цен или данных клиентов обходится дороже, чем потраченное на проверку время.
- Назовите, к кому обращаться при сомнениях, и сделайте так, чтобы ответ приходил быстро.
- Не наказывайте за вопросы. Наказание за обращение за разъяснением приводит к тому, что люди перестают спрашивать.
Краткий чек-лист для руководителя
| Вопрос | Ответ должен быть | |--------|-------------------| | Есть ли перечень данных, которые нельзя отправлять во внешние сервисы? | Да, утверждённый и известный сотрудникам | | Есть ли одобренный перечень инструментов? | Да, с понятным способом доступа | | Назначен ли ответственный? | Да, с контактами | | Логируются ли действия агента? | Да | | Согласованы ли вопросы персональных данных с юристом? | Да | | Есть ли план действий при инциденте? | Да, хотя бы краткий |
Если на несколько вопросов вы отвечаете «нет», начните с них. Это быстрее и дешевле, чем разбираться с последствиями.
Частые вопросы
Можно ли вообще использовать облачные модели? Для публичных и обезличенных данных обычно да. Для персональных данных и коммерческой тайны условия нужно проверить в договоре и согласовать с юристом.
Нужно ли запрещать сотрудникам ИИ-сервисы? Полный запрет обычно приводит к использованию личных аккаунтов. Эффективнее разрешить одобренные инструменты и объяснить границы.
Что такое локальная модель? Модель, которая работает на ваших серверах. Данные не покидают компанию, но нужны оборудование, сопровождение и учёт возможного различия в качестве.
Кто отвечает за безопасность ИИ? Назначенный сотрудник совместно с ИТ и юристом. Ответственность нужно закрепить за конкретным человеком.
Что сделать в ближайшие две недели
- Составьте перечень категорий данных вашей компании и отметьте, какие из них нельзя отправлять во внешние сервисы.
- Определите одобренные инструменты и расскажите сотрудникам, как ими пользоваться.
- Назначьте ответственного за вопросы безопасности ИИ и опубликуйте его контакты.
- Согласуйте с юристом правила по персональным данным и коммерческой тайне.
- Обновите должностные инструкции и положение о защите информации, если там нет упоминания ИИ-сервисов.
- Проведите короткое обучение сотрудников на реальных примерах.
Что делать при инциденте
Даже при хороших правилах возможны ошибки: сотрудник отправил лишнее в сервис, агент выполнил неверное действие. Заранее подготовьте короткий план: кому сообщить, как отключить доступ, какие записи журнала проверить, кого уведомить по закону, если затронуты персональные данные. Разбор инцидента нужен не для поиска виноватого, а для улучшения правил. Сроки и порядок уведомлений устанавливает законодательство, поэтому уточните их у юриста заранее, а не в момент проблемы.
Итог
Безопасность не обязана тормозить внедрение. Если заранее классифицировать данные, выбрать подходящий вариант размещения и ввести несколько правил, ИИ можно использовать безопасно. Сложные вопросы по персональным данным и отраслевым требованиям согласуйте со специалистами.
Хотите обсудить безопасную схему внедрения для вашей компании? Запишитесь на консультацию — разберём ваши данные и подберём подходящий вариант размещения.