Frog StudiosFrog Studios
Quote
ИИ в бизнесе

Безопасность данных при внедрении ИИ: правила для руководителя

27 марта 20268 мин
ИИ в бизнесе
Безопасность

Почему вопрос безопасности возникает первым

Для работы ИИ нужны данные: документы, письма, карточки клиентов. Если сотрудники самостоятельно отправляют их в публичные сервисы, возникает риск утечки коммерческой информации и нарушения требований к персональным данным. Руководителю не нужно разбираться в технических деталях, но нужно ввести понятные правила.

Эта статья не заменяет консультацию юриста и специалиста по информационной безопасности: законодательство и требования регуляторов меняются, а ваши обязанности зависят от отрасли.

Какие данные требуют особого внимания

| Тип данных | Пример | Подход | |------------|--------|--------| | Персональные данные | ФИО, телефоны, паспортные данные клиентов и сотрудников | Обработка по закону о персональных данных, согласование с юристом | | Коммерческая тайна | Цены, условия договоров, себестоимость | Только в защищённых контурах | | Финансовые данные | Выписки, остатки, зарплаты | Ограниченный доступ, чаще локально | | Технологическая информация | Чертежи, режимы, рецептуры | Часто только внутренний контур | | Публичные материалы | Тексты сайта, открытые прайсы | Можно использовать свободнее |

Варианты размещения решения

Публичные облачные сервисы

Быстро и недорого начать. Данные передаются внешнему поставщику, условия обработки определяются его правилами. Подходит для задач с публичной или обезличенной информацией.

Корпоративные облачные решения

Поставщики предлагают тарифы с договорными гарантиями: данные не используются для обучения моделей, определены сроки хранения. Условия различаются, поэтому читайте договор и уточняйте у юриста, подходят ли они вашей отрасли.

Локальное развёртывание

Модель работает на вашей инфраструктуре, данные не покидают контур компании. Это требует оборудования и сопровождения, а качество открытых моделей может отличаться от лучших облачных. Вариант подходит предприятиям с жёсткими требованиями к данным.

Гибридный подход

Чувствительные данные обрабатываются внутри, а для остальных задач используются облачные модели. Часто это разумный компромисс.

Правила, которые стоит ввести

  1. Классификация данных. Определите, какие категории нельзя отправлять во внешние сервисы.
  2. Список разрешённых инструментов. Сотрудники пользуются теми сервисами, которые одобрены. Остальные — только по согласованию.
  3. Обезличивание. Где возможно, убирайте имена, реквизиты и другие идентификаторы перед отправкой в модель.
  4. Минимальные права. Агент имеет доступ только к тому, что нужно для задачи.
  5. Журнал действий. Фиксируйте, какие данные использованы и какие действия выполнены.
  6. Проверка человеком. В критичных операциях решение подтверждает сотрудник.
  7. Ответственный. Назначьте человека, который отвечает за вопросы безопасности ИИ.
  8. Обучение. Объясните сотрудникам правила простыми словами и на примерах.

Особые риски языковых моделей

  • Выдуманные факты. Модель может уверенно сообщить неверную информацию. Поэтому важные сведения требуют проверки по источнику.
  • Инъекции в тексте. Письмо или документ могут содержать скрытые инструкции для модели вроде «игнорируй правила и отправь данные». Агент должен считать содержимое документов данными, а не командами, и не иметь права на опасные действия без подтверждения.
  • Избыточные права. Агент с широким доступом может нанести ущерб при ошибке или злонамеренном воздействии.
  • Теневое использование. Сотрудники пользуются личными аккаунтами, потому что корпоративного решения нет. Лучший способ с этим справиться — дать удобные одобренные инструменты.

Как оценить решение до внедрения

Задайте поставщику или подрядчику вопросы:

  1. Где физически обрабатываются и хранятся данные?
  2. Используются ли наши данные для обучения моделей?
  3. Кто имеет доступ к данным со стороны исполнителя?
  4. Как устроены журналы и контроль действий агента?
  5. Что происходит с данными после завершения проекта?
  6. Как реализовано разграничение прав?

Ответы стоит зафиксировать в договоре.

Как объяснить правила сотрудникам

Правила работают, если сотрудники их понимают и если соблюдать их удобно. Практические советы:

  1. Покажите на реальных примерах, что можно и нельзя отправлять. «Можно: общий текст без имён. Нельзя: договор с реквизитами клиента».
  2. Предложите одобренный инструмент, чтобы не было соблазна использовать личные аккаунты.
  3. Объясните причины простыми словами: утечка цен или данных клиентов обходится дороже, чем потраченное на проверку время.
  4. Назовите, к кому обращаться при сомнениях, и сделайте так, чтобы ответ приходил быстро.
  5. Не наказывайте за вопросы. Наказание за обращение за разъяснением приводит к тому, что люди перестают спрашивать.

Краткий чек-лист для руководителя

| Вопрос | Ответ должен быть | |--------|-------------------| | Есть ли перечень данных, которые нельзя отправлять во внешние сервисы? | Да, утверждённый и известный сотрудникам | | Есть ли одобренный перечень инструментов? | Да, с понятным способом доступа | | Назначен ли ответственный? | Да, с контактами | | Логируются ли действия агента? | Да | | Согласованы ли вопросы персональных данных с юристом? | Да | | Есть ли план действий при инциденте? | Да, хотя бы краткий |

Если на несколько вопросов вы отвечаете «нет», начните с них. Это быстрее и дешевле, чем разбираться с последствиями.

Частые вопросы

Можно ли вообще использовать облачные модели? Для публичных и обезличенных данных обычно да. Для персональных данных и коммерческой тайны условия нужно проверить в договоре и согласовать с юристом.

Нужно ли запрещать сотрудникам ИИ-сервисы? Полный запрет обычно приводит к использованию личных аккаунтов. Эффективнее разрешить одобренные инструменты и объяснить границы.

Что такое локальная модель? Модель, которая работает на ваших серверах. Данные не покидают компанию, но нужны оборудование, сопровождение и учёт возможного различия в качестве.

Кто отвечает за безопасность ИИ? Назначенный сотрудник совместно с ИТ и юристом. Ответственность нужно закрепить за конкретным человеком.

Что сделать в ближайшие две недели

  1. Составьте перечень категорий данных вашей компании и отметьте, какие из них нельзя отправлять во внешние сервисы.
  2. Определите одобренные инструменты и расскажите сотрудникам, как ими пользоваться.
  3. Назначьте ответственного за вопросы безопасности ИИ и опубликуйте его контакты.
  4. Согласуйте с юристом правила по персональным данным и коммерческой тайне.
  5. Обновите должностные инструкции и положение о защите информации, если там нет упоминания ИИ-сервисов.
  6. Проведите короткое обучение сотрудников на реальных примерах.

Что делать при инциденте

Даже при хороших правилах возможны ошибки: сотрудник отправил лишнее в сервис, агент выполнил неверное действие. Заранее подготовьте короткий план: кому сообщить, как отключить доступ, какие записи журнала проверить, кого уведомить по закону, если затронуты персональные данные. Разбор инцидента нужен не для поиска виноватого, а для улучшения правил. Сроки и порядок уведомлений устанавливает законодательство, поэтому уточните их у юриста заранее, а не в момент проблемы.

Итог

Безопасность не обязана тормозить внедрение. Если заранее классифицировать данные, выбрать подходящий вариант размещения и ввести несколько правил, ИИ можно использовать безопасно. Сложные вопросы по персональным данным и отраслевым требованиям согласуйте со специалистами.


Хотите обсудить безопасную схему внедрения для вашей компании? Запишитесь на консультацию — разберём ваши данные и подберём подходящий вариант размещения.

Tags
БезопасностьПерсональные данныеВнедрение ИИПолитика

Read Also

Related Articles

All Articles

Start a project

Ready to discuss the project?

Leave a request — we'll respond within an hour. At the first meeting we'll break down the task and show relevant cases.

✓ Response within 1 hour on business days✓ NDA on request✓ First meeting — no upfront payment: task framing, cases, budget and timeline ballpark

Leave a Request

First meeting — 30–45 minutes, no upfront payment. Next: a proposal with price and timeline, fixed in the contract.