Информационная безопасность, стандарты, регулирование, приватность и управление рисками.
Автор: Рой Киш — Infoguard, часть группы Idor
Сегодня мы встречаем всё больше организаций, которые уже используют искусственный интеллект, даже если ещё не сформулировали структурированную политику на этот счёт.
Сотрудники применяют инструменты Generative AI, чтобы готовить документы, резюмировать встречи, анализировать данные и писать код. Отделы маркетинга подключают ИИ к информации о клиентах, службы поддержки запускают чат-ботов, а бизнес-подразделения начинают использовать AI Agents с доступом к корпоративным системам и данным.
Для нас в Infoguard вопрос уже не в том, войдёт ли ИИ в организацию. В большинстве случаев он уже внутри.
Важный вопрос другой: кто им управляет, кто его контролирует и кто несёт ответственность, если что-то пойдёт не так?
Регулирование — уже не вопрос будущего
В мире искусственного интеллекта регулирование развивается быстро.
Европейский AI Act наглядно показывает переход от общих принципов к рамке, которая задаёт более чёткие требования к использованию систем ИИ. Чем сильнее система влияет на людей, права или значимые решения, тем больше контроля, документирования, прозрачности и надзора требуется от организации.
Но мы в Infoguard, как компания по информационной безопасности, советуем организациям не смотреть только на регулирование ИИ.
На практике использование ИИ уже подпадает под существующие обязательства в области приватности, информационной безопасности, управления рисками, договоров с поставщиками и ответственности руководства.
Даже организация, которая не работает напрямую под европейским регулированием, должна спросить себя, что происходит, когда ИИ-инструмент обрабатывает персональные данные, получает доступ к чувствительной информации или влияет на бизнес-решения.
С нашей точки зрения, это уже не только технологический вопрос. Это вопрос управления.
Приватность должна появляться уже на этапе постановки задачи
Один из моментов, который мы подчёркиваем снова и снова: не стоит откладывать разговор о приватности до конца проекта.
Если системе ИИ даётся доступ к CRM, переписке, документам сотрудников, данным клиентов или чувствительной бизнес-информации, нужно остановиться и задать несколько базовых вопросов:
- Действительно ли нам нужны все эти данные?
- Имеем ли мы право использовать их для этой цели?
- Передаются ли они внешнему поставщику?
- Где они хранятся?
- Используются ли они для обучения модели?
- Кто имеет к ним доступ?
- Что происходит с данными, когда мы перестаём пользоваться системой?
Именно здесь принципы вроде Privacy by Design, Data Minimization и управления жизненным циклом информации превращаются из теории в рабочий процесс.
Мы в Infoguard предпочитаем, чтобы вопросы приватности возникали уже на этапе оценки use case, а не только после запуска системы в эксплуатацию.
Стандарты делают управление ИИ по-настоящему управляемым
Регулирование может сказать нам, что требуется. Но организации всё равно нужен метод, который поможет управлять этим на практике.
Здесь вступает ISO/IEC 42001 — международный стандарт системы менеджмента искусственного интеллекта.
Мы считаем его важной рамкой, потому что он обязывает организацию смотреть на ИИ как на полноценную систему управления: политика, ответственные лица, риски, меры контроля, цели, мониторинг и непрерывное улучшение.
Рядом с ним ISO/IEC 27001 даёт основу управления информационной безопасностью, а ISO/IEC 27701 добавляет слой управления приватностью.
На практике эти три мира связаны:
- ISO 27001 — как мы управляем информационной безопасностью.
- ISO 27701 — как мы управляем приватностью и персональными данными.
- ISO 42001 — как мы управляем системами ИИ и связанными с ними рисками.
Для нас это естественная связь. Организации, которая уже выстроила хорошие процессы управления информационной безопасностью и приватностью, не нужно начинать с нуля — но нужно распространить их на мир искусственного интеллекта, агентов и ИИ.
Политика по ИИ — это намного больше, чем список инструментов
Мы видим немало организаций, которые начинают правильно, но останавливаются слишком рано.
Они публикуют список разрешённых и запрещённых инструментов и считают, что у них есть политика по ИИ.
Это начало, но настоящее управление должно идти дальше.
Мы рекомендуем определить также: какую информацию можно вводить в ИИ-инструменты, какие сценарии требуют согласования, как оценивается новый поставщик, кому разрешено подключать ИИ к корпоративной системе, когда подключаются CISO, DPO или юристы и какие решения требуют Human Oversight.
Кроме того, стоит составить структурированный AI Inventory.
То есть знать, какие системы и сценарии использования ИИ существуют, кто их владелец, к каким данным они обращаются и какой у них уровень риска.
Нельзя управлять тем, о существовании чего не знаешь.
Так чья же это ответственность?
Это один из вопросов, который мы слышим чаще всего.
Ответ в том, что нельзя возложить всю ответственность на одно подразделение.
- ИТ управляет системами.
- CISO управляет рисками информационной безопасности.
- DPO рассматривает аспекты приватности.
- Юридическая служба занимается регулированием и договорами.
- Бизнес-подразделение обычно инициирует внедрение и отвечает за влияние на бизнес (BIA).
Поэтому мы рекомендуем разделённую, но чётко определённую ответственность.
У каждой значимой системы или use case должен быть Owner. Параллельно организация должна решить, кто несёт общую ответственность за политику по ИИ и управление рисками.
Нам нравится проверять это четырьмя простыми вопросами:
- Кто одобрил использование?
- Кто контролирует и документирует его?
- Кто управляет риском?
- Кто отвечает, если что-то пойдёт не так?
Если чёткого ответа на все четыре вопроса нет, управление, скорее всего, ещё недостаточно зрелое.
А что с сотрудниками?
Даже лучшая политика не поможет, если сотрудники не знают о её существовании.
Сегодня мы видим растущий риск Shadow AI — сотрудники пользуются ИИ-инструментами, о которых организация вообще не знает.
Поэтому AI Literacy и обучение сотрудников должны быть частью процесса.
Сотрудникам нужно знать, какую информацию вводить нельзя, когда результат требует человеческой проверки и когда новый инструмент должен пройти согласование.
Кроме того, поставщик, который управляет ИИ-сервисами извне и в соответствии с требованиями, позволяет картировать или снизить это явление и его риски и вернуть рабочие практики в контролируемые и управляемые рамки.
Как мы в Infoguard смотрим на это
Мы в Infoguard сопровождаем организации на стыке информационной безопасности, приватности, регулирования, стандартов и управления рисками.
С нашей точки зрения, переход к ИИ не переписывает правила игры. Он требует от организации взять принципы, которые она уже знает, и распространить их на новый, более быстрый и динамичный мир.
В рамках услуг информационной безопасности для бизнеса мы помогаем организациям связать политику по ИИ, оценку рисков, приватность, стандарты, организационную ответственность и обучение сотрудников — чтобы внедрение ИИ шло как управляемый процесс, а не как разрозненная инициатива.
С чего начать?
Мы рекомендуем начать просто:
- Картировать существующие системы и сценарии использования искусственного интеллекта.
- Классифицировать их по данным, правам доступа и уровню риска.
- Определить политику по ИИ и правила приватности.
- Назначить Owner и процесс согласования для значимых сценариев.
- Проверить расхождения с применимым регулированием и стандартами.
Вопрос уже не в том, будет ли организация использовать ИИ.
Вопрос в том, не движется ли искусственный интеллект быстрее, чем система управления вокруг него.
С нашей точки зрения, AI Governance — не препятствие для инноваций. Это то, что позволяет организации внедрять новое, не отказываясь от контроля, приватности и ответственности.
Эта статья написана совместно с экспертами по информационной безопасности компании Infoguard.