Теневой ИИ в компаниях - почему запреты не работают и как защитить данные

Искусственный интеллект прочно вошел в рабочие процессы, но далеко не всегда — с разрешения работодателя. Почти каждый четвертый сотрудник в России (26%) уже регулярно использует нейросети для выполнения задач, а еще 35% делают это периодически. Однако в большинстве случаев применение ИИ (искусственного интллекта) происходит спонтанно и бесконтрольно, что создает новую глобальную угрозу для бизнеса — теневой искусственный интеллект (Shadow AI).

Что такое Теневой ИИ?

Термин «теневой искусственный интеллект» (Shadow AI) обозначает использование сотрудниками несанкционированных ИИ-инструментов (таких как ChatGPT, Midjourney и других публичных нейросетей) в обход корпоративных правил и без ведома ИТ-отдела или службы информационной безопасности.

Проблема носит массовый характер. Согласно мировым исследованиям, восемь из десяти сотрудников применяют неутвержденные ИИ-сервисы. Причем это не только рядовые специалисты — 68% руководителей в сфере безопасности, включая директоров. Руководители направления информационной безопасности (CISO — Chief Information Security Officer), признаются, что внедряют теневой ИИ в свои ежедневные рабочие процессы.

Особенно остро эта проблема стоит в малом и среднем бизнесе. Из-за ограниченного штата ИТ-специалистов и сотрудников по безопасности такие компании внедряют ИИ быстрее, чем успевают настроить его контроль.

В России ситуация усугубляется высокой лояльностью к нейросетям, 67% пользователей отмечают, что ИИ ускоряет выполнение задач, а 63% — экономит рабочее время. Однако платой за эту эффективность становится безопасность данных.

В чем главная опасность?

Эксперты рынка информационной безопасности называют теневой ИИ растущей угрозой. Это новый этап развития теневых ИТ (использование сотрудниками неутвержденных технологий и программ), который несет в себе серьезные риски.

Утечка конфиденциальных данных — сотрудники загружают в открытые чат-боты служебную документацию, чертежи, финансовые показатели и даже секретные данные, не задумываясь, что они уходят на внешние, часто зарубежные, сервера.

Области, не контролируемые безопасностью: традиционные системы предотвращения утечек данных (DLP (Data Loss Prevention)-системы) и прокси-серверы часто не фиксируют, как данные передаются через браузеры или личные устройства. Такие теневые инструменты могут оставаться незамеченными в инфраструктуре больше года, обрабатывая чувствительную информацию.

Финансовые потери: игнорирование проблемы имеет конкретную цену. В 2025 году утечки данных в компаниях с высоким уровнем теневого ИИ обходились в среднем на $670 тыс. дороже, чем обычные инциденты. Всего около 20% мировых утечек в 2025 году были связаны именно с теневым искусственным интеллектом.

Запреты не работают

Большинство компаний пытаются бороться с теневым ИИ запретами и блокировками. Однако, как показывает практика, это не дает результата. В банках, например, блокируют доступ к доменам OpenAI, но сотрудники открывают ChatGPT на личных смартфонах, перепечатывают или фотографируют данные с экранов.

Эксперты сходятся во мнении, что будущее за концепцией «принеси свой собственный искусственный интеллект» — BYOAI (Bring Your Own AI). Компании, которые вводят жесткие запреты, рискуют отстать от конкурентов, ведь сотрудники, лишенные привычных инструментов, теряют в эффективности.

Выход не в запретах, а в создании безопасной среды. Необходимо перевести теневые инновации в контролируемое русло — легализовать использование ИИ, но под строгим наблюдением служб безопасности.

Как взять теневой ИИ под контроль?

Чтобы защитить компанию от утечек и при этом сохранить производительность труда, эксперты рекомендуют внедрять комплексный подход. Компании необходимо создать изолированные среды, где сотрудники смогут использовать нейросети без риска раскрыть коммерческую тайну. Именно здесь на рынке появляются специализированные решения, способные выявлять и предотвращать угрозы от теневого ИИ.

Отечественные разработки уже предлагают инструменты для решения этой проблемы. Например, программный комплекс «Стахановец» способен эффективно бороться с угрозами теневого искусственного интеллекта, обнаруживая использование несанкционированных нейросетей и контролируя передачу данных.

Перечень инструментов и методов «Стахановца» для борьбы с теневым ИИ:

Отчеты «Сайты» и «Программы»: с помощью данных отчетов вы увидите список сотрудников, которые посещают эти ресурсы или запускают скаченные приложения, и время, проведенное там. Это первый маркер риска.
Отчет «Отклонения»: с помощью данного отчета можно установить пользователей, которые имеют отклонения от средних значений по всем сотрудникам при использовании ИИ-инструментов и взять данных пользователей на усиленный контроль.
Отчет «Анализатор рисков»: вы можете добавить домены популярных ИИ-сервисов в категорию «Вредные» или «Подозрительные» в словарях анализатора и сотрудники, часто использующие ИИ, автоматически попадут в топ «Группы риска» в сводном отчете.
Функция «Кейлоггер»: способна перехватывать все нажатия клавиш, включая текст, который сотрудник печатает в поле ввода к примеру в ChatGPT.
Отчет «Отправка файлов»: с помощью данного отчета вы сможете отследить какой конкретно файл был загружен в на сайте и/или в приложении нейросети.
Отчет «Буфер обмена»: так как обычно сотрудники редко набирают большие объемы данных вручную, они их копируют. Этот отчет покажет, если сотрудник скопировал таблицу из Excel с клиентской базой и вставил её в браузер на сайте с ИИ инструментов.
Отчет «Снимки экранов»: в настройках комплекса можно настроить более частое снятие скриншотов при посещении сайтов из категории «Нейросети». Это даст визуальное доказательство нарушения, а периодическое оптическое распознавание текста (OCR) в дополнении к сделанным снимкам экрана поможет быстрее идентифицировать инцидент.
Функция «Маркировка документов»: поможет проставить скрытые метки на конфиденциальных документах и запретить их отправку за пределы разрешенного периметра и/или политик безопасности.
Функция «Регулярные выражения»: поможет настроить правила срабатывания блокировки контента, к примеру если сотрудник попытается вставить текст или документ, содержащий маркеры регулярных выражений, в форму ввода на сайте или в приложении (в том числе в ChatGPT), «Стахановец» заблокирует действие, очистит буфер обмена и уведомит офицера безопасности, при отправке документа он будет проверен при помощи оптического распознавания текста (OCR) на нарушение политик ИБ и заблокирован.
В версии Стахановец 11 появилась функция, которая использует ИИ для контроля за ИИ (борьба «клин — клином»): ИИ классификатор документов позволяет автоматически категорировать документы. Если сотрудник работает с неустановленным документом, который ИИ Стахановец классифицировал как «конфиденциальный», то офицер ИБ сможет применить к нему более строгие политики DLP, вплоть до запрета отправки данного документа.