Забудьте об утечках данных угроза теневого ИИ это доступ

Что произошло

Утечки данных, которые долгое время доминировали в повестке дня кибербезопасности, обычно ассоциируются со сценариями, когда сотрудники вставляют конфиденциальную информацию в чат-боты с искусственным интеллектом. Однако новый анализ от 19 июня 2026 года указывает на скрытую и гораздо более опасную часть айсберга: Теневой ИИ (Shadow AI). Этот термин описывает инструменты и платформы искусственного интеллекта, используемые сотрудниками без ведома или одобрения ИТ-отдела или службы безопасности компании. Проблема уходит гораздо глубже простого действия копирования и вставки. Настоящий риск заключается в постоянных и обширных правах доступа, предоставляемых этим неконтролируемым приложениям ИИ.

Когда сотрудник решает использовать нового помощника по кодированию на базе ИИ или инструмент для подведения итогов совещаний, чтобы повысить свою производительность, ему обычно требуется предоставить определенные разрешения для работы этого инструмента. Именно здесь и начинают бить тревогу. Сотрудник, действуя из лучших побуждений, нажимает на кнопки типа «Войти через Google» или «Разрешить доступ к аккаунту GitHub», фактически передавая ключ к корпоративным ресурсам стороннему приложению. Это означает предоставление доступа к данным компании потенциально вредоносной и неконтролируемой сущности, находящейся полностью вне поля зрения команд безопасности. В то время как утечка данных может быть единичным событием, такого рода разрешение на доступ несет в себе потенциал для постоянного и бесшумного проникновения.

Какие данные были скомпрометированы

В случае угрозы Теневого ИИ практически невозможно опубликовать классический «список скомпрометированных данных». Это потому, что речь идет не об одном инциденте и конкретном наборе украденных данных. Опасность охватывает все данные, к которым потенциально можно получить доступ на основе разрешений, предоставленных этим неодобренным инструментам ИИ. Это все равно что отдать цифровые ключи от вашей компании незнакомцу. Типы данных, к которым можно получить доступ, варьируются в зависимости от роли сотрудника и предоставленных им разрешений:

• Исходный код и интеллектуальная собственность: Если разработчик программного обеспечения предоставит неодобренному инструменту ИИ для автодополнения кода или отладки доступ к своему репозиторию GitHub или GitLab, это может означать, что самые ценные активы компании, ее исходные коды, будут переданы на серверы компании-разработчика этого инструмента.
• Стратегические планы и финансовые отчеты: Если менеджер предоставит приложению ИИ, используемому для обобщения отчетов или подготовки презентаций, доступ к внутренним хранилищам документов, таким как Google Drive, OneDrive или SharePoint, это может привести к раскрытию будущих стратегий компании, финансовых данных и конфиденциальных проектов.
• Информация о клиентах и данные о продажах: Если сотрудник отдела продаж или маркетинга предоставит инструменту ИИ, который составляет черновики электронных писем или анализирует данные CRM, доступ к системам, таким как Salesforce или HubSpot, это может поставить под угрозу целые списки клиентов, контактную информацию и процессы продаж.
• Внутренние коммуникации и конфиденциальные беседы: Если сотрудники предоставят инструменту ИИ, который ведет протоколы совещаний или обобщает чаты, доступ к коммуникационным платформам, таким как Slack или Microsoft Teams, возникает риск доступа третьих лиц к частным внутренним разговорам, стратегическим обсуждениям и даже личной информации о сотрудниках.

Как произошла атака

В этом сценарии было бы неверно говорить о традиционном векторе «атаки». Здесь нет взлома системы хакером, использования уязвимости или проведения фишинговой атаки. «Атака» осуществляется руками самого сотрудника компании, часто неосознанно и с абсолютно добрыми намерениями. Процесс выглядит следующим образом:

Сотрудник находит инструмент ИИ, который обещает сделать его задачи быстрее и эффективнее. Этот инструмент не входит в список одобренного программного обеспечения компании. Чтобы начать использовать инструмент, сотрудник регистрируется, и приложение запрашивает разрешения на доступ к различным корпоративным учетным записям (например, Microsoft 365, Google Workspace, Slack, GitHub) для выполнения своих функций. Эти запросы на разрешение обычно делаются через стандартные протоколы, такие как OAuth, с вполне законно выглядящими экранами. В тот момент, когда сотрудник нажимает кнопку «Разрешить», сервис ИИ получает постоянный доступ к данным в рамках полномочий сотрудника.

Самый опасный аспект этого метода заключается в том, что его очень трудно обнаружить системам безопасности. Технически, происходящая транзакция является законным потоком аутентификации и авторизации. Межсетевые экраны или системы обнаружения вторжений не помечают эту активность как подозрительную, потому что доступ предоставляется через собственную личность сотрудника и с его согласия. Команда безопасности может узнать о таком доступе только в том случае, если у них есть очень продвинутые системы, которые проактивно аудируют предоставленные права OAuth и использование ключей API. Для большинства компаний это означает неконтролируемую угрозу в слепой зоне.

Кто пострадал

Потенциальные жертвы угрозы Теневого ИИ охватывают очень широкий спектр. Непосредственно пострадавшими являются компании, в которых используются такие неодобренные инструменты. Каждая организация, предоставляющая корпоративные учетные записи своим сотрудникам, независимо от отрасли или размера, сталкивается с этим риском. Однако косвенные последствия могут затронуть гораздо более широкую аудиторию.

В первую очередь, компании сталкиваются с риском кражи их интеллектуальной собственности, коммерческих тайн и стратегической информации. Это может привести к потере их конкурентного преимущества и поставить под угрозу их долю на рынке. Во-вторых, клиенты и деловые партнеры этих компаний также подвергаются большому риску. Инструмент ИИ, получивший доступ к базам данных клиентов, может привести к утечке личной информации, финансовых данных и других конфиденциальных сведений. Это является как серьезным нарушением конфиденциальности для отдельных лиц, так и источником огромных юридических и финансовых обязательств для компании (например, штрафы GDPR). Наконец, сами сотрудники могут пострадать от этой ситуации. Они могут столкнуться с потерей работы или юридическими проблемами за то, что неосознанно подвергли компанию большому риску.

Что вы можете сделать

Существуют меры, которые могут принять как отдельные сотрудники, так и компании для противодействия этому новому типу угроз. Вместо паники необходимо предпринимать осознанные шаги.

Рекомендации для сотрудников:

• Задавайте вопросы о разрешениях: Прежде чем предоставить приложению доступ к вашему корпоративному аккаунту, внимательно прочитайте, к каким данным и на какой срок оно получит доступ. Действительно ли ему нужны все эти разрешения?
• Используйте одобренные инструменты: Предпочитайте инструменты ИИ, которые были одобрены и предоставлены ИТ-отделом или службой безопасности вашей компании. Если вы нашли инструмент, который может облегчить вашу работу, проконсультируйтесь с соответствующим отделом перед его использованием.
• Разделяйте личные и рабочие учетные записи: Никогда не используйте свои личные учетные записи или инструменты, связанные с вашими личными учетными записями, для выполнения рабочих задач.
• Регулярно проверяйте разрешения: Периодически проверяйте, какие приложения имеют доступ к вашей учетной записи через настройки безопасности таких платформ, как Google и Microsoft, и отзывайте доступ у тех, которыми вы больше не пользуетесь или которые вызывают подозрения.

Рекомендации для компаний и команд безопасности:

• Разработайте четкие политики: Создайте ясную и понятную политику компании в отношении использования инструментов ИИ. В ней должно быть четко определено, какие инструменты запрещены, какие одобрены, и как происходит процесс утверждения нового инструмента.
• Обучение и повышение осведомленности: Обучайте сотрудников рискам Теневого ИИ. Подчеркивайте, что опасность заключается не только в копировании данных, а в разрешениях на доступ.
• Обеспечьте видимость: Используйте решения для безопасности (например, SaaS Security Posture Management - SSPM), которые отслеживают и аудируют предоставленные права OAuth и использование ключей API для корпоративных учетных записей. Отслеживайте, какой сотрудник предоставил какой тип доступа какому стороннему приложению.
• Предлагайте одобренные альтернативы: Вместо того чтобы препятствовать стремлению сотрудников к производительности, предлагайте им безопасные и проверенные компанией инструменты ИИ. Это предотвратит их обращение к неодобренным и рискованным альтернативам.
• Поиск утечки данных: Проверка того, появлялись ли адреса электронной почты вашего домена или ваши базы данных в предыдущих утечках, может помочь вам понять общее состояние вашей безопасности. Для такой проверки вы можете использовать инструменты, такие как Поиск утечки данных.

Что говорит компания

На данный момент официальных заявлений от какой-либо конкретной компании по этому поводу не поступало, поскольку угроза представляет собой общую уязвимость безопасности и тенденцию, а не атаку, нацеленную на одну компанию. Исследовательские фирмы в области кибербезопасности и аналитики сходятся во мнении, что Теневой ИИ станет одним из самых значительных киберрисков в предстоящий период. Эксперты заявляют, что традиционные стратегии предотвращения потери данных (DLP) компаний неэффективны против этой новой угрозы. Они подчеркивают, что вместо простого мониторинга определенных ключевых слов или шаблонов данных, теперь необходимо сосредоточиться на управлении идентификацией и доступом, особенно на авторизациях между машинами (machine-to-machine). Они подчеркивают, что парадигма безопасности должна эволюционировать от вопроса «что внутри?» к вопросу «кто получает доступ к нашим данным?».

Источник

https://thehackernews.com/2026/06/forget-data-leakage-shadow-ais-real.html