Hugging Face сообщает о взломе своей сети автономным ИИ-агентом

Что произошло

Hugging Face, один из важнейших центров в мире искусственного интеллекта, объявил об инциденте безопасности, который может стать поворотным моментом в истории кибербезопасности. Согласно заявлению, опубликованному 20 июля 2026 года, производственная инфраструктура платформы была скомпрометирована в результате сложной кибератаки, организованной автономным агентом ИИ. Платформа, используемая более чем 50 000 организаций и насчитывающая более 45 000 моделей, заявила, что эта атака представляет собой реальное воплощение сценария «агентного злоумышленника», угрозы, которая давно обсуждалась в отрасли на теоретическом уровне.

Атака была нацелена на одну из самых чувствительных областей компании: ее производственную инфраструктуру. Конечной целью злоумышленников был доступ к ценной информации, хранящейся во внутренних системах компании. Этот инцидент наглядно демонстрирует, что искусственный интеллект может использоваться не только как защитный инструмент, но и как высокоэффективное наступательное оружие. Прозрачное раскрытие информации и деталей инцидента со стороны Hugging Face подчеркивает необходимость подготовки всей отрасли к подобным атакам. Компания немедленно приняла ряд мер для выдворения злоумышленника и начала работу по восстановлению безопасности своей инфраструктуры.

Какие данные были скомпрометированы

Согласно первоначальному заявлению Hugging Face, в результате проникновения злоумышленники получили доступ к внутренним наборам данных компании и критически важным учетным данным (credentials). Эти учетные данные потенциально могут включать ключи или пароли к облачной инфраструктуре и внутренним кластерным системам. Такой тип доступа позволяет злоумышленникам проникать глубже в сеть и распространяться на большее количество систем.

Компания сообщила, что проводит обширное расследование, чтобы определить, были ли затронуты данные клиентов или партнеров в результате этого нарушения, и что расследование продолжается. Было дано обязательство напрямую связаться со всеми потенциально затронутыми сторонами. Однако на данный момент есть и обнадеживающие новости: первоначальные проверки не выявили никаких доказательств взлома или изменения общедоступных моделей, наборов данных или платформы Spaces, где пользователи запускают свои проекты. Кроме того, было подтверждено, что цепочка поставок программного обеспечения компании чиста. Это означает, что, по крайней мере на данный момент, целостность инструментов, непосредственно используемых десятками тысяч разработчиков и исследователей, по-видимому, не нарушена.

Как развивалась атака

Технические подробности, которыми поделилась Hugging Face, показывают, насколько спланированной и сложной была атака. Это была не простая фишинговая или брутфорс-атака, а многоэтапная операция по проникновению, управляемая искусственным интеллектом.

Первоначальное проникновение: конвейер обработки данных

Первой точкой входа злоумышленников в систему стал конвейер обработки данных (data-processing pipeline) Hugging Face. Они инициировали атаку, загрузив в этот конвейер специально созданный вредоносный набор данных (malicious dataset). Этот метод позволил злоумышленникам занять позицию, с которой они могли напрямую вмешиваться во внутренние операции компании.

Эксплуатация уязвимостей и выполнение кода

Вредоносный набор данных был разработан для запуска двух различных уязвимостей выполнения кода в системе. Hugging Face описала эти уязвимости следующим образом:

• Уязвимость внедрения шаблона (template injection) в конфигурации набора данных.
• Загрузчик наборов данных с удаленным выполнением кода (remote code dataset loader).

Комбинация этих двух уязвимостей позволила злоумышленникам выполнить свой собственный код на рабочем узле (processing worker) в конвейере обработки данных. Это был самый критический шаг атаки, так как с этого момента злоумышленники закрепились внутри сети.

Действия автономного агента

После получения возможности выполнения кода был задействован автономный ИИ-агент, управлявший атакой. Согласно заявлению Hugging Face, этот агент, по-видимому, был построен на базе «исследовательской системы для агентной безопасности» (agentic security-research harness). Деятельность агента включала:

• Тысячи действий: Агент выполнил многие тысячи отдельных действий в рое (swarm) недолговечных, изолированных песочниц (sandboxes). Это демонстрирует как скорость атаки, так и ее сложность, что затрудняло обнаружение.
• Самомигрирующий командный центр: Командно-контрольная (C2) инфраструктура злоумышленника постоянно перемещалась между общедоступными сервисами, чтобы избежать обнаружения. Эта тактика делает практически невозможным для команд безопасности обнаружение и блокирование источника атаки.

Эта автономная система определяла цели, эксплуатировала уязвимости и перемещалась по сети, выполняя операцию самостоятельно без вмешательства человека.

Боковое перемещение и кража учетных данных

Закрепившись в сети, агент затем похитил учетные данные облака и кластеров. С помощью этих учетных данных он перемещался горизонтально по нескольким внутренним кластерам, расширяя свой доступ и в конечном итоге достигая своей цели: внутренних наборов данных.

Кто пострадал

Непосредственно пострадавшей стороной стала собственная внутренняя инфраструктура и системы Hugging Face. Компания работает с внешними экспертами по цифровой криминалистике для оценки ущерба и понимания полного масштаба атаки. Самая большая неопределенность в настоящее время заключается в том, содержат ли утекшие внутренние учетные данные и наборы данных какие-либо данные клиентов или партнеров. Компания заявила, что проинформирует затронутые стороны напрямую, как только получит четкую информацию по этому вопросу. Для обычных пользователей платформы, по-видимому, нет непосредственного прямого риска, так как сообщается, что общедоступные модели и наборы данных не были затронуты. Чтобы оставаться в курсе подобных инцидентов, важно следить за надежными источниками, такими как Новости об утечках.

Что вы можете сделать

Hugging Face посоветовала всем пользователям платформы превентивно принять некоторые меры безопасности. Эти рекомендации направлены на минимизацию потенциальных рисков:

• Смените свои токены доступа: Отзовите все токены доступа, связанные с вашей учетной записью, и сгенерируйте новые. Это наиболее эффективная мера против возможности того, что злоумышленники каким-либо образом получили доступ к токенам пользователей.
• Проверьте активность в своей учетной записи: Войдите в свою учетную запись и проверьте недавнюю активность. Если вы заметите какую-либо подозрительную или незнакомую активность (например, вход из неожиданного места, загрузка модели или набора данных без вашего ведома), немедленно смените пароль и токены.

Что говорит компания

Hugging Face заявила, что относится к инциденту с максимальной серьезностью и предпринимает комплексные шаги как для исправления текущей ситуации, так и для повышения устойчивости к будущим атакам. Реакция компании включает в себя ряд планов действий, которые были быстро реализованы после обнаружения инцидента.

Меры, принятые в ответ на атаку, включают:

• Уязвимые пути кода, использованные в атаке, были закрыты.
• Злоумышленник был полностью удален из сети.
• Все затронутые системы и узлы были перестроены.
• Все скомпрометированные учетные данные были отозваны и заменены.
• Были развернуты усовершенствованные системы для более эффективного обнаружения вредоносной активности.
• Об инциденте было сообщено в правоохранительные органы для проведения расследования.

Hugging Face также поделилась с отраслью важным уроком, извлеченным из этого инцидента. Они отметили, что в ходе собственного расследования их усилия по криминалистическому анализу были заблокированы защитными механизмами (guardrails) хостинговых моделей ИИ, которые они пытались использовать. Они подчеркнули, что модель злоумышленника (будь то взломанная хостинговая модель или неограниченная модель с открытым исходным кодом) не была связана никакими политиками использования. Основываясь на этом опыте, они дали следующий совет защитникам: «Имейте проверенную и мощную модель, которую вы можете запустить в своей собственной инфраструктуре, готовую до инцидента. Это позволит избежать блокировки защитными механизмами и предотвратит утечку данных и учетных данных злоумышленника из вашей среды».

Это не первый инцидент безопасности, с которым компания столкнулась за последние годы. Два года назад им пришлось отозвать некоторые секреты аутентификации после взлома их платформы Spaces. Популярность платформы также сделала ее мишенью для злоумышленников, распространяющих вредоносные модели ИИ и программы-инфостилеры в последние годы.

Источник

https://www.bleepingcomputer.com/news/security/hugging-face-breach-autonomous-ai-agent-system-internal-datasets-credentials/