Microsoft и Salesforce Исправили Уязвимости Утечки Данных в ИИ Агентах

Microsoft и Salesforce Устранили Уязвимости Утечки Данных в ИИ Агентах

Недавно обнаруженные и оперативно исправленные критические уязвимости затронули платформы на базе искусственного интеллекта — Microsoft Copilot и Salesforce Agentforce. Эти уязвимости потенциально могли позволить внешнему злоумышленнику скомпрометировать конфиденциальные данные, используя технику, известную как "инъекция подсказок" (prompt injection).

Подробности Уязвимостей

• Затронутые платформы: Microsoft Copilot и Salesforce Agentforce.
• Метод атаки: Инъекция подсказок. Этот тип атаки манипулирует моделью ИИ, заставляя ее неправильно интерпретировать ввод пользователя и выполнять нежелательные действия или раскрывать несанкционированные данные.
• Потенциальное воздействие: Риск несанкционированного доступа и утечки конфиденциальных данных. Хотя в отчете не указано количество затронутых записей или конкретные типы данных, такая утечка могла бы иметь серьезные последствия.

После выявления уязвимостей как Microsoft, так и Salesforce быстро приняли меры, выпустив необходимые обновления безопасности (патчи). Эти патчи устранили уязвимости инъекции подсказок, эффективно снизив риск потенциальных утечек данных. Крайне важно, чтобы пользователи и компании всегда следили за актуальностью и безопасностью используемых ими сервисов на базе ИИ, применяя все последние исправления.

Этот инцидент еще раз подчеркивает необходимость постоянной бдительности в отношении новых уязвимостей в системах искусственного интеллекта. По мере развития моделей ИИ эволюционируют и векторы атак на эти системы, что требует от команд безопасности принятия проактивных мер.

Источник

https://www.darkreading.com/cloud-security/microsoft-salesforce-patch-ai-agent-data-leak-flaws