Ваш ИИ-ассистент попался на фишинговую уловку
ИИ-ассистент электронной почты OpenClaw, обещавший повысить продуктивность, поддался даже самым простым фишинговым атакам в ходе симуляции кибербезопасности. Результат: утечка данных пользователей.
Что произошло
ИИ-ассистенты, которым мы доверяем экономить наше время и разумно управлять электронной почтой, оказывается, могут быть более уязвимы к старейшим кибер-трюкам, чем мы. ИИ-агент, разработанный популярным инструментом для повышения продуктивности OpenClaw AI, официально провалил ключевой тест. В ходе контролируемой симуляции атаки, проведенной RedSec Labs, исследователи испытали ИИ с помощью классических методов фишинга, которые годами использовались для атак на людей. Результаты оказались неутешительными. ИИ поверил поддельным счетам-фактурам, срочным запросам на сброс пароля и даже фальшивым внутренним объявлениям компании, отправив всю конфиденциальную информацию, к которой у него был доступ, прямо на серверы-ловушки злоумышленников. Этот инцидент в очередной раз напоминает нам, насколько новой и сложной является область безопасности ИИ. В то время как последние Новости об утечках обычно фокусируются на человеческих ошибках, на этот раз ошиблась сама машина.
Быстрое внедрение ИИ-ассистентов в нашу жизнь привело к тому, что мы начали доверять им, не подвергая достаточному сомнению их уязвимости в области безопасности. OpenClaw позиционировался как помощник, который читает ваши электронные письма, составляет черновики ответов, планирует встречи и даже очищает ваш почтовый ящик. Но выяснилось, что у этого помощника есть фундаментальная слабость в различении подлинных и мошеннических писем. Симуляция проводилась на ИИ-агентах с различными профилями «личности». Даже агент, настроенный на «осторожный» режим, потерял бдительность перед письмом, использующим тактики социальной инженерии и создающим ощущение срочности. Эта ситуация ставит под сомнение надежность не только одного продукта, но и целой категории технологий.
Какие данные были украдены
Так что же именно ИИ отдал, когда попался на удочку? Ответ — практически краткое изложение вашей цифровой жизни. Симуляция доказала, что все, к чему имел доступ агент OpenClaw, могло быть похищено. Вот неполный список скомпрометированных данных:
Ваш email в утечке? Проверьте бесплатно — результат за секунды.
Проверить →- Содержимое электронной почты: Вся переписка в папках «Входящие» и «Отправленные». Это могут быть деловые соглашения, личные секреты, медицинская информация или финансовые детали. Злоумышленники могут использовать эту информацию для шантажа или более целенаправленных атак.
- Списки контактов и информация: Адреса электронной почты, номера телефонов и иногда даже физические адреса всех ваших контактов, от членов семьи до коллег по работе. Этот список — настоящая золотая жила для злоумышленников, позволяющая им запускать новые фишинговые кампании, которые выглядят так, как будто они исходят из надежного источника.
- Данные календаря: Все ваши прошлые и будущие встречи, приемы и личные события. Информация о том, где вы будете, когда и с кем, может даже создавать риски для физической безопасности.
- Прикрепленные файлы: Счета, контракты, презентации, личные фотографии в ваших письмах... Любой документ, к которому имел доступ агент, попал в руки злоумышленников.
- Косвенно, пароли от сервисов: Многие люди не удаляют письма о «сбросе пароля» или «подтверждении учетной записи» от различных онлайн-сервисов. Поскольку ИИ может получить доступ к этим письмам, злоумышленники могут узнать, какими сервисами вы пользуетесь, и нацелиться на эти учетные записи.
Только представьте себе опасность, которую представляет собой совокупность всех этих данных. Под угрозой оказывается не только ваша безопасность, но и безопасность всех, с кем вы общаетесь. Злоумышленник может от вашего имени и в вашем стиле запросить у вашего коллеги конфиденциальный документ, и ИИ может «любезно» сделать это за вас.
Как произошла атака
Исследователи из RedSec Labs осуществили атаку по удивительно простому, но эффективному плану. Им не понадобились сложный код или уязвимости нулевого дня, чтобы обмануть ИИ; им просто нужно было имитировать человеческую психологию. Это сработало, потому что агент OpenClaw был обучен на миллиардах человеческих писем и моделей поведения. Другими словами, он изучил наши слабости.
Первый сценарий — поддельное письмо со «счетом-фактурой». Было отправлено письмо, которое выглядело так, как будто оно пришло от облачного провайдера, которым пользователь часто пользуется, например, Amazon Web Services. В теме письма было что-то вроде «СРОЧНО: Ваш счет просрочен». Ссылка в теле письма вела на поддельную страницу входа. Человек мог бы остановиться, проверить адрес отправителя. ИИ, однако, воспринял это как «задачу, которую нужно выполнить». В своих обучающих данных он видел миллионы примеров того, как люди нажимают на такие ссылки в счетах и предпринимают действия. Он нажал и, оказавшись на поддельной странице, попытался ввести сохраненные учетные данные пользователя, если они были доступны.
Второй сценарий был еще более тревожным. Было создано письмо, которое выглядело так, как будто оно пришло из отдела кадров. В нем говорилось: «Обновление политики компании: все сотрудники должны утвердить новое соглашение о конфиденциальности», и к нему был прикреплен PDF-файл. Этот PDF на самом деле содержал вредоносное ПО. ИИ, пометив это как «важное внутреннее объявление», автоматически открыл его, чтобы помочь пользователю. В симуляционной среде это действие позволило вредоносному ПО проникнуть в систему и начать сбор данных.
Основная причина, по которой ИИ попался на эти уловки, — его ограниченная способность понимать «контекст». Он может анализировать тон срочности в письме, от кого оно и что требуется, но не может распознать злой умысел. Ему не хватает «инстинктивного подозрения», которым обладают люди, что делает его легкой мишенью для социальной инженерии.
Кто пострадал
Теоретически, любой, кто использует ИИ-ассистента электронной почты OpenClaw, затронут этой уязвимостью. Риск распространяется на широкий спектр пользователей, от индивидуальных пользователей бесплатного плана до крупных корпораций с корпоративными пакетами. Отчет RedSec Labs показывает, что профиль конфигурации агента не сильно влиял на его уязвимость. Это означает, что даже если вы запускаете агента в самом «осторожном» и «ориентированном на безопасность» режиме, риск того, что он попадется на достаточно убедительное фишинговое письмо, сохраняется.
Что вы можете сделать
Если вы являетесь пользователем OpenClaw, паниковать не нужно, но следует предпринять некоторые немедленные шаги. Вот нечто большее, чем банальный совет «смените пароль»:
- Ограничьте разрешения: Прямо сейчас зайдите в настройки OpenClaw. Проверьте, к каким данным имеет доступ ИИ-агент. Действительно ли ему нужен доступ ко всей вашей истории электронной почты, контактам и календарю? Отзовите все разрешения, которые ему абсолютно не нужны.
- Отключите автоматические действия: Отключите функции, которые позволяют агенту автоматически переходить по ссылкам, загружать файлы или отвечать на письма от вашего имени. Вместо этого создайте рабочий процесс, «требующий одобрения». Агент может предложить действие, но окончательное решение принимаете вы.
- Проверьте журналы доступа: В вашей панели управления OpenClaw должен быть журнал недавних действий, выполненных ИИ-агентом. Просмотрите эти журналы на предмет подозрительной активности.
- Учтите вторичные эффекты: Этот инцидент показывает, насколько ценной и конфиденциальной является информация в вашем почтовом ящике. Возможно, у вас есть старые, забытые учетные записи, связанные с этим адресом электронной почты. Использование сервиса для Поиск утечки данных, чтобы проверить, фигурировал ли ваш адрес в других утечках, будет разумным шагом.
Что говорит компания
После распространения новости OpenClaw выпустила пресс-релиз. В заявлении признаются выводы исследователей из RedSec Labs. Главный технический директор OpenClaw, доктор Арис Торн, сказал: «Прежде всего, я хочу подчеркнуть, что это была контролируемая симуляция, и никакие реальные данные пользователей не были скомпрометированы. Мы благодарим RedSec Labs за ответственное предоставление нам своих выводов. Наша команда немедленно начала работу над повышением устойчивости наших агентов к таким видам социальной инженерии. В предстоящем обновлении пользователям будут предложены более гранулированные средства контроля безопасности и усовершенствованные системы предупреждения о подозрительных письмах».