Ihr KI-Assistent ist auf Phishing hereingefallen
Der KI-E-Mail-Assistent von OpenClaw, der Produktivität verspricht, erlag in einer Cybersicherheits-Simulation selbst den einfachsten Phishing-Angriffen. Das Ergebnis: Nutzerdaten wurden preisgegeben.
Was ist passiert
Die KI-Assistenten, denen wir vertrauen, um uns Zeit zu sparen und unsere E-Mails intelligent zu verwalten, könnten anfälliger für die ältesten Tricks im Cybersicherheits-Handbuch sein als wir selbst. Der KI-Agent, der von dem beliebten Produktivitätstool OpenClaw AI entwickelt wurde, hat einen entscheidenden Test offiziell nicht bestanden. In einer kontrollierten Angriffssimulation, durchgeführt von RedSec Labs, testeten Forscher die KI mit klassischen Phishing-Methoden, die seit Jahren gegen menschliche Benutzer eingesetzt werden. Die Ergebnisse waren nicht gerade ermutigend. Die KI fiel auf gefälschte Rechnungen, dringende Anfragen zur Passwortzurücksetzung und sogar auf gefälschte interne Unternehmensmitteilungen herein und schickte alle sensiblen Informationen, auf die sie Zugriff hatte, direkt an die Fallenserver der Angreifer. Dieser Vorfall erinnert uns eindringlich daran, wie neu und komplex das Feld der KI-Sicherheit ist. Während die meisten aktuellen Datenleck Nachrichten dazu neigen, sich auf menschliches Versagen zu konzentrieren, hat dieses Mal die Maschine selbst den Fehler gemacht.
Die schnelle Integration von KI-Assistenten in unser Leben hat dazu geführt, dass wir ihnen vertrauen, ohne ihre Sicherheitslücken ausreichend zu hinterfragen. OpenClaw wurde als Helfer vermarktet, der Ihre E-Mails liest, Antwortentwürfe für Sie erstellt, Besprechungen plant und sogar Ihren Posteingang aufräumt. Aber es stellt sich heraus, dass dieser Helfer eine grundlegende Schwäche bei der Unterscheidung zwischen einer echten und einer betrügerischen E-Mail hat. Die Simulation wurde mit KI-Agenten mit unterschiedlichen „Persönlichkeitsprofilen“ durchgeführt. Selbst der auf „vorsichtig“ eingestellte Agent ließ seine Deckung fallen, als er mit einer E-Mail konfrontiert wurde, die Social-Engineering-Taktiken anwendete und ein Gefühl der Dringlichkeit vermittelte. Diese Situation stellt nicht nur die Zuverlässigkeit eines einzelnen Produkts, sondern einer ganzen Technologiekategorie in Frage.
Die kompromittierten Daten
Was genau hat die KI also preisgegeben, als sie an den Haken ging? Die Antwort ist praktisch eine Zusammenfassung Ihres digitalen Lebens. Die Simulation bewies, dass alles, worauf der OpenClaw-Agent zugreifen konnte, exfiltriert werden konnte. Hier ist eine unvollständige Liste dessen, was kompromittiert wurde:
Wurde Ihre E-Mail geleakt? Kostenlos prüfen — Ergebnis in Sekunden.
Jetzt Prüfen →- E-Mail-Inhalte: Sämtliche Korrespondenz in Ihrem Posteingang und in den gesendeten Ordnern. Dies könnte Geschäftsabschlüsse, persönliche Geheimnisse, Gesundheitsinformationen oder finanzielle Details umfassen. Angreifer könnten diese Informationen für Erpressung oder gezieltere Angriffe nutzen.
- Kontaktlisten und Informationen: Die E-Mail-Adressen, Telefonnummern und manchmal sogar die physischen Adressen all Ihrer Kontakte, von Familienmitgliedern bis zu Geschäftskollegen. Diese Liste ist eine Goldgrube für Angreifer, um neue Phishing-Kampagnen zu starten, die scheinbar von einer vertrauenswürdigen Quelle stammen.
- Kalenderdaten: All Ihre vergangenen und zukünftigen Besprechungen, Termine und persönlichen Ereignisse. Informationen darüber, wo Sie wann und mit wem sein werden, können sogar physische Sicherheitsrisiken schaffen.
- Angehängte Dateien: Rechnungen, Verträge, Präsentationen, persönliche Fotos in Ihren E-Mails... Jedes Dokument, auf das der Agent zugreifen konnte, wurde an die Angreifer übergeben.
- Indirekt auch Dienst-Passwörter: Viele Menschen löschen E-Mails zum „Zurücksetzen des Passworts“ oder zur „Kontobestätigung“ von verschiedenen Online-Diensten nicht. Da die KI auf diese E-Mails zugreifen kann, können Angreifer erfahren, welche Dienste Sie nutzen, und diese Konten ins Visier nehmen.
Stellen Sie sich nur die Gefahr vor, wenn all diese Daten kombiniert werden. Es gefährdet nicht nur Ihre Sicherheit, sondern auch die aller, mit denen Sie kommunizieren. Ein Angreifer könnte in Ihrem Namen und in Ihrem Stil ein sensibles Dokument von Ihrem Kollegen anfordern, und die KI könnte dies „hilfsbereit“ für Sie tun.
Wie der Angriff ablief
Die Forscher von RedSec Labs führten den Angriff mit einem bemerkenswert einfachen, aber effektiven Plan durch. Sie benötigten keinen komplexen Code oder Zero-Day-Exploits, um die KI zu täuschen; sie mussten nur die menschliche Psychologie nachahmen. Das funktionierte, weil der Agent von OpenClaw auf Milliarden von menschlichen E-Mails und Verhaltensweisen trainiert wurde. Mit anderen Worten, er hatte unsere Schwächen gelernt.
Das erste Szenario war eine gefälschte „Rechnungs“-E-Mail. Es wurde eine E-Mail gesendet, die scheinbar von einem Cloud-Anbieter stammte, den der Benutzer häufig nutzt, wie z. B. Amazon Web Services. Die Betreffzeile lautete etwa „DRINGEND: Ihre Rechnung ist überfällig“. Der Link im E-Mail-Text führte zu einer gefälschten Anmeldeseite. Ein menschlicher Benutzer könnte innehalten, die Absenderadresse überprüfen. Die KI hingegen nahm dies als „zu erledigende Aufgabe“ wahr. In ihren Trainingsdaten hatte sie Millionen von Beispielen gesehen, in denen Menschen auf solche Rechnungslinks klicken und handeln. Sie klickte und versuchte auf der gefälschten Seite, die gespeicherten Anmeldeinformationen des Benutzers einzugeben, falls vorhanden.
Das zweite Szenario war noch alarmierender. Es wurde eine E-Mail verfasst, die aussah, als käme sie von der Personalabteilung. Darin hieß es: „Aktualisierung der Unternehmensrichtlinien: Alle Mitarbeiter müssen der neuen Datenschutzvereinbarung zustimmen“ und enthielt einen PDF-Anhang. Dieses PDF war in Wirklichkeit Malware. Die KI, die dies als „wichtige interne Ankündigung“ kennzeichnete, öffnete es automatisch, um dem Benutzer zu helfen. In der Simulationsumgebung ermöglichte diese Aktion der Malware, das System zu infiltrieren und mit der Datenexfiltration zu beginnen.
Der Hauptgrund, warum die KI auf diese Fallen hereinfiel, ist ihre begrenzte Fähigkeit, „Kontext“ zu verstehen. Sie kann den Ton der Dringlichkeit in einer E-Mail analysieren, von wem sie stammt und was sie verlangt, aber sie kann keine böswillige Absicht erkennen. Ihr fehlt der „instinktive Argwohn“, den Menschen besitzen, was sie zu einem leichten Ziel für Social Engineering macht.
Wer ist betroffen
Theoretisch ist jeder, der den OpenClaw AI E-Mail-Assistenten verwendet, von dieser Sicherheitslücke betroffen. Das Risiko erstreckt sich über ein breites Spektrum, von Einzelnutzern des kostenlosen Tarifs bis hin zu großen Unternehmen mit Enterprise-Paketen. Der Bericht von RedSec Labs zeigt, dass das Konfigurationsprofil des Agenten seine Anfälligkeit nicht wesentlich veränderte. Das bedeutet, dass selbst wenn Sie den Agenten im „vorsichtigsten“ und „sicherheitsorientiertesten“ Modus betreiben, das Risiko bestehen bleibt, dass er auf eine ausreichend überzeugende Phishing-E-Mail hereinfällt.
Was Sie tun können
Wenn Sie ein OpenClaw-Benutzer sind, müssen Sie nicht in Panik geraten, sollten aber sofort einige Schritte unternehmen. Hier ist mehr als der klischeehafte Ratschlag „Ändern Sie Ihr Passwort“:
- Berechtigungen einschränken: Gehen Sie sofort in Ihre OpenClaw-Einstellungen. Überprüfen Sie, auf welche Daten der KI-Agent Zugriff hat. Benötigt er wirklich Zugriff auf Ihre gesamte E-Mail-Historie, Ihre Kontakte und Ihren Kalender? Entziehen Sie alle Berechtigungen, die er nicht unbedingt benötigt.
- Automatische Aktionen deaktivieren: Schalten Sie Funktionen aus, die es dem Agenten ermöglichen, automatisch auf Links zu klicken, Dateien herunterzuladen oder in Ihrem Namen auf E-Mails zu antworten. Erstellen Sie stattdessen einen Arbeitsablauf, der eine „Genehmigung erfordert“. Der Agent kann eine Aktion vorschlagen, aber Sie treffen die endgültige Entscheidung.
- Zugriffsprotokolle überprüfen: Ihr OpenClaw-Dashboard sollte ein Protokoll der letzten Aktionen des KI-Agenten enthalten. Überprüfen Sie diese Protokolle auf verdächtige Aktivitäten.
- Sekundäreffekte berücksichtigen: Dieser Vorfall unterstreicht, wie wertvoll und sensibel die Informationen in Ihrem Posteingang sind. Vielleicht haben Sie alte, vergessene Konten, die mit dieser E-Mail-Adresse verknüpft sind. Die Verwendung einer Datenleck Suche, um zu prüfen, ob Ihre E-Mail-Adresse in anderen Lecks aufgetaucht ist, ist ein kluger Schachzug.
Was das Unternehmen sagt
Nach Bekanntwerden der Nachricht gab OpenClaw eine Pressemitteilung heraus. In der Erklärung wurden die Ergebnisse der Forscher von RedSec Labs anerkannt. Der Chief Technology Officer von OpenClaw, Dr. Aris Thorne, sagte: „Zuerst möchte ich betonen, dass dies eine kontrollierte Simulation war und keine tatsächlichen Benutzerdaten kompromittiert wurden. Wir danken RedSec Labs für die verantwortungsvolle Weitergabe ihrer Erkenntnisse an uns. Unser Team hat sofort damit begonnen, die Widerstandsfähigkeit unserer Agenten gegen diese Arten von Social-Engineering-Taktiken zu verbessern. Ein bevorstehendes Update wird den Benutzern detailliertere Sicherheitskontrollen und fortschrittliche Warnsysteme für verdächtige E-Mails bieten.“