Videogespräch ist kein Beweis mehr: Wie Deepfakes das Vertrauen in Unternehmen hacken

Im Januar 2024 erhielt ein Mitarbeiter des Hongkonger Büros des britischen Ingenieurunternehmens Arup eine E-Mail, die angeblich vom Finanzdirektor stammte und als vertrauliche Transaktion gekennzeichnet war. Der Mitarbeiter hatte Zweifel, aber nach einem Videoanruf, bei dem synthetische Kopien des Direktors und von Kollegen zu sehen waren, verschwanden seine Zweifel, und er tätigte an einem einzigen Tag fünfzehn Überweisungen in Höhe von insgesamt rund 25,6 Millionen US-Dollar. Der CIO von Arup, Rob Greig, erklärte später, dass er mit Open-Source-Software in 45 Minuten einen Echtzeit-Deepfake von sich selbst erstellt hatte, was die niedrige Einstiegshürde verdeutlicht. Der Mitarbeiter handelte richtig, indem er versuchte, die Anfrage zu überprüfen, aber er wechselte den Kommunikationskanal und nicht die Vertrauensquelle, da sowohl die E-Mail als auch die Videokonferenz von denselben Angreifern kontrolliert wurden. Experten von „Garda“ und der RTU MIREA prognostizieren eine Verschiebung der Angriffe von vorab bearbeiteten Videos hin zur Echtzeit-Simulation von Stimme und Bild. Der Artikel schlägt sechs Schutzregeln vor: Die Geheimhaltung einer Anfrage sollte Misstrauen erregen, ungewöhnliche Anweisungen sollten über einen unabhängigen Kanal unter Beteiligung einer zweiten Person bestätigt werden, für größere Transaktionen sollte ein mehrstufiges Verfahren gelten, Entscheidungen, die nicht aufgrund eines einzelnen Anrufs getroffen werden dürfen, sollten schriftlich festgehalten werden, dieselbe Logik gilt für das Privatleben, und man sollte sich bewusst sein, dass Video und Stimme nicht mehr als eigenständiger Beweis dienen können. Zudem wird angemerkt, dass eine Next-Generation-Firewall (NGFW) Deepfakes in verschlüsselten Videostreams nicht erkennen kann, weshalb der Schutz auf einem mehrschichtigen Ansatz basieren sollte, einschließlich finanzieller Regularien.