Echt anmutende Video- und Audioaufnahmen, die mithilfe von künstlicher Intelligenz manipuliert oder gar hergestellt wurden: Die Finanzwelt muss sich mit Deepfakes auseinandersetzen – denn die Fälschungen sind mitunter so potent, dass sie das Bankgeschäft gefährden.
Gefälschte Bilder, Videos und Audioaufnahmen gibt es nicht erst seit gestern, doch mit der rasanten Entwicklung sogenannter Deepfakes entsteht zurzeit ein völlig neuartiges Risikopotenzial. Deepfakes (der Begriff ist zusammengesetzt aus »Deep Learning« und »Fake«) sind das hochkomplexe Produkt künstlicher Intelligenz, für das – vereinfacht beschrieben – zwei Algorithmen in einem Netzwerk zusammenarbeiten und neue Daten aus bestehenden Datensätzen generieren. Diese Möglichkeit darf als eine der bisher bahnbrechendsten Neuerungen im Bereich der künstlichen Intelligenz gelten. Gleichzeitig ist sie noch längst nicht am Höhepunkt ihres Potenzials angekommen, sondern entwickelt sich zur Stunde weiterhin rasend schnell.
Fälscher können mithilfe von Deepfakes echten Personen gefälschte Botschaften in den Mund legen und die Betroffenen zudem in einem völlig falschen Kontext zeigen: So kann die Software etwa zahlreiche Aufnahmen von Angela Merkel aus dem Internet fischen, sie analysieren und dann zu einem neuen Video mit Originalstimme und frei erfundenem Inhalt verschmelzen. Mit riesigen Datenmengen und den richtigen Apps sind in der Gegenwart sogar schon Laien imstande, Video-, Audio- und Sprachmaterial zu erzeugen, das auf ungeschulte Augen und Ohren täuschend echt wirkt.
Bisher hat es in der Finanzwelt keinen großen Skandal gegeben, der durch einen Deepfake ausgelöst worden wäre. Vielmehr wurden die neuartigen Fälschungen bisher größtenteils dafür eingesetzt, Frauen, darunter zahlreiche weibliche Prominente, mit pornografischen Fotos und Videos zu verunglimpfen.
Warum ist das Thema dennoch dringend für Banken? Weil Deepfakes das Potenzial haben, in der Finanzindustrie Schaden auf ganz unterschiedlichen Ebenen anzurichten. Sei es mit Fake-Anweisungen, die Mitarbeiter und Kunden in betrügerischer Absicht zu bestimmten Handlungen manipulieren, oder mit der Verbreitung von Fake-News, die Kunden, Anleger und die Öffentlichkeit folgenschwer in die Irre führen.
Es ist darum jetzt an der Zeit, Mitarbeiter, Kunden und interne Strukturen für das Risiko zu präparieren. Schon heute ist etwa die Sensibilisierung von Mitarbeitern für das sogenannte Social Engineering notwendig. Der Begriff bezeichnet die gezielte Beeinflussung von Menschen durch Betrüger, um an vertrauliche Informationen oder Finanzmittel zu gelangen. Hier liegt eine Hauptgefahr von Deepfakes. Ein Stichwort ist das Vishing, eine Phishing-Methode, bei der statt einer E-Mail ein Anruf als Betrugsinstrument genutzt wird (Voice + Phishing = Vishing).
Der Einsatz von Deepfakes für die Stimmgenerierung macht diese Methode schlagkräftiger als klassisches Phishing, weil durch die täuschende Echtheit der Stimme die Fälschung schwerer zu erkennen ist. Vishing birgt also zum Beispiel das Risiko, Kunden oder Mitarbeiter am Telefon zur Preisgabe sensibler Informationen, Daten oder zu konkreten Aktionen wie Geldtransfers zu verleiten. Auch Klassiker wie der Enkeltrick lassen sich mithilfe der echten Stimme des Bittenden leichter und erfolgreicher gestalten denn je.
Im vergangenen Jahr wurde der erste Fall eines KI-basierten Stimmbetrugsöffentlich, der das betroffene Unternehmen 220.000 Euro kostete. Eine Software hatte die Stimme des Managers samt dem leichten deutschen Akzent so erfolgreich auf Englisch nachgeahmt, dass sein britischer Kollege dem Wunsch des Anrufers nachkam und die geforderte Summe überwies. Das ist bisher ein bekannter Einzelfall, allerdings ist davon auszugehen, dass viele vom Vishing betroffene Unternehmen ähnliche Fälle nicht publik gemacht haben und es Versuche wie diese in Zukunft häufiger geben wird.
Im extremen Fall wären medial verbreitete Fake-Botschaften dazu fähig, Börsenkurse und Handelsbewegungen zu beeinflussen. Zum Beispiel mit „Mitschnitten“ einer angeblich geheimen und brisanten Absprache zwischen Managern oder Politikern, mit dem frei erfundenen Besuch eines CEOs im Rotlichtmilieu oder mit rechtsradikalen Aussagen, die einer bekannten Person untergeschoben werden – der Fantasie der Fälscher ist im Prinzip keine Grenze gesetzt. Die Erpressung einzelner Personen kann dabei genauso ein Motiv sein wie die Rufschädigung eines Instituts in der breiten Öffentlichkeit.
Langfristig besteht zudem die Sorge, dass es durch Identitätsdiebstahl gelingen könnte, die Online-Authentifizierung von Kunden beim Onboarding zu kapern. Zumindest derzeit gelten die biometrischen Video-Ident-Verfahren zwar noch als fälschungssicher, dies kann sich bei der Weiterentwicklung der Deepfake-Technologie jedoch schnell ändern.
In technologische Maßnahmen gegen digitale Fälschungsversuche wird von einigen Instituten bereits investiert, oft in Zusammenarbeit mit Fintechs. Das ist richtig und wichtig. Es reicht jedoch nicht aus. Vielmehr geht es jetzt um die Sensibilisierung von Mitarbeitern und Kunden sowie um die gezielte Gestaltung von Prozessen, die Social Engineering erschweren.
Wirksame Wissensvermittlung, um Sensibilität für Fakes im Arbeitsalltag zu schaffen, gibt es bereits, sie muss jedoch auch in Anspruch genommen werden, bevor das Phänomen zur akuten Bedrohung geworden ist. Eine Gegenmaßnahme, die Banken im Umgang mit Deepfakes daher schon jetzt ergreifen sollten, ist Aufklärung. Konkret kann das bedeuten, Schulungen für Mitarbeiter anzubieten, den aktuellen Wissensstand über Deepfakes zu teilen und auch Kunden zu informieren, wie sich Fälschungen erkennen lassen. Denn die Zielscheibe der Fälscher sind Menschen. Die Employee Experience wird somit häufig der entscheidende Faktor sein um Gefahren zu kennen und sie dann im Alltag wiederzuerkennen
Wie stark die Auswirkungen von Deepfakes sein werden, ist noch nicht absehbar. Die wichtigste Erkenntnis für die Finanzwelt ist es jedoch, zu begreifen, dass sie am Anfang einer noch langen Entwicklung steht, und sich dafür zu wappnen. Denn das Zeitalter der Fakenews hat bereits lange begonnen, und mit der steigenden Präsenz von Deepfakes in Wirtschaft, Politik und Gesellschaft erreicht die Desinformation ein neues Level.