Pictet AM: Die Deepfake-Spürnasen

Deepfake-Abwehr

Doch Cyberkriminelle tun alles dafür, um wieder die Oberhand zu gewinnen. „Es ist ein Katz- und Mausspiel, und im Moment werden deutlich mehr Ressourcen in die Entwicklung neuer Formen generativer Inhalte gesteckt als in die Entwicklung robuster Erkennungstechniken“, sagt Henry Ajder, Consultingexperte für Deepfakes und KI.

Die Tools zur Erkennung von Deepfakes werden ständig weiterentwickelt und an neue Kontexte angepasst. Zum Beispiel wurden viele von ihnen traditionell mit Daten aus westlichen Ländern trainiert. Nun hat die Polizei in Südkorea im Vorfeld der Wahlen eine Software entwickelt, die mit koreanischen Daten angelernt wurde. Dieses Tool gleicht mithilfe von KI potenzielle Fakes mit bestehenden Inhalten ab, um festzustellen, ob diese mit Deepfake-Techniken manipuliert wurden. Die Trefferquote soll bei 80 Prozent liegen.

Viele Tools zur Erkennung von Deepfakes basieren auf diesem Ansatz und sind darauf ausgelegt, kleine Ungereimtheiten in Audio- und Videodateien zu erkennen, um sie als manipuliert zu identifizieren. Eine der bisher effektivsten Techniken verfolgt jedoch genau den entgegengesetzten Ansatz und leitet von echtem Videomaterial einzigartige Merkmale ab, die Deepfakes nicht abbilden können. Der „FakeCatcher“ von Intel ist ein marktführendes Tool, das gefälschte Bilder von Menschen mithilfe der Photoplethysmographie (PPG) identifiziert, einer Technik, die Veränderungen des Blutflusses im Gesicht erkennt. „Wenn das Herz Blut in die Venen pumpt, ändern die Venen ihre Farbe“, sagt Ilke Demir, die die Idee dazu hatte. „Das ist mit blossem Auge nicht sichtbar, dafür aber maschinell.“

Die Software sammelt PPG-Signale von allen Stellen des Gesichts und erstellt aus den räumlichen und zeitlichen Merkmalen dieser Signale Karten. Diese Karten werden verwendet, um ein neuronales Netz zu trainieren, das Videos als echt oder gefälscht einstuft. Der Vorteil dieser Software ist laut Dr. Demir, dass PPG-Signale nicht dupliziert werden können. „Es gibt keine Möglichkeit, sie in ein generatives Modell zu integrieren und zu versuchen, es damit zu trainieren“, sagt sie. „Deshalb ist FakeCatcher so robust.“

FakeCatcher hat eine Trefferquote von 96 Prozent. Der britische Fernsehsender BBC testete die Technologie an gefälschtem und an echtem Filmmaterial – mit dem Ergebnis, dass alle Fake-Videos bis auf eins erkannt wurden. Allerdings gab es auch einige falsche Treffer, bei denen echte Videos als Fälschungen identifiziert wurden, weil sie unscharf waren oder die Personen von der Seite gefilmt wurden. „Wir versuchen, so viele interpretierbare Ergebnisse wie möglich zu liefern“, sagt Dr. Demir. „Der Nutzer des Systems sollte durch Prüfung der verschiedenen Signale die endgültige Entscheidung treffen.“

Ajder sagt, dass jeder Ansatz zur Deepfake-Erkennung Vor- und Nachteile hat. Er sieht vielversprechende Möglichkeiten in der Initiative der Coalition for Content Provenance and Authenticity (C2PA), einer Art digitaler Signatur, die von Unternehmen wie Google, Intel und Microsoft unterstützt wird. „Es gibt Technologien, mit denen auf kryptografisch sichere Weise Metadaten angehängt werden können, die Aufschluss darüber geben, wie Medieninhalte erstellt und welche Tools verwendet wurden“, sagt er. „Das ist bei weitem der beste Ansatz für die Sicherheit, aber es ist eine Mammutaufgabe.“

Die C2PA arbeitet an einem Standard für das Anhängen von Inhaltsurhebernachweisen. „Der Druck, solche Technologien einzusetzen, nimmt definitiv zu“, sagt Ajder. „Wenn es keine breite Zusammenarbeit und Abstimmung gibt, insbesondere zwischen den grossen Unternehmen, werden wir am Ende zu viele verschiedene Authentifizierungsprodukte und -plattformen haben, die den Nutzern das Leben schwer machen.“

Dieser Ansatz hat zwar Vorteile, könnte aber auch ethische Probleme hinsichtlich des Datenschutzes aufwerfen. Es gibt Bedenken, dass der Standard zu viele Daten über die Herkunft des Bildes preisgibt, zum Beispiel den Ort oder den Zeitpunkt der Aufnahme. Dies könnte beispielsweise im Kontext einer Menschenrechtsorganisation ein Risiko darstellen.

Ajder fügt hinzu, dass Technologie allein das Deepfake-Problem niemals vollständig lösen kann und dass alle Nutzer eine kritischere Haltung gegenüber den von ihnen konsumierten Medien einnehmen müssen. „Wir müssen unser Verbraucherverhalten ändern und dürfen nicht mehr alles glauben, was wir sehen. Vielmehr müssen wir auf Inhaltsurhebernachweise achten und brauchen eine zusätzliche Authentifizierungsebene“, sagt er. „Das ist eine grosse Sache.“

Einblicke für Investoren

^{Von Yves Kramer, Senior Investment Manager, Themenaktien, Pictet Asset Management}

• KI und generative KI können anfällig für Cyberangriffe, Datenschutzverletzungen und schädliche Datenmanipulationen sein. Das wiederum befeuert die Nachfrage nach immer fortschrittlicheren Präventionsmassnahmen. Laut Gartner werden die Ausgaben für Cybersicherheit in diesem Jahr voraussichtlich um etwa 14% steigen. Da KI in immer mehr Bereiche vordringt, dürfte sich das Wachstum nach unserem Dafürhalten in Zukunft beschleunigen. Mangelnde Sicherheit kann das Vertrauen der Kunden in den Schutz sensibler Daten beschädigen, der Verbreitung von Ransomware Vorschub leisten und den Geschäftsbetrieb empfindlich stören.
• Zero-Trust-Lösungen dürften zum Mass aller Dinge werden. Sie überprüfen ununterbrochen die Anmeldedaten von Personen, die mit dem Unternehmen interagieren, sowohl intern als auch extern. Wir erwarten auch ein Wachstum bei Secure Access Service Edge (SASE), einer für die Cloud konzipierten Technologie, die softwaredefinierte Netzwerkfunktionen mit Netzwerksicherheit zusammenführt und durch die Überwachung der Identität und des Nutzerverhaltens kontinuierliche Richtlinienänderungen vornimmt. Da SASE auf Zero Trust aufbaut, ist dies eine Kernkomponente des Systems.
• Generative KI kann ebenfalls Teil der Lösung sein, da die Cybersicherheitsbranche Large Language Models (LLMs) so anpasst, dass Angriffe schneller erkannt und potenzielle Bedrohungen durch Schadcode, der von anderen Maschinen geschrieben wird, abgewehrt werden. Hierin sehen wir eine Chance – sowohl für die Sicherheitsbranche als auch für Investoren. Für Cybersicherheitsunternehmen, die in der Lage sind, KI in die digitale Abwehr zu integrieren, sind die Wachstumsaussichten in den kommenden Jahren positiv. Das gilt insbesondere für die Unternehmen, die vorrangig in Infrastruktur investieren, sowie für diejenigen, die spezielle Sicherheitssoftware und -anwendungen entwickeln.

^{Marketingdokument. Alle Formen von Kapitalanlagen sind mit Risiken verbunden. Der Wert von Anlagen und die daraus erzielten Erträge sind nicht garantiert und können sowohl steigen als auch fallen, so dass Sie den ursprünglich investierten Betrag möglicherweise nicht zurückerhalten.
Pictet Asset Management 2024. Alle Rechte vorbehalten. Bitte lesen Sie die Geschäftsbedingungen, bevor Sie die Website konsultieren.
Einige der auf dieser Website veröffentlichten Fotos wurden von Stéphane Couturier, Magnus Arrevad, Lundi 13, Phovea, 13Photo, Magnum Photos, Club Photo Pictet aufgenommen.}