"XceptionNet"-Algorithmus entlarvt Face-Swaps

Face-Swaps: neuer Algorithmus erkennt Merkmale.

Bild: technologyreview.com

Der Algorithmus "XceptionNet" kommt Face-Swaps in Fotos und Videos auf die Schliche. Der maschinelle Lernalgorithmus ist von Forschern der Technischen Universität München (TUM) entwickelt worden. Die Wissenschaftler haben ihren Ansatz mithilfe eines riesigen Datensatzes von Face-Swaps trainiert. Damit wurde die bislang größte Datenbank an Fake-Bildern dieser Art erstellt.

Aufmerksamkeit wichtig

"Mir kommt das so vor, als würde man hier in einen Eskalationszyklus einsteigen: bessere Face-Swaps, bessere Detecion. Die einen lernen von den anderen. Das Problem darunter ist jedoch ein anderes: Wir glauben visuellen Medien zu sehr. Eventuell ist diese Face-Swap-Sache ein Moment, wo wir als Gesellschaft lernen, dass Fotografien und Videos inzwischen ebenso unzuverlässig geworden sind wie Gemälde", erläutert Peter Purgathofer von der TU Wien aus dem Forschungsbereich Human Computer Interaction im Gespräch mit pressetext.

Die momentan aufwachsende Generation (er)lebe das am eigenen Körper und lerne das schon von den ersten Social-Media-Momenten an. "Meine Erfahrung ist, dass junge Leute heute sehr skeptisch gegenüber außergewöhnlichen Fotos sind, was gut so ist", schildert Purgathofer. Das mache den Schaden, der mit Face-Swap angerichtet werden kann, natürlich noch nicht wieder gut, aber es ist für den Experten der vielversprechendere Ansatz gegenüber dieser Eskalation.

Verbesserte Fälschungen

In ihrem Paper schreiben die Forscher von einem Datensatz zur Gesichtsmanipulation, der sich "FaceForensics" nennt. Dieser beinhaltet in etwa eine halbe Mio. bearbeite Fotos. XceptionNet wurde anhand dieser Datenbank trainiert und setzt sich gegenüber anderen Technologien ähnlicher Art durch. Damit wird jedoch nicht nur die Erkennung von Fake-Videos präziser, sondern auch die Herstellung von glaubwürdigen Fälschungen leichter. "Der Algorithmus ermöglicht es, die charakteristischen Merkmale von Face-Swaps herauszukristallisieren und eine Manipulation somit nahtloser herzustellen", schildert Andreas Rössler von der TUM.

Bis dato kann XceptionNet noch nicht getäuscht werden. Längerfristig trägt dieser Ansatz jedoch zur Verbesserung von Fälschungen bei. Laut "MIT Technology Review" sind pornografische Videos, die Gesichter bekannter Persönlichkeiten auf fremden Körpern zeigen, schon auf zahlreichen Webseiten aufgetaucht. Diese Videomaterialien nennen sich "Deepfakes". Hier ist es für das menschliche Auge nahezu unmöglich, die Manipulation zu erkennen.

Quelle: www.pressetext.com/Carolina Schmolmüller