Neue KI schreibt glaubhafte Fake-Reviews

Überzeugende Fake-Review: Diese KI-Bewertung täuscht User

Bild: aalto.fi

Forscher der finnischen Aalto University haben einen Algorithmus entwickelt, der besonders glaubwürdige Fake-Reviews für Online-Bewertungsportale schreibt. Diese sind für Menschen praktisch nicht als Fälschungen zu erkennen. Einziger Lichtblick für Seiten wie TripAdvisor, Yelp oder diverse Online-Marktplätze: Das Team hat auch gleich eine KI entwickelt, die maschinell erstellte Bewertungen immer noch höchst zuverlässig als Fakes erkennt.

Keine Themenverfehlungen

"Online-Reviews sind ein großes Geschäft für Reisedestinationen, Hotels, Dienstleister und Konsumgüter", sagt der Informatik-Doktorand Mika Juuti. Denn viele User vertrauen auf die Bewertungen, um selbst Kaufentscheidungen zu treffen. Daher setzen Unternehmen, die selbst mit einem angeschlagenen Online-Ruf kämpfen oder den eines Konkurrenten besudeln wollen, auf gefälschte Bewertungen - oft auch einfach auf vom Computer erstellte. Juuti und seine Kollegen haben nun ein System gezeigt, dessen Fake-Reviews Menschen sehr zuverlässig täuschen.

Das Team, dem auch Wissenschaftler der Waseda University angehören, hat einen Ansatz von Informatikern der University of Chicago weiterentwickelt. Dabei lernt ein neuronales Netzwerk aus Millionen Vorlagen, wie Yelp-Reviews aussehen. Das Chicagoer System hat sich aber oft durch Themenverfehlungen verraten - etwa, wenn bei der Bewertung eines japanisches Restaurants in einer Stadt ein Italiener in einer anderen erwähnt wird. Die Finnen haben daher auf Methoden der neuronalen maschinellen Übersetzung gesetzt, damit ihr Review-Generator auch beim Thema bleibt. Dazu achtet dieser auch auf Bewertung, Restaurantname, Ort und Tags für bestimmtes Essen.

Nur Menschen leicht zu täuschen

"In einer Nutzerstudie haben wir Teilnehmern echten Bewertungen von Menschen und falsche maschinell generierte Reviews gezeigt und sie gebeten, die Fälschungen zu identifizieren", sagt Juuti. Insgesamt seien bis zu 60 Prozent der Fakes für echt gehalten worden. Die beste Variante ihres Review-Generators ist beinahe perfekt unerkennbar, so das Team in einem auf "arXiv" veröffentlichten Paper.

Für eine Maschine allerdings sind auch die hochkarätigen Fake-Reviews leicht als solche zu erkennen. Die Forscher haben nämlich auch gleich eine KI entwickelt, mit sich die Fälschungen erkennen lassen. Diese hat sich in Tests als sehr zuverlässig erwiesen - und das insbesondere bei jenen Bewertungen, bei denen Menschen besonders viel Mühe hatten, zu beurteilen, ob sie echt sind oder maschinell erstellt.

Zum Paper "Stay On-Topic: Generating Context-specific Fake Restaurant Reviews": http://arxiv.org/abs/1805.02400

Quelle: www.pressetext.com/Thomas Pichler