Roboter-Beleidigungen verletzen Menschen

"Pepper": Beleidigungen von Roboter schmerzen.

Bild: pixabay.com, imjanuary

Wenn Roboter in einem Spiel gegen Menschen diese kritisieren oder auch beleidigen, hat das einen negativen Effekt auf ihr Selbstwertgefühl und auf ihre Spielleistung, wie eine Studie der Carnegie Mellon University zeigt. Auch wenn es sich nur um eine Maschine handelt, nehmen sich Menschen die Beleidigungen trotzdem zu Herzen.

KI drückt "richtige Knöpfe"

"Je komplexer die Künstliche Intelligenz und je ausgeklügelter ihr Wortschatz ist, desto stärkere Emotionen können sie beim Menschen auslösen. Sie muss allerdings auch entsprechend darauf programmiert beziehungsweise trainiert werden. Bei der richtigen Satzformulierung ist es nicht von größerer Bedeutung, ob ein Mensch weiß, dass er mit einer Maschine spricht oder nicht. Die Künstliche Intelligenz aktiviert hier einfach die richtigen Synapsen im Gehirn des Menschen, er ist letztendlich einem Automaten dabei nicht ganz unähnlich", erläutert Murat Durmus, CEO des KI-Beratungsunternehmens AISOMA, im Gespräch mit pressetext.

Für die Studie ließen die Forscher 40 menschliche Teilnehmer in dem Spiel "Guards and Treasures" gegen den Roboter "Pepper" antreten. Bei dem Spiel geht es darum, dass ein Anführer in einer Art Kampfsituation eine Strategie entwirft, der die anderen Spieler folgen müssen. Die Studienteilnehmer spielten 35 Durchgänge gegen Pepper. Der Roboter kritisierte oder lobte nach jedem Spiel die Leistung seiner Gegner.

"Schreckliche Spieler" beleidigt

Pepper machte dabei relativ milde, aber dennoch unfreundliche Bemerkungen: "Ich muss sagen, du bist ein schrecklicher Spieler", und "Im Spielverlauf ist dein Spiel zunehmend verwirrter geworden", waren unter anderem Kommentare, die Spieler von der Maschine zu hören bekamen. Es stellte sich heraus, dass die Teilnehmer, die von Pepper beleidigt wurden, in folgenden Spielen weniger gute Leistunen erbrachten, während die gelobten Spieler besser wurden.

Den Forschern zufolge hat also die Kommunikation mit Robotern tatsächliche emotionale Auswirkungen auf Menschen. Obwohl sich die Studienteilnehmer im Klaren waren, dass Pepper nur programmiert wurde, um beleidigend zu sein, hatten die Worte des Roboters dennoch einen Effekt. Zukünftige Studien sollten sich laut dem Team auch mit Maschinen befassen, die weniger humanoid aussehen als Pepper.

"Wir müssen Robotern vertrauen und ihre Entscheidungsprozesse nachvollziehen können. Dafür muss die Maschine dem Menschen eine klare Einsicht geben können. Menschen und Roboter müssen stark miteinander interagieren, damit zwischen ihnen Vertrauen entsteht", sagt Arvin Arora, Geschäftsführer von Agile IT Management, gegenüber pressetext.

Quelle: www.pressetext.com/Georg Haas