Yuval Noah Harari warnt vor KI-bedingten Finanzkrisen und fordert ein Verbot von Bots, die sich als Menschen ausgeben

Yuval Noah Hararis (2024) Bild: DUP UNTERNEHMER-Magazin Fotograf: Olivier Middendorp

Yuval Noah Harari sieht die Menschheit angesichts der Entwicklung Künstlicher Intelligenz (KI) unzureichend vorbereitet. Der Autor von "Homo Deus" befürchtet, dass durch KI eine Finanzkrise von weit größerem Ausmaß als die von 2007 entstehen könnte. Harari fordert ein Verbot von Bots, die sich als Menschen ausgeben, um solche Risiken zu minimieren.

Yuval Noah Harari, dessen neues Buch "Nexus" am 10. September erscheint, äußerte sich im Interview mit DUP Unternehmer zu den Gefahren der Künstlichen Intelligenz. Der israelische Historiker betont, dass KI anders sei als jede bisherige Erfindung in der Geschichte der Menschheit. Sie könne eigenständig Entscheidungen treffen und neue Ideen entwickeln. "Sie ist also ein unabhängiger Akteur", sagt Harari, "und als solcher könnte sie uns außer Kontrolle geraten, uns potenziell versklaven oder sogar vernichten."

Harari kritisiert die unzureichende Vorbereitung auf diese Gefahren. Er zieht einen Vergleich: "Im Falle der KI lernen wir zuerst, mit dem 'Gaspedal' umzugehen, bevor wir die 'Bremse' bedienen können." Die Technologie werde extrem schnell entwickelt, jedoch ohne einen Selbstkorrekturmechanismus, der Prozesse bei uns Menschen in Frage stellt und korrigiert. Besonders besorgniserregend sei die Situation in der Finanzindustrie, da diese "nicht in der physischen Welt stattfindet". "Dies ist die ideale Spielwiese für eine KI", so Harari weiter. Größte Gefahren sieht er, wenn die KI selbstständig komplexe und komplizierte Finanzprodukte entwickelt, die anschließend kein Mensch mehr versteht. Ein neuer großer Crash, wie der von 2007/2008, sei programmiert. Die damalige Subprime-Krise wurde von undurchsichtigen Finanzprodukten ausglöst. "Mit KI könnte etwas Ähnliches passieren, allerdings in noch größerem Maßstab", betont Harari.

Auf die Frage, ob er einen unfairen US-Wahlkampf befürchte, antwortete Harari, dass das Hauptrisiko in der Desinformation durch Medien liege. Diese werde durch KI manipulierte Bilder, Videos und Nachrichten verstärkt. "Das geschieht so schnell, dass wir nicht wissen, wie wir damit umgehen sollen", erklärt er. Harari äußert zudem seine Besorgnis darüber, dass zwischen 20 und 40 Prozent der Inhalte auf X in Wahrheit von Bots stammen - nicht von Menschen. Das sei "eine noch nie dagewesene Situation in der Geschichte".

Angesichts dieser Gefahren plädiert Harari dafür, Bots zu verbieten, die sich als Menschen ausgeben. "Ein KI-Bot sollte sich niemals als Mensch ausgeben dürfen, wie es auf Plattformen wie X der Fall ist", fordert Harari. Er betont, dass es keine Meinungsfreiheit für Bots gebe, da diese keine Rechte hätten. "Bots sollten gar nicht Teil dieser Unterhaltungen sein", so Harari abschließend. Zudem fordert er, dass die großen Plattformen wie Facebook und X für die Handlungen ihrer Algorithmen haftbar gemacht werden.

Quelle: DUP UNTERNEHMER-Magazin (ots)