EU-Kommission erwägt unabhängige Prüfung für KI-Systeme

Künstliche Intelligenz (Symbolbild)

Bild von Gerd Altmann auf Pixabay

Die EU-Kommission könnte Anbieter von Systemen der Künstlichen Intelligenz (KI) dazu zwingen, ihre Algorithmen offenzulegen. Wenn die Produkte mit hohen Risiken etwa für die Gesundheit oder öffentliche Sicherheit behaftet seien, sollten diese vor der Markteinführung kontrolliert werden, heißt es im jüngsten Entwurf des KI-Weißbuchs der Behörde, über den das "Handelsblatt" berichtet.

Dies könne durch eine "unabhängige Überprüfung und Bewertung der Algorithmen und Daten durch Testzentren" geschehen. Die Mitgliedstaaten sollten dafür spezialisierte Dienstleister wie die TÜVs beauftragen, heißt es in dem Entwurf weiter. Als kritisch gelten könnten etwa KI-Anwendungen, die in der Medizin oder in Verkehrsleitsystemen eingesetzt werden. Auch Algorithmen, die Arbeitgeber zur automatisierten Auswahl von Bewerbern einsetzen können, liste die Behörde als problematisch auf – sie berge die Gefahr von Diskriminierung. Bislang werde die Verbreitung von KI-Anwendungen durch mangelndes Vertrauen gehemmt, heißt es in dem Entwurf des KI-Weißbuchs der EU-Kommission.

Die Brüsseler Behörde wird das Weißbuch am 19. Februar vorstellen, das als Grundlage für eine öffentliche Konsultation dienen soll. Die Vizepräsidentin des Europaparlaments, Nicola Beer (FDP), warnte vor einer übermäßigen Belastung gerade von innovativen Start-ups. Nur Anwendungen mit wirklich hohen Risiken sollten vorab geprüft werden, sagte die FDP-Politikerin dem "Handelsblatt". Alles andere sei auch nicht praktikabel: "Woher sollen sonst auch all die Informatiker kommen, die jeweils Millionen Zeilen von Code analysieren können?", so Beer.

Quelle: dts Nachrichtenagentur