Studie: Unternehmen fordern gesetzliche Regeln für Künstliche Intelligenz

Künstliche Intelligenz (KI) als Tötungsmaschine: Absurd? Wurde nicht jede Technik bisher zuersteinmal für militärische Zwecke verwendet?

Bild: Unbekannt / Eigenes Werk

Die deutschen Unternehmen stehen Künstlicher Intelligenz sehr positiv gegenüber und erhoffen sich durch die Nutzung der Technologie entscheidende Wettbewerbsvorteile. Gleichzeitig befürwortet eine große Mehrheit gesetzliche Vorgaben für den Einsatz Künstlicher Intelligenz: Neun von zehn Unternehmen (90 Prozent) fordern gesetzliche Regelungen, um Haftungsfragen zu klären.

87 Prozent sind der Meinung, dass KI-Anwendungen in Abhängigkeit von ihrem Risiko reguliert werden sollten. Und 84 Prozent wünschen sich, dass Produkte und Anwendungen mit Künstlicher Intelligenz für die Nutzer klar gekennzeichnet werden. Das hat eine repräsentative Studie ergeben, für die im Auftrag des TÜV-Verbands 500 Unternehmen ab 50 Mitarbeiter:innen befragt wurden. "Künstliche Intelligenz ist eine Schlüsseltechnologie der Digitalisierung mit enormen Chancen, die aber einen gesetzlichen Rahmen braucht", sagte Dr. Dirk Stenkamp, Präsident des TÜV-Verbands (VdTÜV), bei Vorstellung der Studienergebnisse in Berlin.

"KI-Anwendungen sollten bestimmte Sicherheitsanforderungen erfüllen, wenn bei ihrer Nutzung die Gesundheit von Menschen oder ihre elementaren Grundrechte wie Privatsphäre oder Gleichberechtigung in Gefahr sind." Risiken bestünden zum Beispiel bei automatisierten Fahrzeugen, medizinischen Diagnosen oder der Personalauswahl. Stenkamp: "Nur mit klaren gesetzlichen Vorgaben können wir Vertrauen in Künstliche Intelligenz schaffen und eine breite Nutzung ermöglichen." Laut den Studienergebnissen nutzen derzeit erst 11 Prozent der Unternehmen KI-Anwendungen. Weitere 4 Prozent planen die Nutzung und 15 Prozent diskutieren darüber. Als Hemmnisse für eine (stärkere) Nutzung nennen die Befragten neben fehlenden Anwendungen (50 Prozent) unter anderem rechtliche Unsicherheiten (42 Prozent), Sorge vor Datenschutzproblemen (41 Prozent), einen Mangel an Know-how bzw. Fachkräften (41 Prozent) oder auch Sicherheitsbedenken (27 Prozent). Stenkamp: "Gerade der Mittelstand traut sich an Künstliche Intelligenz noch nicht ran. Vielen Unternehmen fehlt es an Know-how, was zu Unsicherheiten beim Einsatz der Technologie führt."

Laut Umfrage empfinden 82 Prozent der befragten Geschäftsführer und IT-Verantwortlichen etwas Positives oder sehr Positives, wenn sie an Künstliche Intelligenz denken. Eine große Mehrheit (78 Prozent) ist außerdem davon überzeugt, dass ihnen der KI-Einsatz entscheidende Wettbewerbsvorteile verschaffen kann. Unter den KI-Nutzern setzt gut jedes dritte Unternehmen (35 Prozent) die Technologie für innerbetriebliche Zwecke ein. 29 Prozent nutzen KI in ihren Produkten und Dienstleistungen, um diese mit zusätzlichen Funktionen auszustatten oder in anderer Form zu verbessern. 23 Prozent machen beides. "Die Anwendungsgebiete von KI-Systemen sind sehr vielfältig und ziehen sich durch sämtliche Unternehmensbereiche", sagte Stenkamp. So verwenden 45 Prozent der KI-Nutzer die Technologie in der IT (z.B. im Netzwerkmanagement), 39 Prozent im Kundenservice (z.B. als Chatbots), 30 Prozent im Marketing (z.B. für Hypertargeting), 27 Prozent in der Produktion (z.B. Roboter und Cobots) oder 22 Prozent in der Entwicklung (z.B. für Simulationen).

Wenn es um die Nutzung der Technologie geht, wünschen sich Unternehmen mehr Orientierung für ihr Business. "KI-Systeme sind häufig eine Art Blackbox, deren Entscheidungen die Nutzer nicht nachvollziehen können", sagte Stenkamp. Daher würden es mehr als vier von fünf Unternehmen befürworten (84 Prozent), wenn die Zuverlässigkeit einer KI von unabhängigen Experten bestätigt würde. Bei der Anschaffung eines KI-Systems würden 86 Prozent ein Produkt bevorzugen, das über ein neutrales Prüfzeichen verfügt. Und 85 Prozent fordern, dass die Sicherheit von KI-Anwendungen von herstellerunabhängigen Stellen geprüft wird.

Unternehmen erwarten strukturelle Veränderungen durch Künstliche Intelligenz

Die befragten Unternehmen rechnen damit, dass der breite Einsatz von Künstlicher Intelligenz zu strukturellen Umbrüchen führen wird: 80 Prozent erwarten große oder sehr große Veränderungen in der Wirtschaft insgesamt, 40 Prozent in ihrer Branche und 31 Prozent in ihrem eigenen Unternehmen. Vor allem die Arbeitswelt könnte Künstliche Intelligenz revolutionieren: 77 Prozent der Unternehmen sind der Meinung, dass sich Jobprofile und berufliche Tätigkeiten durch den Einsatz von KI stark verändern werden. Vier von fünf Befragten (80 Prozent) erwarten, dass KI-Systeme die meisten Routineaufgaben übernehmen werden. Gleichzeitig glauben fast ebenso viele (78 Prozent), dass KI-Anwendungen den Menschen in der Regel nicht ersetzen, sondern ihn unterstützen werden. "Fast alle Unternehmen sind der Meinung, dass die Beschäftigten lernen müssen, mit KI-Anwendungen umzugehen", sagte Stenkamp. "Entsprechend groß ist der Weiterbildungsbedarf."

Eine knappe Mehrheit der befragten Unternehmen erwartet (52 Prozent), dass der Einsatz von KI zum Abbau sehr vieler Arbeitsplätze führen wird. Auf der anderen Seite gehen 45 Prozent davon aus, dass die Technologie viele neue Jobs schaffen wird. Stenkamp: "Eine breite Anwendung von Künstlicher Intelligenz wird einen Strukturwandel auslösen, den Wirtschaft, Politik, Gewerkschaften und andere gemeinsam gestalten müssen."

Aus Sicht der Prüforganisationen sind gesetzliche Vorgaben für Künstliche Intelligenz notwendig, um die Technologie sicherer zu machen und ihr damit zum Durchbruch zu verhelfen. Die Empfehlungen des TÜV-Verbands im Überblick: Europäischen Rechtsrahmen KI-tauglich machen: Der Gesetzgeber sollte grundlegende Anforderungen an KI-gestützte Anwendungen in Bezug auf Kriterien wie körperliche Unversehrtheit, Gleichberechtigung, Privatsphäre oder IT-Sicherheit sowohl übergreifend als auch sektorspezifisch formulieren.

KI-Systeme nach Risikoklassen regulieren: Nicht jede KI muss die gleichen Anforderungen erfüllen. So ist eine E-Mail-Spam-Erkennung anders zu behandeln als ein autonomes Fahrzeug. Für die Einteilung in Risikoklassen müssen eindeutige Kriterien definiert werden. Unabhängige Prüfungen bei sicherheitsrelevanter KI: Bei risikobehafteten KI-Systemen sollte eine unabhängige Konformitätsbewertung erfolgen. So wird überprüft, ob KI-Anwendungen die gesetzlichen Anforderungen erfüllen und in der Nutzung sicher sind.

Prüfmethoden weiterentwickeln: Die Methoden der Konformitätsbewertung müssen mit der technologischen Entwicklung Schritt halten. Dafür müssen zum Teil völlig neue Verfahren und Methoden entwickelt werden. Die Prüforganisationen leisten hier ihren Beitrag, brauchen dafür aber auch Unterstützung aus der Wissenschaft und der Politik. Datenstrategie gestalten: Die Verfügbarkeit und Qualität von Daten spielen für den Erfolg von Künstlicher Intelligenz eine herausragende Rolle. Eine zielführende KI-Regulierung setzt daher eine nationale und eine europäische Datenstrategie voraus.

Trainingsdaten berücksichtigen: KI-Anwendungen sind lernende Systeme, deren Funktionen und Wirkungen von der Menge und Qualität ihrer Trainingsdaten abhängig sind. Der Zugang zu Trainingsdaten muss in den Datenstrategien geregelt werden. "Mit dem 'Weißbuch KI' der EU-Kommission sowie den Ergebnissen der Datenethikkommission und der Enquete-Kommission Künstliche Intelligenz liegen fundierte Analysen und Vorschläge auf dem Tisch", sagte Stenkamp. "Jetzt muss es an die Umsetzung gehen."

Datenbasis: Grundlage der Studienergebnisse ist eine repräsentative Umfrage des Marktforschungsinstituts Ipsos im Auftrag des TÜV-Verbands unter 500 Unternehmen ab 50 Mitarbeitenden in Deutschland. Befragt wurden Geschäftsführer und IT-Verantwortliche.

Quelle: VdTÜV Verband der TÜV e.V. (ots)