Die europäische KI-Verordnung – Der Startschuss in die Zukunft?

Dass künstliche Intelligenz eines der Zukunftsthemen im Maschinenbau ist, haben wir in unserem Blog schon häufig besprochen. Dem Maschinenbau stehen, dank der Technologie, komplett neue Anwendungsfelder und Möglichkeiten zur Verfügung. Predictive Maintenance haben wir schon ein paar mal hier versprochen, doch auch insbesondere in der Robotik ergeben sich durch KI komplett neue Möglichkeiten. Eine der Haupthindernisse in der geschäftlichen Adaption der Technologie war der fehlende gesetzliche Rahmen für KI-Anwendungen. Doch es sieht so aus als könnte sich das schon bald ändern. Bereits im letzten Jahr hatte die Europäische Kommission einen Entwurf für eine EU-weite KI-Verordnung vorgestellt. Diese Verordnung befindet sich nun im EU-Parlament zur finalen Absegnung. Und obwohl die Parlamentsfraktionen bereits zahlreiche Einsprüche gegen Teile der Verordnung gebracht haben, wird erwartet, dass der Entwurf der Kommission bis Ende des Jahres bestätigt wird. Doch warum benötigt es überhaupt einer neuen Rechtsprechung? Und was steht eigentlich genau in dem Vorschlag der Kommission? Der folgende Artikel liefert Antworten:

Warum braucht es eine KI-Verordnung?

Künstliche Intelligenzen ermöglichen viele Technologien, die bis vor Kurzem noch undenkbar waren. Egal ob selbstfahrende Autos, Flugtaxis oder voll automatisierte Roboter, die beispielsweise in der Medizin eingesetzt werden können, all diese Technologien basieren auf KI. Doch wer sich an den Terminator und die künstliche Intelligenz Skynet aus dem Film erinnert, weiß, dass künstliche Intelligenzen auch erhebliche Gefahren mit sich bringen können. Auch war nie wirklich klar, welche gesetzlichen Maßnahmen und Richtlinien bei KI-Anwendungen angewandt werden könnten. Diese legale Grauzone birgt also nicht nur Risiken in Bezug auf KI-Anwendungen selbst, sondern behindern auch die Entwicklung von vielversprechenden Innovationen in Europa. Aus der Industrie gab es daher schon lange Forderungen an die EU, einen gesetzlichen Rahmen zu entwerfen. In 2018 hat die Europäische Kommission dann erstmals ihre europäische KI-Strategie und einen koordinierten Plan für künstliche Intelligenz der Öffentlichkeit vorgestellt. Im Rahmen dieses Plans wurde eine Expertengruppe einberufen, die schließlich in 2019 Leitlinien für vertrauenswürdige KI Anwendungen veröffentlichte. In 2020 veröffentlichte die Kommission schließlich das Weißbuch zur künstlichen Intelligenz, das die Basis für den nun eingebrachten Vorschlag zur KI-Verordnung abbildet.

Die Europäische Union betritt mit ihrem Vorschlag zur KI-Verordnung internationales Neuland. Kein einziges westliches Land hat bis jetzt eine KI-Gesetzgebung, auf globaler Ebene hat bisher nur die Volksrepublik China eine gesetzliche Grundlage für KI-Anwendungen. Diese wird von Experten allerdings kritisch gesehen, da sie Dinge vorschreibt, die bisher technisch nicht machbar sind. Außerdem gilt diese Richtlinie nur für Unternehmen, die in der Volksrepublik tätig sind, nicht aber für die Regierung, die seit einigen Jahren bereits KI-Anwendungen für die Massenüberwachung ihrer Bevölkerung einsetzt.

Die EU setzt also mit ihrem Vorschlag zur KI-Verordnung einen neuen Maßstab, was Legislatur zum Thema künstliche Intelligenz betrifft. Doch was genau steht eigentlich in dem Vorschlag der Europäischen Kommission, und welche Art von Systemen wird davon vor allem betroffen sein?

Ein risikobasierter ANSATZ

Der Anwendungsbereich der KI-Verordnung ist sehr weit gefasst. Im aktuellen Vorschlag der Kommission fallen alle KI-Systeme, die innerhalb der EU verwendet werden und alle von einem System erarbeitete Lösungen unter die Verordnung. Das bedeutet, dass die EU KI-Verordnung weitreichende Auswirkungen, selbst auf Drittländer haben wird. Das Ganze ist vergleichbar mit der DSGVO, die zwar technisch gesehen eine EU Verordnung ist, allerdings nahezu auf der ganzen Welt verwendet wird.

Außerdem definiert der aktuelle Vorschlag zur KI Verordnung eine KI-Anwendung als Softwaresystem, dass durch maschinelles Lernen oder statistische, wissensbasierte Ansätze, Vorhersagen oder Bewertungen erstellt, die eine direkte Auswirkung auf die unmittelbare Umwelt haben. Das Hauptaugenmerk liegt also auf der Technologie, die der Anwendung zugrunde liegt.

Genauso wie die DSGVO soll auch die KI-Verordnung einen risikobasierten Ansatz verfolgen. Je höher die Risiken, die mit dem Einsatz der KI-Anwendung verbunden sind, desto höher sind auch die Anforderungen an das jeweilige KI-System. Unternehmen, die mit KI arbeiten, werden dazu verpflichtet, ein passendes Risiko-Management-System aufzubauen. Vergleichbar mit der ISO 13849 Norm, die eine Risikobeurteilung für Maschinen vorschreibt, müssen auch für künstliche Intelligenzen eine Art Risikobeurteilung unterlaufen, in der alle mit der Anwendung verbundenen Risiken erfasst, bewertet und beobachtet werden. Auf Basis der ermittelten Risiken müssen dann angemessene Maßnahmen ergriffen werden.

Der Vorschlag zur KI-Verordnung hat zur Einordnung von Risiken vier verschiedene Risikotypen für KI-Anwendungen entworfen:

Für Verstöße gegen die KI-Verordnung schlägt die Kommission eine empfindliche Geldstrafe von bis zu 6 % des Jahresbruttoumsatzes vor. Des Weiteren werden die Mitgliedsstaaten bei Umsetzung dieses Vorschlags neue Aufsichtsbehörden schaffen müssen, die die Einhaltung der Verordnung genauestens überwachen. Die Kommission empfiehlt Unternehmen, die KI-Anwendungen benutzen und produzieren, schon jetzt Compliance-Verfahren anzufangen. Gerade bei den Dokumentationspflichten, die höchstwahrscheinlich auch in der finalen KI-Verordnung zu finden sein werden, lohnt es sich bereits jetzt, die notwendigen Prozesse einzuleiten, um einen möglichst reibungslosen Übergang in die Zukunft gestalten zu können.

Reaktion aus der Industrie

Der generelle Plan einer EU-weiten Regelung zum Umgang mit künstlicher Intelligenz findet großen Anklang in verschiedensten Industrien. Allerdings sind bisher noch nicht alle zufrieden mit den Inhalten des aktuellen Vorschlags. Der Verband der Maschinenbauer VDMA zum Beispiel kritisiert den aktuellen Vorschlag, insbesondere die Zuordnung bereits regulierter Maschinenbauprodukte. Laut VDMA würden, unter dem aktuellen Vorschlag, zahlreiche Industrieanwendungen in dieselbe Risikokategorie wie KI-Systeme zur biometrischen Identifizierung fallen (Hochrisikosysteme). Das würde erhebliche Schwierigkeiten in der Zertifizierung bereits bestehender Industrieanwendungen mit sich bringen, und außerdem unnötig komplizierte Zertifizierungsverfahren für neue Anwendungen verpflichtend machen. Der Verband wünscht sich daher, dass industrielle KI von der Verordnung ausgenommen wird. Zusätzlich wünscht der VDMA eine grundlegende Überprüfung des aktuellen Vorschlags auf „innovationsfreundliche Gestaltung“.

Wie man sieht ist das Thema KI-Verordnung sehr facettenreich, und wird uns wohl auch noch ein bisschen begleiten. Aktuell befindet sich der Vorschlag im EU-Parlament, und alle Fraktionen haben bereits mehrere hundert Änderungsvorschläge eingereicht. Nichtsdestoweniger ist der Vorschlag ein klares Zeichen für die Zukunft der KI in Europa. Die EU hat es sich zum Ziel gemacht, der global attraktivste Standort für KI Anwendungen zu werden, und eine gute, einheitliche Gesetzgebung ist ein großer Schritt in die richtige Richtung. Wir sind gespannt, wie sich das Thema weiterentwickelt und werden Sie in unserem Newsletter auf dem Laufenden halten! Diesen können Sie ganz einfach kostenfrei auf unserer Website abonnieren. Einmal im Monat informieren wir Sie dann über alle spannenden Entwicklungen im Maschinenbau. Wir freuen uns auf Ihr Abo!