Macht KI jetzt in Europa Pause?

Herausgekommen ist ein Entwurf, der diesem Anspruch durchaus gerecht werden könnte. Die spezifische Ausgestaltung des Entwurfs steht in vielen Punkten noch aus. Die Antworten auf das „wie genau“ müssen im Diskurs zwischen Juristen, regulatorischen Behörden, Wissenschaftlern, Ethikern und Unternehmen noch gefunden werden. Sind sie gefunden, muss der Entwurf durch das Europäische Parlament und den Europäischen Rat abgesegnet werden. Die Aktivierung des komplexen Regulierungsökosystems aus nationalen und europäischen Einrichtungen, das der Entwurf vorsieht, wird nicht über Nacht möglich sein. Die zentrale Frage ist nun „wann“? Es ist abzusehen, dass die Frage nach dem „wann“ zumindest nicht mit „ganz bald“ beantwortet werden kann. Wie bald, wird jedoch das europäische Innovationsklima für KI-Anwendungen der kommenden Jahre entscheidend beeinflussen.

Auf die Frage nach dem „wann“ hat Exekutiv-Vizepräsidentin Margrethe Vestager auf der Pressenkonferenz zum Gesetzesentwurf paraphrasiert mit „schnellstmöglich“ geantwortet. Laut Webseite der EU-Kommission wird es ab der zweiten Hälfte 2022 eine Übergangsphase geben. Mit den ersten Konformitätsbewertungen ist frühestens Ende 2024 zu rechnen. Das sind noch deutlich mehr als drei Jahre, sehr wahrscheinlich werden es mehr. Mit Blick auf die europäische Innovationskraft und die rasante Entwicklung des (globalen) Markts für KI-Anwendungen bietet das durchaus Anlass zur Sorge. Während der mehrjährigen Umsetzungsphase des Entwurfs in die Praxis kann nicht einfach der Pause-Knopf gedrückt werden. Die Entwicklung von KI-Anwendungen wird weiter voranschreiten und neue Produkte werden auf den Markt drängen. Unklarheit darüber, wann der Gesetzentwurf in Kraft tritt, kann sich als großes Innovationshemmnis herausstellen.

Was sieht die EU für die Übergangsphase bis zur tatsächlichen Umsetzung vor? Sieht sie überhaupt etwas vor? Welche Möglichkeiten hat ein Unternehmen, das jetzt eine KI-Anwendung entwickeln will, für die ein gewisses Risiko erkennbar ist? Wird es eine Stelle geben, die bei der Einschätzung des potenziellen Risikos nach zukünftiger EU-Verordnung unterstützt? Kann das Unternehmen damit rechnen, dass es seine Entwicklung während der Übergangsphase auf den Markt bringen kann, vielleicht unter definierter Beobachtung (durch die EU)? Oder ist damit zu rechnen, dass potenziell kritische KI-Anwendungen zunächst mit einem temporären Bann versehen werden? Welchen Kurs die EU für die Übergangsphase einschlägt, wird direkten Einfluss auf das Innovationsklima haben. Je länger diese Phase dauert, desto mehr.

Im Hinblick auf die Stärke der Regulierung verfolgt die EU eine „je höher das Risiko, desto strenger die Regeln“ Strategie. Der klassische „Bremsklotz“ der absoluten Risikovermeidung, der die Innovationsgeschwindigkeit in Europa und Deutschland im Vergleich zu Ländern wie USA oder China oft deutlich verlangsamt, ist im aktuellen Gesetzentwurf nur für KI-Anwendungen mit einem nicht akzeptierbaren Risiko erkennbar (z. B. Social Scoring Systeme). Diese sollen schlicht verboten werden und geben an der Stelle zumindest klare Handlungssicherheit. Anwendungen mit einem hohen Risiko sollen genehmigungspflichtig sein. Und für bestimmte Anwendungen sind spezifische Transparenzverpflichtungen vorgesehen. 

Was KI-Entwickler*innen für die Genehmigung einer Hochrisikoanwendung in Zukunft genau erbringen müssen, bleibt im Entwurf jedoch unklar. Die Ziele der Konformitätsbewertungen sind in der Regel als Werte formuliert, wie „Datensätze müssen repräsentativ sein“, Grenz- oder Richtzahlen fehlen bislang. Wie zum Beispiel die stark von der Anwendungsdomäne abhängigen Anforderungen an die Erklärbarkeit von KI-Systemen in die Konformitätsbewertung einfließen werden, ist eine weitere offene Frage. Insgesamt ist daher schwer abschätzbar, wie hoch die Gefahr einer innovationsfeindlichen Überregulierung ist, die - durch möglicherweise zu hohe Zertifizierungsanforderungen - die schnelle Platzierung von Innovationen am Markt beeinträchtigt.

Um dem Anspruch gerecht zu werden, Unternehmen jetzt zur Entwicklung von KI-Anwendungen außerhalb des verbotenen Bereichs zu ermuntern, muss sich die EU neben dem „wie“ vor allem auch zum „wann“ und dem „was passiert bis dahin“ klar positionieren. Das vorgesehene Regulierungsökosystem hat perspektivisch viele Vorteile aber auch den Nachteil, dass seine Komplexität die nun noch notwendigen Schritte bis zum finalen Gesetz wahrscheinlich zu stark verlangsamt. 

Es existieren bereits heute KI-Anwendungen am Markt, die voraussichtlich der Hochrisikokategorie zugeordnet werden. Dazu zählen beispielsweise Anwendungen für das Screening von Arbeitnehmerbewerbungen oder für die Arbeitsplanung. Auch für die dringend notwendige Unterstützung der öffentlichen Verwaltung wurden erste KI-basierte-Dienste entwickelt. Für solche KI-Anwendungen existiert weltweit ein enorm hohes Marktpotenzial. Europäische und deutsche Start-ups oder andere Unternehmen können sie mindestens genauso gut entwickeln wie amerikanische. Dauert die Konkretisierung des Gesetzentwurfs zu lange, geraten europäische und deutsche Unternehmen unter Umständen ins Hintertreffen, da der Heimatmarkt in der Regel sinnvollerweise der erste Schritt der Produkteinführung ist, bevor internationalisiert wird.  

Die meisten, auch heute schon verfügbaren KI-Anwendungen werden voraussichtlich außerhalb des Hochrisikobereichs verortet und unter die Kategorie der Anwendungen fallen, die spezifische Transparenzanforderungen erfüllen müssen. Auch hier würde eine rasche Konkretisierung der Anforderungen europäischen und deutschen KI-Anbietern eine bessere Handlungssicherheit ermöglichen und ein mögliches Zögern bei der Markteinführung verhindern. 

Besonders für Anbieter von Hochrisikoanwendungen aber auch für viele anderen KI-Anbieter ist daher eine rasche Präzisierung, wie oben gefordert, essenziell. Die angesetzten, und sehr wahrscheinlich eher optimistisch eingeschätzten, dreieinhalb Jahre bis zur Gesetzesreife erscheinen angesichts des rasant aufkommenden Wettbewerbs bereits deutlich zu lang. 

Autoren:
Nicole Wittenbrink und Steffen Wischmann, Institut für Innovation und Technik (iit) in der VDI/VDE-IT GmbH

Ansprechpartnerin im VDI:
Dr.-Ing. Dagmar Dirzus
VDI-Topthema Digitale Transformation
E-Mail-Adresse: dirzus@vdi.de