Künstliche Intelligenz: Wirtschaft warnt vor „massiven Einschränkungen“ durch AI Act

Brüssel will einen Standard prägen, wie die Technologie in Zukunft gestaltet wird, auch über die Grenzen Europas hinaus. Bei der KI-Entwicklung konkurrieren grundsätzlich die USA und China darum, wer Weltmarktführer wird. Geht es um Geld und Talent, Daten und Rechenleistung, liegt Europa im Vergleich zu den beiden anderen Wirtschaftsräumen hinten – doch politisch hat es einen Hebel.

Über die Details der Verordnung dürfte bis zur letzten Minute verhandelt werden. Die Grundzüge lassen Start-up-Gründer, Konzernmanager und Verbandsvertreter schon jetzt eine Regulierung befürchten, die zu großer Verunsicherung führt und stark in die Entwicklung der Technologie eingreift.

Ein IT-Unternehmen warnt, dass durch die breite Definition zahlreiche Produkte reguliert werden, die mit KI wenig zu tun haben. Im Management eines Dax-Konzerns moniert man die „Schwammigkeit“ des Vorhabens. Der Digitalverband Bitkom warnt vor einer „zu starken Fokussierung auf Risiken“. Und der KI-Bundesverband sieht gar „das gesamte KI-Ökosystem und in weiten Teilen auch die Anwendung von Software“ massiv eingeschränkt.

Warum will die EU Künstliche Intelligenz regulieren?

Die EU-Kommission sieht Künstliche Intelligenz als Technologie mit großem Potenzial – im Guten wie im Schlechten. Es bestehe die Chance auf einen „vielfältigen Nutzen für Wirtschaft und Gesellschaft“, ob beim Klimaschutz, im Gesundheitswesen oder in Branchen wie der Mobilität, heißt es im Gesetzentwurf. Allerdings gebe es auch neue Risiken, für den Einzelnen wie die Gesellschaft.

Einige Beispiele belegen das. So moniert die Organisation Algorithm Watch, dass automatisierte Entscheidungssysteme – die oft KI verwenden – immer wieder Menschen diskriminieren, sei es bei der Vergabe von Jobs oder der biometrischen Erkennung von Gesichtern. Zudem fehlt es an Informationen darüber, wie diese Systeme genau funktionieren, was es erschwert, Entscheidungen anzufechten.

Künstliche Intelligenz benötigt große Datenmengen als Lernstoff, der allerdings – auch versteckte – menschliche Vorurteile beinhaltet. Überhaupt ist die Datenqualität von entscheidender Bedeutung für die Ergebnisse. Zudem sind die Ergebnisse der Berechnungen oft schwierig nachzuvollziehen. Der Algorithmus: eine Blackbox.

Die EU-Kommission will daher gewährleisten, dass Forschungseinrichtungen und Firmen Künstliche Intelligenz nach „europäischen Werten“ entwickeln. Dabei besteht die Hoffnung, einen „Goldstandard“ für die Regulierung zu entwickeln: Ähnlich wie bei der DSGVO soll Brüssel Regeln festlegen, die im Idealfall global wirken – und nebenbei den Standort Europa stärken, der aktuell an Bedeutung verliert, schon wegen der Energiepreise.

Wie reguliert der AI Act Künstliche Intelligenz?

Der aktuelle Entwurf des AI Act samt Anhängen ist 125 Seiten lang. Er sieht einen risikobasierten Ansatz vor – die Regeln orientieren sich daran, welches Risiko bei einer bestimmten Technologie angenommen wird: minimal, begrenzt, hoch und inakzeptabel.

Der Fokus des AI Act liegt auf Hochrisikoanwendungen, die nach Einschätzung der Kommission bis 15 Prozent aller KI-Systeme ausmachen. Die Verordnung zählt den Betrieb kritischer Infrastrukturen dazu ebenso wie algorithmisch unterstützte Chirurgie. Auch enthalten: Systeme, die Bewerbungen vorsortieren, sowie die, die eine Prognose zum Verhalten von Straftätern stellen. Risikomodelle von Lebensversicherungen und Bonitätsbewertung im Bankensektor fallen ebenfalls unter diese Definition.

Für diese Anwendungen schreibt der AI Act hohe Auflagen vor: Firmen müssen ein Risikomanagement für Künstliche Intelligenz einführen, Transparenzpflichten gegenüber den Nutzern erfüllen, eine technische Dokumentation mit detaillierten Angaben zu den verwendeten Daten vorlegen und ihr Programm zudem in einer Datenbank der EU eintragen.

Wo könnte es Schwierigkeiten geben?

Die meisten Unternehmen halten sich öffentlich mit Kritik zurück, sie machen ihren Einfluss stattdessen über die Verbände geltend. Diese werden regelmäßig in Berlin und Brüssel vorstellig, ist in Wirtschaftskreisen zu hören. Und tatsächlich berücksichtigt der aktuelle Entwurf des EU-Rats bereits einige Vorschläge.

Trotzdem besteht aus Sicht der Wirtschaft weiter Verbesserungsbedarf. Der maßgebliche Kritikpunkt zielt auf die Definitionen. Der Gesetzentwurf bezeichnet neben „Konzepten des maschinellen Lernens“ auch statistische Ansätze sowie Such- und Optimierungsverfahren als Künstliche Intelligenz. Das schließe nahezu jede Software ein, die heutzutage entwickelt werde, moniert der KI-Bundesverband.

Auch welche Anwendung ein hohes Risiko mit sich bringt, muss aus Sicht der Technologiebranche deutlich genauer definiert werden. So fordert der Bitkom, nicht pauschal Anwendungsfälle zu klassifizieren, sondern konkrete Anwendungen. Nicht jedes Programm für die Personalabteilung sortiert Lebensläufe, nicht jede Software eines Stromversorgers steuert das Netz.

Ein Dax-Konzern kritisiert, es sei unklar, wer bei komplexen Produkten wie Maschinensteuerungen, Robotern oder Autos die bürokratischen Pflichten trage – durch die Abstimmung zwischen den Herstellern und zahlreichen Zulieferern sei mit einem „Riesen-Overhead“ zu rechnen, gerade in der deutschen Industrie.

Diskussionsbedarf sieht die Technologiebranche nicht zuletzt beim Umgang mit Daten: Diese sollen „repräsentativ, fehlerfrei und vollständig“ sein, um beispielsweise die Diskriminierung von unterrepräsentierten Bevölkerungsgruppen zu verhindern. Entwickler verweisen indes darauf, dass hochwertige Datensätze nur sehr begrenzt zur Verfügung stehen. Die Vorgabe dürfte daher schwer zu erfüllen sein.

Mehr: Warum kaum ein Unternehmen in Deutschland KI einsetzt