Die EU-Kommission will die Anwendung von Künstlicher Intelligenz (KI) regulieren. In einigen wenigen Bereichen soll die Verwendung von KI grundsätzlich verboten werden, wie aus einem Gesetzesentwurf der Brüsseler Behörde hervorgeht, welcher der Nachrichtenagentur AFP am Dienstag vorlag. Andere Anwendungen sollen als „risikoreich“ eingestuft werden und bräuchten demnach eine spezielle Zulassung.
Laut dem Gesetzesentwurf, der am Mittwoch vorgestellt werden soll, könnten etwa Möglichkeiten der „generalisierten Überwachung“ der Bevölkerung mit Künstlicher Intelligenz verboten werden. Auch Instrumente „zur Manipulation des Verhaltens, der Meinungen oder der Entscheidungen“ der Bürger sowie Systeme zur „sozialen Bewertung“ von Menschen aufgrund ihres Verhaltens oder ihrer Persönlichkeit wären nicht zugelassen.
Als „risikoreich“ könnten dem Gesetzesentwurf zufolge die „biometrische Fernidentifizierung von Personen an öffentlichen Orten“ und „Sicherheitselemente in kritischen öffentlichen Infrastrukturen“ eingestuft werden. Für Instrumente der Gesichtserkennung in Videoüberwachungssystemen wären also Bewertung und Zulassung durch eine Kontrollbehörde nötig, bevor ein entsprechendes Produkt auf den Markt gebracht werden kann.
Ausnahmen sind für Fälle vorgesehen, in denen der entsprechende KI-Einsatz dem Schutz der öffentlichen Sicherheit dient. Die militärische Anwendung von KI decken die Vorschriften grundsätzlich nicht ab.
Eine zweite Risiko-Kategorie umfasst beispielsweise Priorisierungssyteme in Notaufnahmen, Instrumente für die Personalsuche oder zur Beurteilung der Kreditwürdigkeit. In diesen Fällen soll der jeweilige Anbieter die Regelkonformität seines Produktes garantieren. Für alle weiteren Anwendungen Künstlicher Intelligenz sollen demnach keine Anforderungen gelten, die über die üblichen Regeln zur Produktsicherheit hinausgehen.
Unter Künstlicher Intelligenz wird die Fähigkeit von Maschinen subsumiert, menschliche Intelligenz zu imitieren und eigenständig dazuzulernen, ohne dabei auf Anweisungen eines menschlichen Entwicklers angewiesen zu sein. KI-Anwendungen wie Sprach- und Gesichtserkennung, leistungsfähige Roboter und selbstfahrende Autos werden zunehmend von Verwaltungen, in den Bereichen Medizin und Bildung, aber auch im Privatsektor eingesetzt.
KI gilt als vielversprechend für die Verbesserung der Industrieproduktion oder auch landwirtschaftlicher Erträge. Mit ihrer Hilfe sollen der Energieverbrauch optimiert und der Verkehr besser organisiert werden. Auch beim Umweltschutz, im Gesundheitswesen und vielen anderen Bereichen soll KI zum Einsatz kommen.
Die EU-Kommission will nach eigenen Angaben einen klaren Rechtsrahmen für den Einsatz von KI schaffen, der auch die Innovation in diesem Bereich fördern soll. Als Vorreiter gelten hier bislang die USA und China.