Ob Unternehmen oder selbstständiger Webseitenbetreiber – wer Künstliche Intelligenz in seinem Business einsetzt, sollte die neue KI-Verordnung im Auge behalten. Wir informieren Sie umfassend.

1. Worum geht es in der KI-Verordnung?

Die KI-Verordnung der EU, auch bekannt als der AI-Act, ist ein Gesetzesvorschlag, der darauf abzielt, den Einsatz und die Entwicklung von künstlicher Intelligenz (KI) in der Europäischen Union zu regulieren. Der Vorschlag legt Regeln für “Hochrisiko-KI” fest, definiert Transparenzanforderungen und legt Strafen für Verstöße fest. Die Verordnung führt eine Definition für KI in der EU ein, kategorisiert KI-Systeme nach Risiko, legt umfangreiche Anforderungen und notwendige Sicherungsmechanismen für KI-Systeme fest und etabliert Transparenzpflichten. Die KI-Verordnung unterscheidet zwischen KI-Systemen mit geringem Risiko, hohem Risiko und verbotenen KI-Systemen. Hochrisiko-KI-Systeme unterliegen strengeren Regulierungen, während geringes Risiko-KI-Systeme weniger streng reguliert sind.

2. Wie ist der aktuelle Stand der Gesetzgebung?

Der AI-Act wurde im April 2021 von der Europäischen Kommission vorgeschlagen und befindet sich derzeit in der Gesetzgebungsphase. Er muss noch vom Rat der Europäischen Union angenommen werden, bevor er in Kraft treten kann. Die 27 EU-Mitgliedsstaaten haben den AI-Act im Februar  einstimmig gebilligt und damit die im Dezember erzielte politische Einigung bekräftigt. Nach langwierigen Verhandlungen haben die Ratspräsidentschaft und die Verhandlungsführer des Europäischen Parlaments im März 2024 eine vorläufige Einigung über den AI Act erzielt. Es wird erwartet, dass die Vorschriften aus dem EU AI-Act ab 2026 in Deutschland unmittelbar anwendbar werden.

3. Welche Pflichten gibt es im Umgang mit KI?

Unternehmen, die KI-Systeme entwickeln oder einsetzen, haben eine Reihe von Pflichten. Diese Pflichten sind abhängig von der Risikokategorie, in die das KI-System fällt. Die Pflichten können unter anderem die Durchführung einer Risikobewertung, die Einhaltung von Datenschutzbestimmungen, die Gewährleistung der Transparenz von KI-Systemen und die Einrichtung eines Post-Market-Monitoring-Systems umfassen. Es ist wichtig zu beachten, dass diese Pflichten sowohl für Anbieter als auch für Nutzer, also die Unternehmen die KI-Software nutzen, gelten. Anbieter von KI-Systemen müssen sicherstellen, dass ihre Systeme den Anforderungen der KI-Verordnung entsprechen, bevor sie auf den Markt gebracht werden. Nutzer von KI-Systemen müssen sicherstellen, dass sie die Systeme gemäß den Anforderungen der Verordnung nutzen.

4. Geringes Risiko, Hochrisiko und verbotene KI

Die KI-Verordnung unterscheidet zwischen KI-Systemen mit geringem Risiko, hohem Risiko und verbotenen KI-Systemen. Hochrisiko-KI-Systeme unterliegen strengeren Regulierungen, während geringe Risiko-KI-Systeme weniger streng reguliert sind. Einige KI-Anwendungen, wie beispielsweise Echtzeit-Gesichtserkennungssysteme, sind unter bestimmten Umständen verboten. Die Kategorisierung eines KI-Systems in eine dieser Risikokategorien bestimmt die spezifischen Anforderungen und Pflichten, die für das System gelten. Es ist wichtig, dass Unternehmen, die KI-Systeme entwickeln oder einsetzen, die Risikokategorie ihres Systems verstehen, um sicherzustellen, dass sie alle relevanten Anforderungen und Pflichten erfüllen.

5. Welche Strafen erwarten Unternehmen?

Unternehmen, die gegen die KI-Verordnung verstoßen, können mit erheblichen Strafen konfrontiert werden. Die Höhe der Strafe hängt von der Schwere des Verstoßes ab und kann bis zu 30 Millionen Euro oder 6% des weltweiten Jahresumsatzes des Unternehmens betragen, je nachdem, welcher Betrag höher ist. Für weniger schwerwiegende Verstöße, wie beispielsweise die Bereitstellung von falschen, unvollständigen oder irreführenden Informationen, können Strafen von bis zu 10 Millionen Euro oder 2% des weltweiten Jahresumsatzes verhängt werden.

6. Was sollte man als Unternehmen tun?

Unternehmen sollten sich über die Anforderungen der KI-Verordnung informieren und sicherstellen, dass ihre KI-Systeme konform sind. Dies könnte die Durchführung einer Risikobewertung, die Anpassung von Datenschutzpraktiken oder die Implementierung von Transparenzmaßnahmen beinhalten. Darüber hinaus sollten Unternehmen analysieren, wo sie möglicherweise nicht konform sind und dann die erforderlichen Schritte operationalisieren oder implementieren, um die Lücken auf eine Weise zu schließen, die die interne Ausrichtung widerspiegelt. Es ist wichtig, dass Vorstände, Führungskräfte und Manager diesen Prozess steuern und sicherstellen, dass ihre Unternehmen konform sind, wenn die Verordnung in Kraft tritt.

7. Fazit

Die KI-Verordnung der EU ist ein wichtiger Schritt in Richtung einer regulierten KI-Landschaft in Europa. Unternehmen, die KI-Systeme entwickeln oder einsetzen, sollten sich über die Anforderungen informieren und Maßnahmen ergreifen, um die Konformität zu gewährleisten. Während der Gesetzgebungsprozess fortschreitet, ist es wichtig, auf dem Laufenden zu bleiben und bereit zu sein, sich an Änderungen anzupassen.

Bildquelle: Bild 7111795 von tungngyen0905 auf pixabay