Der AI Act ist das erste Recht auf EU-Ebene, das den Einsatz von Künstlicher Intelligenz (KI) reguliert. Er hat das Potenzial, Auswirkungen auf europäische Unternehmen zu haben, einschließlich deutscher Unternehmen.

Was ist der AI Act?

Der AI Act ist ein Vorschlag für eine Verordnung der Europäischen Kommission zur Festlegung eines Rechtsrahmens für KI-Systeme. Das Ziel des Gesetzes ist es, die Sicherheit und den Vertrauensschutz von KI-Systemen in der EU zu gewährleisten.

Wie wirkt sich der AI Act auf deutsche Unternehmen aus?

Der AI Act hat weitreichende Auswirkungen auf deutsche Unternehmen. Hier sind einige wichtige Aspekte:

1. Risikobasierte Anforderungen: Der AI Act führt eine Klassifizierung von KI-Systemen basierend auf ihrem Risiko ein. Hoheres Risiko bedeutet höhere Anforderungen. Deutsche Unternehmen müssen das Risiko ihrer KI-Systeme bewerten und entsprechend handeln.
2. Dokumentationspflichten: Unternehmen müssen detaillierte Dokumentationen über ihre KI-Systeme führen, einschließlich Informationen über den Entwicklungsprozess, die verwendeten Daten und Methoden sowie eine Beschreibung der Funktionsweise des Systems.
3. Transparenz: Der AI Act erfordert Transparenz in Bezug auf das Funktionieren von KI-Systemen. Unternehmen müssen sicherstellen, dass ihre KI-Systeme transparent sind und Benutzer über das Funktionieren des Systems informiert werden.
4. Ethik-Richtlinien: Unternehmen müssen sicherstellen, dass ihre KI-Systeme den ethischen Grundsätzen entsprechen, die in der EU-Verordnung festgelegt sind.

Beispiel:

Nehmen wir an, ein deutsches Unternehmen entwickelt eine KI-basierte Personalauswahl-Plattform. Gemäß dem AI Act würde dieses System als hochriskant eingestuft werden, da es direkt auf den Arbeitsmarkt und die Diskriminierung wirkt. Das Unternehmen müsste daher detaillierte Dokumentationen führen und sicherstellen, dass das System transparent ist und keine Diskriminierung aufgrund von Geschlecht, Rasse oder anderen geschützten Eigenschaften verursacht.

Was müssen deutsche Unternehmen beachten?

1. Verantwortungsvolle Entwicklung: Unternehmen müssen sicherstellen, dass ihre KI-Systeme verantwortungsvoll entwickelt werden und den ethischen Grundsätzen entsprechen.
2. Risikobewertung: Unternehmen müssen das Risiko ihrer KI-Systeme bewerten und entsprechend handeln, indem sie geeignete Maßnahmen ergreifen, um potenzielle negative Auswirkungen zu minimieren.
3. Dokumentation und Transparenz: Unternehmen müssen detaillierte Dokumentationen führen und sicherstellen, dass ihre KI-Systeme transparent sind.
4. Einbeziehung des Betriebsrats: Rahmenregelungen für KI-Systeme müssen mit dem Betriebsrat abgesprochen werden.

Fazit

Der AI Act hat das Potenzial, die Art und Weise zu ändern, wie deutsche Unternehmen KI-Systeme entwickeln und einsetzen. Es ist wichtig, dass Unternehmen das Risiko ihrer KI-Systeme bewerten und sicherstellen, dass ihre Systeme den ethischen Grundsätzen entsprechen.