Seit Juni 2025 gelten in der Europäischen Union strengere Regulierungen für Künstliche Intelligenz (KI). Der EU AI Act, der weltweit erste umfassende Rechtsrahmen für KI, zielt darauf ab, die Entwicklung und Nutzung von KI-Systemen sicherer und transparenter zu gestalten. Die Verordnung betrifft alle Unternehmen, die KI in der EU einsetzen, entwickeln oder vertreiben, unabhängig davon, wo sie ihren Sitz haben. Besonders im Fokus stehen Hochrisiko-KI-Systeme, die in sensiblen Bereichen wie Medizin, Personalwesen oder öffentlicher Sicherheit eingesetzt werden. Diese Systeme unterliegen nun strengen Auflagen und müssen umfangreiche Sicherheits- und Transparenzanforderungen erfüllen.

Die neuen Regelungen sehen unter anderem vor, dass Unternehmen ihre KI-Systeme einer Risikobewertung unterziehen und entsprechende Maßnahmen zur Risikominderung ergreifen müssen. Zudem sind Schulungen für Mitarbeitende im sicheren Umgang mit KI verpflichtend. Verstöße gegen die Verordnung können mit hohen Geldstrafen geahndet werden. Die EU-Kommission betont, dass die neuen Regeln nicht nur den Schutz der Bürgerinnen und Bürger gewährleisten sollen, sondern auch die Innovationskraft der europäischen Wirtschaft stärken. Durch klare Vorgaben und Standards soll das Vertrauen in KI-Technologien gefördert und deren verantwortungsvoller Einsatz sichergestellt werden.

Ein zentrales Element des EU AI Acts ist die Einteilung von KI-Anwendungen in verschiedene Risikoklassen. Verbotene Praktiken, wie etwa Social Scoring oder die biometrische Kategorisierung nach sensiblen Kriterien, sind strikt untersagt. Hochrisiko-KI-Systeme müssen strenge Anforderungen an Transparenz und Sicherheit erfüllen, während geringere Risiken mit weniger strengen Auflagen verbunden sind. Diese differenzierte Herangehensweise soll sicherstellen, dass die Regulierung sowohl den Schutz der Bürger als auch die Bedürfnisse der Wirtschaft berücksichtigt.

Die Umsetzung des EU AI Acts wird von nationalen Behörden überwacht, die für die Einhaltung der Vorschriften sorgen und bei Verstößen entsprechende Maßnahmen ergreifen. Unternehmen sind daher gut beraten, sich frühzeitig mit den neuen Anforderungen auseinanderzusetzen und ihre KI-Systeme entsprechend anzupassen. Die EU-Kommission bietet hierzu umfangreiche Unterstützung und Leitfäden an, um den Übergang zu erleichtern und sicherzustellen, dass die neuen Regelungen effektiv umgesetzt werden.

Quellen