Künstliche Intelligenz ist zu einem wichtigen Innovationsmotor in fast allen relevanten Branchen geworden – sie unterstützt die Entwicklung der Medizin, optimiert Transport und Logistik, automatisiert Geschäftsprozesse und erhöht die Sicherheit von Bank- und Versicherungsdienstleistungen. Ihr rasantes Wachstum birgt aber auch eine Reihe von Gefahren, die entsprechende Maßnahmen und Regelungen erfordern. Erfahren Sie, was das KI-Gesetz ist, welche Regeln es einführt und wie es die Entwicklung von digital orientierten Unternehmen beeinflussen könnte.
Die wichtigsten Aspekte dieses Artikels
- Die neuen, in der EU eingeführte Vorschriften verpflichten die Unternehmen, ihre KI-Systeme auf bestimmte Standards zu bringen, und sehen bei Nichteinhaltung hohe Geldstrafen vor.
- Die Umsetzung von KI im Einklang mit dem KI-Gesetz erfordert von den Unternehmen einen strategischen Ansatz und eine enge Zusammenarbeit zwischen Rechts-, Technologie- und Betriebsteams.
- Die ordnungsgemäße Umsetzung der Vorschriften ermöglicht es Unternehmen nicht nur, das Gesetz einzuhalten, sondern auch das Vertrauen ihrer Kunden zu gewinnen und sich einen starken Wettbewerbsvorteil zu verschaffen.
Bedrohungen und Herausforderungen der KL – warum braucht die künstliche Intelligenz eine Regulierung?
Mit der rasanten Entwicklung der künstlichen Intelligenz wächst auch die Zahl der potenziellen Bedrohungen und Gefahren, die sie mit sich bringt – Verletzungen der Privatsphäre, Manipulation von Informationen oder Algorithmen, die bestimmte gesellschaftliche Gruppen diskriminieren – stetig an. Die KI entwickelt sich so rasant, dass die gesetzlichen Regelungen damit nicht Schritt halten können. Das Fehlen klarer Regeln und ethischer Standards führt zu Situationen, in denen KI auf schädliche Weise eingesetzt werden kann – daher die Notwendigkeit, die Vorschriften ständig anzupassen. Aus diesem Grund hat die Europäische Union die KI-Akte geschaffen – die erste umfassende Gesetzgebung zur Regulierung von KI auf EU-Ebene.
KI-Gesetz – Gewährleistung von Transparenz, Sicherheit und Innovation
Das KI-Gesetz zielt darauf ab, die Sicherheit der Nutzer zu gewährleisten und die Menschenrechte zu schützen, indem es klare Vorschriften für die Entwicklung und den Einsatz von KI einführt. Die wichtigsten Ziele des KI-Gesetzes sind:
- Gewährleistung von Transparenz – KI-Nutzer müssen sich darüber im Klaren sein, wie die Systeme funktionieren und wie sie kontrolliert werden können.
- Schutz der Grundrechte – Verbot des Einsatzes von KI in menschenrechtswidriger Weise, z. B. bei Manipulationssystemen oder illegaler Gesichtserkennung.
- Förderung der Innovation – Schaffung eines Rahmens, der die Entwicklung verantwortungsvoller und sicherer KI-basierter Technologien ermöglicht.
Ab wann gelten die ersten Verordnungen?
Anfang Februar 2025 veröffentlichte die Europäische Kommission Leitlinien zu verbotenen Praktiken im Zusammenhang mit künstlicher Intelligenz, die in der Verordnung (EU) 2024/1689 KI-Gesetz definiert sind. Die vollständige Fassung des Gesetzes ist in 24 Sprachen verfügbar und es gibt Tools wie AI Act Explorer, Summary of the AI Act oder EU AI Act Compliance Checker, die Ihnen helfen, die Vorschriften zu verstehen.
Die Verordnungen werden schrittweise von 2025 bis 2027 in Kraft treten, und bei Nichteinhaltung drohen hohe Geldstrafen – bis zu 35 Millionen Euro oder 7 % des weltweiten Umsatzes eines Unternehmens. Deshalb ist es so wichtig, sich mit den neuen Vorschriften vertraut zu machen, sie sorgfältig zu analysieren und sich auf ihre Umsetzung vorzubereiten.
Bei Nichteinhaltung der neuen Vorschriften drohen empfindliche Geldstrafen von bis zu 35 Millionen Euro oder 7% des weltweiten Umsatzes eines Unternehmens.
Seit dem 2. Februar 2025 sind die Kapitel I und II (Artikel 1-5) in Kraft, in denen die wichtigsten Anforderungen an die künstliche Intelligenz festgelegt sind. Kapitel I Artikel 3 enthält unter anderem eine Definition von KI, während Artikel 4 desselben Kapitels die Zuständigkeiten für KI definiert. In Kapitel II, Artikel 5 wird beschrieben, welche Praktiken ein unannehmbares Risiko der Verletzung von Grundrechten darstellen, kurz gesagt, welche Praktiken verboten sind.
Darüber hinaus ist jeder EU-Mitgliedstaat für die Umsetzung des Gesetzes über künstliche Intelligenz in seinen nationalen Rechtsrahmen verantwortlich. Um die Einhaltung und Durchsetzung des Gesetzes zu gewährleisten, müssen die Länder eine Aufsichtsbehörde einrichten, die für die Überwachung von KI-Aktivitäten, die Bewertung der Einhaltung und gegebenenfalls die Verhängung von Sanktionen zuständig. Die nationalen Behörden werden mit der Europäischen Kommission und anderen Regulierungsbehörden zusammenarbeiten, um einen einheitlichen Ansatz in der gesamten EU zu gewährleisten.
Aktuelle Definition von AI – der Schlüssel zum Verständnis der Gesetzgebung
Um das KI-Gesetz effektiv einhalten zu können, ist es wichtig, genau zu verstehen, was künstliche Intelligenz im Sinne des Gesetzes ist. In Kapitel I, Artikel 3, definiert das KI-Gesetz KI als Software, die so entwickelt wurde, dass sie mit unterschiedlichem Autonomieniveaus arbeitet und Ergebnisse erzeugt, die sich auf physische oder virtuelle Umgebungen auswirken, basierend auf maschinellen Lernmethoden, logischen oder statistischen Ansätzen. Diese weit gefasste Definition ermöglicht es, sowohl einfache Automatisierungssysteme als auch fortgeschrittene maschinellen Lernalgorithmen zu regulieren.
Ein KI-System ist ein maschinengestütztes System, das so konzipiert ist, dass es mit unterschiedlichem Grad an Autonomie operieren kann und nach der Bereitstellung Anpassungsfähigkeit zeigt, und das für explizite oder implizite Ziele aus den Eingaben, die es erhält, ableitet, wie es Ausgaben wie Vorhersagen, Inhalte, Empfehlungen oder Entscheidungen generieren kann, die physische oder virtuelle Umgebungen beeinflussen können;
KI- Gesetz, Kap.I, Art.3, Abs.1
AI-Risikostufen – was ist erlaubt und was nicht?
Das AI-Gesetz definiert verschiedene Stufen des AI-Risikos.
- Inakzeptable Praktiken (z.B. Manipulation, übermäßige Überwachungssysteme) – sind vollständig verboten (Kapitel II, Artikel 5).
- Hohes Risiko (z. B. KI bei der Personalbeschaffung, Kreditwürdigkeitsprüfung) – Systeme mit diesem Risikoniveau erfordern die Einhaltung von Dokumentations-, Kontroll- und Sicherheitsvorschriften (Kapitel III, Artikel 6, 8-17).
- Begrenztes Risiko (z. B. Chatbots, Inhaltsgeneratoren) – solche Systeme sollten Transparenzanforderungen erfüllen (die Nutzer sollten darüber informiert werden, dass sie mit einem Bot sprechen und dass Inhalte generiert werden). In Kapitel IV wird beschrieben, welche Transparenzverpflichtungen die Anbieter und Implementierer von KI-Systemen haben.
- Geringes oder minimales Risiko – Low-Level-Systeme erfordern keine besonderen Einschränkungen.
Schlussfolgerungen
Unternehmen, die eine erfolgreiche digitale Transformation anstreben, sollten mit den sich weiterentwickelnden KI-Vorschriften Schritt halten und ihre KI-Systeme so anpassen, dass sie im Einklang mit den aktuellen Vorschriften arbeiten. Der sichere Weg bei der Implementierung ethischer KI-Lösungen ist die Wahl eines erfahrenen und zuverlässigen Technologiepartners, der Ihr Unternehmen mit Best Practices in den Bereichen Transparenz, Sicherheit und Compliance versorgen und optimale Lösungen implementieren kann, um Wachstum und Gewinn für Ihr Unternehmen zu fördern.
