Navigieren durch die KI-Regulierungslandschaft: Was der EU AI Act (EU Gesetz zur künstlichen Intelligenz) für Ihre Vereinbarungen bedeutet

Den EU AI Act (EU Gesetz zur künstlichen Intelligenz) verstehen

Im Kern zielt das EU-KI-Rahmenwerk (oder KI-Gesetz) darauf ab, einen weltweit einzigartigen, harmonisierten Rechtsrahmen für die Anwendung von künstlicher Intelligenz zu schaffen. Sein vorrangiges Ziel ist es, sicherzustellen, dass KI-Systeme, die auf dem europäischen Markt eingesetzt werden, sicher, transparent und vertrauenswürdig sind.

Das Rahmenwerk basiert auf einem risikobasierten Ansatz und unterteilt KI-Systeme vereinfacht in vier Kategorien:

• Inakzeptables Risiko: KI, die menschliches Verhalten oder soziale Bewertungen manipuliert, ist verboten.

• Hohes Risiko: KI, die in kritischen Bereichen wie Gesundheitswesen, Strafverfolgung, Bildung und Personalwesen eingesetzt wird. Diese Systeme unterliegen strengen Anforderungen und Compliance-Prüfungen.

• Begrenztes Risiko: KI-Systeme mit spezifischen Transparenzverpflichtungen, wie z. B. Chatbots, die offenlegen müssen, dass sie keine Menschen sind.

• Minimales/geringes Risiko: Die überwiegende Mehrheit der KI-Systeme, wie z. B. Spamfilter, die keine verbindlichen Verpflichtungen haben.

Für Unternehmen ist die Kategorie „hohes Risiko” am wichtigsten. Die Verwendung oder der Einsatz eines KI-Systems mit hohem Risiko erfordert ein robustes Risikomanagement, technische Dokumentation und menschliche Aufsicht – all dies muss überprüfbar sein.

Der Weg zum KI-Gesetz

Der Weg zum EU-KI-Gesetz war ein mehrjähriger Prozess. Die Europäische Kommission veröffentlichte ihren Vorschlag für eine Verordnung über KI erstmals im April 2021. Der endgültige Text wurde im März vom Europäischen Parlament und im Mai 2024 vom EU-Rat verabschiedet. Die Verordnung trat am 1. August 2024 mit einem stufenweisen Umsetzungsplan offiziell in Kraft. Das Verbot von KI-Systemen mit inakzeptablen Risiken trat im Februar 2025 in Kraft, wobei die vollständige Einhaltung für Hochrisikosysteme erst im August 2026 erforderlich ist.

Die Auswirkungen auf Ihr Unternehmen und Ihre Verträge

Unabhängig vom regulatorischen Ansatz ist die Botschaft für Unternehmen klar: KI-Governance ist da. Jedes neue KI-Tool, das Sie anschaffen, jeder Anbieter, mit dem Sie zusammenarbeiten, und jede interne Richtlinie, die Sie festlegen, schafft eine Reihe neuer Vereinbarungen, die präzise verwaltet werden müssen.

Dies bringt eine Reihe neuer Herausforderungen mit sich:

• Neue Lieferantenverträge: Wie stellen Sie sicher, dass Ihre KI-Lieferanten die Vorschriften einhalten und ihre Verträge die erforderlichen Klauseln zu Haftung und Daten-Governance enthalten?

• Nachweis der Compliance: Wie dokumentieren Sie sicher die Risikobewertungen, technischen Spezifikationen und menschlichen Kontrollen, die für risikoreiche KI-Systeme erforderlich sind?

• Interne Richtlinien: Wie erhalten Sie eine schnelle und überprüfbare Genehmigung für neue Mitarbeiterrichtlinien zur KI-Nutzung?

Partnerschaft für KI-Governance

Wir bei Docusign wissen, dass eine effektive KI-Governance mehr als nur eine neue Richtlinie erfordert – sie erfordert einen robusten, durchgängigen Prozess. Wir arbeiten daran, uns an geltende Gesetze und Rahmenwerke anzupassen, darunter das EU-KI-Gesetz und das NIST AI RMF, um sicherzustellen, dass unsere Plattform ein zentraler Bestandteil Ihres Compliance-Toolkits ist.

So kann Ihnen das intelligente Vertragsmanagement (IAM) von Docusign und die speziell dafür geschaffene KI IRIS dabei helfen, sich in dieser neuen Landschaft zurechtzufinden:

• Zentralisierte Verwaltung: Verwenden Sie Docusign CLM, um alle Verträge mit KI-Anbietern zentral zu speichern und zu verwalten, sodass sie leicht durchsuchbar und für behördliche Kontrollen überprüfbar sind.

• Proaktive Risikominderung: Nutzen Sie die KI-gestützte Überprüfung, um Klauseln in Verträgen mit KI-Anbietern, die Sie einem Risiko oder einer Nichteinhaltung aussetzen könnten, automatisch zu kennzeichnen und zu markieren.

• Sichere Zusammenarbeit: Nutzen Sie Workspaces, um Ihre KI-Risikobewertungen sicher mit Rechts-, IT- und Compliance-Teams zu dokumentieren und gemeinsam daran zu arbeiten, und schaffen Sie so eine einzige Quelle für alle Governance-Dokumente.

• Sichere Einwilligung: Für KI-gestützte Dienste, die eine ausdrückliche Einwilligung des Kunden erfordern, nutzen Sie Docusign eSignature in Verbindung mit unserer fortschrittlichen Identitätsprüfung, um einen sicheren, überprüfbaren und konformen Einwilligungsprozess zu gewährleisten.

In einer Zeit, in der KI immer schneller Einzug hält, hat sich Docusign zum Ziel gesetzt, Ihnen dabei zu helfen, Compliance von einem Hindernis zu einem Geschäftsfaktor zu machen. Indem wir eine sichere und überprüfbare Grundlage für alle Ihre KI-bezogenen Vereinbarungen schaffen, sorgen wir dafür, dass Ihr Weg in die Zukunft nicht nur innovativ, sondern auch sicher, transparent und konform ist.

Weitere häufige Fragen zum Thema

Was ist der EU AI Act oder artificial intelligence act?

Als weltweit erste umfassende Regulierung für künstliche Intelligenz schafft der AI Act klare Rahmenbedingungen für den europäischen Markt. Die Verordnung definiert präzise Anforderungen an KI-Systeme und deren Anbieter, um Innovation zu fördern und gleichzeitig Grundrechte zu schützen.

Die Regelungen betreffen alle Unternehmen, die KI-Systeme in der EU bereitstellen oder nutzen - unabhängig von ihrem Standort. Besonders relevant sind die Dokumentationspflichten für Anbieter von KI-Systemen mit allgemeinem Verwendungszweck, die ab August 2025 gelten.

Mit einem europäischen KI-Büro als zentrale Aufsichtsbehörde und nationalen Durchsetzungsstellen in den Mitgliedsstaaten entsteht eine neue Governance-Struktur. Bei Verstößen drohen Strafen von bis zu 35 Millionen Euro oder 7 Prozent des weltweiten Jahresumsatzes.

Wurde der EU AI Act bzw. die neue EU KI Verordnung bereits verabschiedet?

Die EU-KI-Verordnung hat alle legislativen Hürden genommen. Nach der Zustimmung des EU-Parlaments im März 2024 und der finalen Verabschiedung durch den Rat im Mai 2024 wurde der AI Act am 12. Juli 2024 im EU-Amtsblatt veröffentlicht.

Die Verordnung ist am 1. August 2024 offiziell in Kraft getreten und wird nun schrittweise implementiert. Ab Februar 2025 greifen bereits die ersten Verbote für risikoreiche KI-Systeme. Anbieter von KI-Systemen mit allgemeinem Verwendungszweck müssen bis August 2025 die neuen Transparenzanforderungen erfüllen.

Die EU-Mitgliedstaaten arbeiten derzeit an der Einrichtung ihrer nationalen Aufsichtsbehörden. Diese werden zusammen mit dem neu geschaffenen EU-KI-Büro die Einhaltung der Vorschriften überwachen und die praktische Umsetzung der Verordnung begleiten.

Was regelt der EU AI Act? - eine kurze Zusammenfassung

Der EU AI Act führt ein neuartiges Risiko-Klassifizierungssystem für KI-Anwendungen ein. Dieses System unterteilt KI-Lösungen in verschiedene Kategorien - von minimal bis inakzeptabel - und legt entsprechende Anforderungen fest.

Für Unternehmen bedeutet dies konkrete Verpflichtungen: KI-Systeme mit allgemeinem Verwendungszweck müssen technische Dokumentationen bereitstellen und Transparenzanforderungen erfüllen. Bei Hochrisiko-Anwendungen sind zusätzlich robuste Kontrollmechanismen und regelmäßige Überprüfungen erforderlich.

Der Gesetzgeber setzt dabei auf einen ausgewogenen Ansatz zwischen Innovation und Sicherheit. Während bestimmte KI-Praktiken wie soziales Scoring verboten werden, bleiben viele Anwendungen mit entsprechenden Schutzmaßnahmen erlaubt. Für kleine und mittlere Unternehmen sind spezielle Unterstützungsmaßnahmen wie regulatorische Sandboxes vorgesehen.

Wann wurde der EU AI Act verabschiedet bzw. wann ist der EU AI Act in Kraft getreten?

Der EU AI Act markiert einen historischen Meilenstein in der KI-Regulierung. Nach der Veröffentlichung im EU-Amtsblatt am 12. Juli 2024 trat die Verordnung am 1. August 2024 offiziell in Kraft. Die praktische Umsetzung erfolgt in mehreren Phasen:

Ab Februar 2025 müssen Unternehmen KI-Systeme mit inakzeptablen Risiken vom Markt nehmen. Anbieter von KI-Systemen mit allgemeinem Verwendungszweck haben bis August 2025 Zeit, die neuen Transparenzanforderungen zu implementieren. Die vollständige Anwendung der Verordnung - mit Ausnahme bestimmter Hochrisiko-KI-Systeme - ist für den 2. August 2026 vorgesehen.

Das europäische KI-Büro unterstützt dabei als zentrale Koordinierungsstelle die nationalen Aufsichtsbehörden bei der einheitlichen Durchsetzung der neuen Vorschriften.

Was sagt der Artikel 4 des EU AI Acts?

Unternehmen müssen ab Februar 2025 sicherstellen, dass ihre Mitarbeiter über ausreichende KI-Kompetenzen verfügen. Diese neue Anforderung betrifft sowohl Anbieter als auch Betreiber von KI-Systemen und verlangt nachweisbare Maßnahmen zur Qualifizierung des Personals.

Der Gesetzgeber berücksichtigt dabei die individuellen Voraussetzungen: technische Kenntnisse, Berufserfahrung und spezifische Einsatzszenarien fließen in die Bewertung ein. Mit Docusign CLM können Sie diese Qualifizierungsprozesse systematisch dokumentieren und nachverfolgen.

Für die praktische Umsetzung empfiehlt sich ein mehrstufiger Ansatz: Identifizieren Sie zunächst die relevanten Mitarbeitergruppen, entwickeln Sie passende Schulungskonzepte und implementieren Sie ein kontinuierliches Monitoring der KI-Kompetenzen. Die Europäische Kommission wird bis Februar 2026 detaillierte Leitlinien zur konkreten Ausgestaltung veröffentlichen.

Welche Implikationen hat das KI Gesetzt für Deutschland?

Deutschland steht bei der Umsetzung des AI Acts vor der Aufgabe, nationale Strukturen mit den EU-Vorgaben in Einklang zu bringen. Die Bundesnetzagentur wird voraussichtlich als zentrale Aufsichtsbehörde fungieren und eng mit dem europäischen KI-Büro zusammenarbeiten.

Für deutsche Unternehmen bedeutet dies konkrete Handlungsfelder: Sie müssen ihre KI-Systeme systematisch erfassen und entsprechend der Risikoklassen bewerten.

Die Einrichtung regulatorischer Sandboxes bis Februar 2025 bietet besonders für den deutschen Mittelstand Chancen zur Innovation. Nutzen Sie unsere Vertragsmanagement-Lösungen, um Ihre KI-Compliance rechtssicher zu gestalten und gleichzeitig Ihre Wettbewerbsfähigkeit zu stärken.

Was hat es mit dem Gesetz zur Durchführung der KI-Verordnung in Deutschland auf sich?

Die EU-KI-Verordnung betrifft nicht nur die IT, sondern direkt das Management. Es drohen hohe Bußgelder (bis 35 Mio. € oder 7 % Umsatz) und persönliche Haftung, wenn Aufsichts- oder Dokumentationspflichten verletzt werden.

Die Bundesnetzagentur übernimmt eine zentrale Rolle bei der Überwachung, Meldestelle und Beratung und erhält eine neue Kammer (UKIM) für sensible Grundrechtsthemen. Die Behörden erhalten weitreichende Prüfungsrechte, einschließlich Vor-Ort-Kontrollen und Fernzugriff. Betroffene Unternehmen müssen umgehend handeln, indem sie KI-Anwendungen erfassen und kategorisieren, interne Prozesse und Verantwortlichkeiten klären sowie Lieferantenverträge und Compliance-Strukturen anpassen. Obwohl es Kritik an der Zentralisierung gibt, werden auch Vorteile durch klare Zuständigkeiten und Fachkompetenz gesehen. Angesichts der Tatsache, dass erste Verbote bereits seit Februar 2025 gelten, besteht dringender Handlungsbedarf.