Künstliche Intelligenz birgt enormes Potenzial für Unternehmen und Behörden: Sei es die digitale Vorgangsbearbeitung, autonomes Fahren, Smart Cities oder sich selbst überwachende Versorgungssysteme. KI verhilft Projekten dieser Art zu einer höheren Effizienz. Einen Rahmen für einen ethisch verantwortungsvollen Umgang mit KI in dieser neuen Lebenswelt hat die EU mit dem AI Act geschaffen. Mit acht Maßnahmen sind Unternehmen und Behörden jetzt selbst gefragt, ihren Arbeitsalltag mit KI zu gestalten.
1. Compliance-Maßnahmen entwickeln und implementieren
Wenn Sie mit der Nutzung von KI starten möchten, sollten Sie sich zunächst fragen: Welche Vorgaben macht der AI Act der EU für die Nutzung von KI? Welche Ziele und Auswirkungen sind damit verbunden? Und was bedeutet dies für die eigene Organisation? Die Compliance-Anforderungen des AI Acts sind als Produktsicherheitsvorschrift zu verstehen. Die EU möchte hier die Nutzung von vertrauenswürdigen KI-Systemen fördern und die Gesellschaft vor Risiken schützen. KI-Anwendungen müssen eine ganze Reihe von Kriterien erfüllen, die sich aus der Grundrechtecharta der EU ableiten. Was das konkret für die eigene Organisation bedeutet, hängt von vielen Faktoren ab, vor allem von der Art der Anwendung und der damit verbundenen Risiken.
Der AI Act unterscheidet vier Risiko-Klassen bei KI-Systemen:
- Minimales Risiko
- Geringes Risiko
- Hochrisiko
- Inakzeptables Risiko (verbotene KI-Praktiken)
Die spezifischen Anforderungen an die Organisation ergeben sich aus ihren Rollen im Zusammenhang mit dem Einsatz von KI sowie der Art der Daten, die beim Training und der Anwendung der KI verarbeitet werden.
2. Technische Kompetenz entwickeln
Der AI Act schreibt vor, dass Organisationen, die KI nutzen, ihr Personal mit einem hinreichenden Maß an KI-Kompetenz ausstatten. Der rasante technologische Fortschritt macht dies zu einer echten Herausforderung bei den handelnden Personen – egal ob sie Anwendungen entwickeln, testen oder in bestehende IT-Landschaften integrieren. Beim Kompetenzaufbau helfen vertrauenswürdige Partner, die sich über die KI hinaus auch mit den bestehenden Fachverfahren oder Unternehmensanwendungen auskennen.
3. Fachliche Kompetenz entwickeln
Neben technischer ist auch fachliche Kompetenz entscheidend für den erfolgreichen Einsatz von KI. Unternehmen und Behörden sollten das Thema “KI und Ethik” offen kommunizieren und die Grundlagen von KI vermitteln, damit die Mitarbeitenden KI rechtskonform anwenden können. Eine zentrale Herausforderung für die Personalentwicklung wird es sein, ein angemessenes Verständnis für KI-Compliance-Anforderungen in der gesamten Belegschaft zu etablieren. Das Ziel ist es, Ängste abzubauen, Vertrauen zu stärken und gemeinsam mit KI mehr zu erreichen. Darüber hinaus erfüllen Unternehmen durch die Durchführung und Dokumentation von Schulungen ihre Nachweispflicht.
4. Ablauf- und Aufbauorganisation anpassen
Die Integration des Microsoft Copilot in die Officeanwendungen zeigt eine allgemeine Entwicklung: KI wird in der gesamten Organisation präsent. Daraus resultieren zahlreiche Fragen für die Prozesse und Struktur der Organisation: Wo werden personenbezogene Daten mit KI verarbeitet? Wer prüft die Ergebnisse von KI-Anwendungen? Reicht das Vier-Augen-Prinzip? Um beurteilen zu können, welche Vorschriften im Einzelnen zu beachten sind und wie sie effizient umgesetzt werden können, ist eine Kombination aus rechtlicher, technologischer, fachlicher und organisatorischer Kompetenz erforderlich. Nur so können Organisationen frühzeitig erkennen, wo KI bestehende Prozesse beeinflusst. Zudem muss organisiert werden, wer die neuen Abläufe dokumentiert und kommuniziert. Es ist festzulegen, welche Positionen und Organisationseinheiten die neuen Compliance-Aufgaben übernehmen sollen.
5. Ausprobieren und einüben unter Alltagsbedingungen
Wenn es an die Umsetzung ethisch verantwortlicher KI-Lösungen geht, reicht Wissen nicht aus. Dann ist Übung gefragt. Auf Entscheider-Ebene bedeutet das unter anderem: Hinterfragen, wie der Unternehmens- und Behördenalltag mit den KI-Compliance-Vorgaben vereinbar ist. In Behörden können beispielsweise Gesetzesentwürfe und finale Gesetzestexte auf Knopfdruck miteinander verglichen werden. Die Integration von KI wird überall die praktische Nutzung von Software verändern. Und alle Mitarbeitenden müssen im Arbeitsalltag wissen, welche Daten sie in KI-Anwendungen verwenden dürfen – und welche nicht.
6. Konformitätsbewertung vornehmen
Der AI Act definiert eine „Konformitätsbewertung“ als „das Verfahren, mit dem nachgewiesen wird, dass die festgelegten Anforderungen an ein AI-System mit hohem Risiko erfüllt sind“. Zu den Anforderungen gehört beispielsweise, dass die Anbieter hochriskanter KI-Systeme während des gesamten Lebenszyklus ein Risikomanagementsystem etablieren und dokumentieren. Ebenso müssen sie Hochrisiko-KI-Systeme vor dem Inverkehrbringen oder der Inbetriebnahme testen, spezielle Maßnahmen zur Daten-Governance treffen und ein Qualitätsmanagementsystem zur Einhaltung der Vorschriften des AI Act einrichten.
7. Ausschreibungen rechtssicher gestalten
Besondere Herausforderungen bringt der AI Act für Behörden mit sich: Sie müssen bereits in ihren Ausschreibungen für KI-Projekte die Anforderungen des Regelwerks berücksichtigen. Darüber hinaus ergeben sich möglicherweise Wechselwirkungen mit anderen EU-Vorschriften, wie zum Beispiel dem Data Act, etwa, wenn es um die Innere Sicherheit oder Kritische Infrastrukturen geht.
8. Datenmanagement intensivieren
Der AI Act stellt besondere Anforderungen an die Daten-Governance. Das bedeutet zum einen, dass die KI-Systeme den hohen Ansprüchen der DSGVO genügen müssen, wenn sie personenbezogene Daten verarbeiten. Zum anderen steigen die Anforderungen an die Datenqualität im gesamten Unternehmen: Beim Prüfen von Trainingsdaten, ob sie für diskriminierungsfreie KI-Empfehlungen geeignet sind, genauso wie beim Kennzeichnen KI-generierter Texte und Bilder. Im Fokus steht der gesamte Lebenszyklus der KI und der Daten, die für die KI genutzt werden – von der Entwicklung über die Implementierung und den Betrieb bis zur automatisierten Löschung.
Wie Sie die KI für sich nutzen können: Generative AI (materna.de)
Download Whitepaper: Jetzt das KI-Whitepaper anfordern (materna.de)
