Seit August 2024 ist der EU AI Act offiziell in Kraft, erste verbindliche Regelungen gelten seit Februar 2025. Das sorgt für Diskussionen – auch im Netzwerk von pulsnetz MuTiG. Insbesondere Pflegeeinrichtungen stellen sich Fragen wie: Was passiert, wenn ich ChatGPT oder andere KI-Tools nutze? Muss ich alle Mitarbeitenden schulen? Welche Inhalte sind relevant? Und wie seriös sind Schulungsangebote, die sich auf gesetzliche Pflichten berufen?
Unsere Einschätzung: KI-Kompetenz ist essenziell – aber es gibt nicht die eine Kompetenz. Der Bedarf hängt vom Anwendungsfeld und den eingesetzten Technologien ab. Entscheidend ist, dass Organisationen ein kritisches Bewusstsein für den Einsatz und die Auswirkungen von KI entwickeln und einen verantwortungsvollen Umgang fördern. Deshalb bieten wir bei pulsnetz MuTiG keine standardisierten Schulungen an, sondern setzen auf individuellen Austausch und praxisnahe Begleitung.
Was regelt der EU AI Act eigentlich?
Ziel des EU AI Act ist es in erster Linie, Verbraucher*innen zu schützen – also Menschen vor Risiken durch KI-Systeme zu bewahren. Die Verordnung verfolgt dabei einen risikobasierten Ansatz: Je größer das Risiko für Sicherheit, Gesundheit oder Grundrechte, desto strenger die Vorgaben.
Die gesetzliche Grundlage finden Sie hier:
- Artikel 4 – Allgemeine Pflichten von Anbietern und Betreibern
- Erwägungsgrund 20 – Warum KI-Kompetenz wichtig ist
Demnach müssen Anbieter*innen, Betreiber*innen und Nutzende von KI-Systemen über ausreichend Wissen verfügen, um fundierte Entscheidungen treffen zu können. Für sogenannte Hochrisiko-Systeme gelten zudem besondere Vorgaben.
Beispiel aus der Pflege: Wenn KI bei der Auswahl von Bewerber:innen mitwirkt oder Vorschläge zur medizinischen Betreuung liefert, müssen diese Entscheidungen nachvollziehbar und letztlich von Menschen verantwortet werden.
Pflichtschulungen? Augenmaß statt Aktionismus!
Aktuell kursieren zahlreiche Angebote, die mit angeblich gesetzlich vorgeschriebenen Schulungen werben. Fakt ist: Der EU AI Act fordert den Aufbau von Kompetenz – jedoch differenziert und risikobasiert. Wer einfache, risikoarme KI-Tools einsetzt – etwa zur Textgenerierung oder für die Dokumentationshilfe – kann erste Schritte bereits mit interner Sensibilisierung und transparenter Nutzung gehen. Wichtig ist: Schulungen müssen zur konkreten Anwendung passen und dürfen nicht schematisch erfolgen.
Rechtliche und ethische Aspekte nicht aus dem Blick verlieren!
Übrigens ist nicht nur der AI Act relevant, wenn es um das Thema KI geht – auch weitere gesetzliche Grundlagen wie Datenschutz und Urheberrecht müssen mitgedacht werden.
Ein Beispiel: Wenn Mitarbeitende beispielsweise für einen KI-basierten Bericht Namen und Gesundheitsdaten in ein KI-Tool eingeben, das frei über das Internet läuft, kann das ein Verstoß gegen die DSGVO sein. Denn hier weiß man oft nicht genau, wo diese Daten gespeichert oder verarbeitet und wie sie geschützt werden. Oder: Wenn ein KI-Tool für die neue Marketing-Kampagne z. B. eine Mona Lisa mit Rollator generiert und Sie es auf Ihrer Website veröffentlichen, könnten Rechteinhaber auf Basis des Urheberrechts gegen Sie vorgehen.
Auch außerhalb der gesetzlichen Regelung stellt sich die Frage, wie Mensch und Maschine optimal zusammenarbeiten sollen. Wie wollen Sie als Organisation mit Fehlern umgehen, die durch KI entstehen können: Welche Entscheidungen soll eine Maschine treffen dürfen, welche Fehler darf sie sich dabei erlauben und wo ziehen Sie bewusst eine Grenze?
Unser Ansatz: Strategie und Führung für KI-Kompetenz
Bei pulsnetz MuTiG bieten wir im ersten Schritt ein kompaktes, interaktives KI-Training für Führungskräfte, das dabei unterstützt, sich mit den Grundlagen und Funktionsweisen von KI vertraut zu machen und erste strategische Schritte für die eigene Organisation zu entwickeln. Es zeigt ein konkretes Vorgehen auf und vermittelt Methoden, um zu einer fundierten Haltung und einer tragfähigen KI-Strategie zu kommen.
Um dann wirklich ins Tun zu kommen, empfehlen wir eine kostenfreie Beratung mit unseren MuTiG-Expertinnen und -Experten in Anspruch zu nehmen. Hier sprechen wir persönlich mit Ihnen über Fragen wie:
- Wie gehen Sie Ihre KI-Strategie an? Welche Anwendungen möchten Sie gewinnbringend einsetzen?
- Welche Risiken bestehen und wie können Sie damit umgehen?
- Wie schaffen Sie einen bewussten Umgang mit nicht offiziell eingeführten Tools („Schatten-KI“)?
- Wie bauen Sie Wissen, Haltung und Kompetenzen bei Ihren Mitarbeitenden systematisch auf?
Fazit: KI ermöglichen – mit Verantwortung und Augenmaß
Der EU AI Act ist kein Stopp-Signal für Digitalisierung und KI. Wir empfehlen, das Thema mit gezielter Information, Pragmatismus, moralischem Kompass und einer positiven Haltung anzugehen. Denn: Digitalisierung und KI sind längst Teil unseres Alltags – jetzt geht es darum, sie so zu gestalten, dass sie den Menschen dienen.
Sollten Sie an einer individuellen Beratung zum Thema interessiert sein, melden Sie sich gern.
Julia Berner Fraunhofer IAO/IAT Stuttgart
Passende Trainings
