Stärkung der KI-Kompetenz der Mitarbeitenden im DRK

Mit der zunehmenden Integration von KI-Anwendungen in alltägliche Arbeitsprozesse steht die Europäische Union vor der Herausforderung, klare Regeln für die Nutzung Künstlicher Intelligenz zu setzen. Die im August 2024 in Kraft getretene KI-Verordnung (KI-VO) zielt darauf ab, den Einsatz von KI-Systemen sicher, verantwortungsvoll und transparent zu gestalten. Ein zentraler Punkt dieser Verordnung ist die Sicherstellung der KI-Kompetenz der Mitarbeitenden, wie es in Artikel 4 der KI-VO festgelegt ist – eine Verpflichtung, die auch das DRK betrifft.

Warum KI-Kompetenz im DRK so wichtig ist

KI-Technologien sind bereits in vielen DRK-Gliederungen im Einsatz, etwa zur Unterstützung von Arbeitsprozessen oder bei der Produktentwicklung. Auch die DRK-Service GmbH setzt KI-Anwendungen ein, beispielsweise bei der Erstellung von Texten, Bildern oder im eigenen Chatbot „DRK-Assist“. KI bietet enormes Potenzial, birgt jedoch auch Risiken, die berücksichtigt werden müssen. 

KI-Systeme, die in Bereichen wie Diagnostik, Personalwesen oder Krisen eingesetzt werden, können tief in Entscheidungen eingreifen und so zu ernsthaften Konsequenzen für die betroffenen Menschen führen. Fehlerhafte Anwendungen und Datenauswertungen könnten Diskriminierung, Fehlurteile oder Grundrechtsverletzungen zur Folge haben. Zudem bestehen hier besondere Risiken beim Datenschutz und der Manipulation von Daten und Entscheidungen.

Deshalb ist es entscheidend, dass Mitarbeitende, die KI nutzen, fundierte Kenntnisse über die Technologie besitzen. Die KI-Verordnung fordert Unternehmen auf, ihre Mitarbeitenden so zu schulen, dass sie die Funktionsweise von KI verstehen, Risiken erkennen und managen können.

Gesetzliche Vorgaben zur Sicherstellung der KI-Kompetenz

Artikel 4 der KI-Verordnung verpflichtet die Anbieter und Betreiber von KI-Systemen sicherzustellen, dass ihre Mitarbeitenden über ausreichend KI-Kompetenz verfügen. Dazu gehören technisches Wissen, praktische Erfahrung und fundierte Ausbildung. Unternehmen müssen dafür sorgen, dass ihr Personal kontinuierlich geschult wird, um den steigenden Anforderungen gerecht zu werden. Auch der Kontext des Einsatzbereichs von KI-Anwendungen, ob in der Medizin, im Bildungswesen oder in anderen Bereichen, spielt eine Rolle.

Die Schulungspflicht erstreckt sich nicht nur auf festangestellte Mitarbeitende, sondern auch auf externe Dienstleister. Besonders bei Hochrisiko-Systemen, etwa in der medizinischen Diagnostik oder bei biometrischen Identifikationssystemen, gelten strengere Schulungsvorgaben. Die Verantwortung liegt bei der Geschäftsführung, die dafür haftbar gemacht werden kann.

Folgen von mangelnder KI-Kompetenz

Unternehmen, die die Vorgaben der KI-Verordnung nicht einhalten, riskieren hohe Strafen. Bußgelder können bis zu 35 Millionen Euro oder 7 % des weltweiten Jahresumsatzes betragen. Darüber hinaus kann mangelnde KI-Kompetenz zu Fehlentscheidungen führen, die das Ansehen des Unternehmens gefährden.

Aufbau von KI-Kompetenz bei der DRK-Service

Gut geschulte Mitarbeitende können das Risiko von Fehlfunktionen und ethischen Verstößen deutlich reduzieren. Die DRK-Service hat Maßnahmen ergriffen, um die KI-Kompetenz ihrer Mitarbeitenden zu stärken. Dazu gehören interne KI-Richtlinien, in denen zugelassene KI-Tools sowie deren Nutzungsgrundsätze festgehalten sind. Schulungen in Form von Präsenztrainings und E-Learnings sorgen dafür, dass Mitarbeitende ihre Kenntnisse erweitern und Kompetenzen nachweisen können.

KI-Kompetenz als Schlüssel zur verantwortungsvollen Nutzung

Die Einführung der KI-Verordnung durch die EU markiert einen wichtigen Schritt in der Nutzungsregulierung von Künstlicher Intelligenz. Sie betont die Bedeutung der Kompetenz der Mitarbeitenden, die KI-Systeme nutzen. Unternehmen, die in die Qualifikation ihrer Mitarbeitenden investieren, sichern sich rechtlich ab und positionieren sich als verantwortungsvolle Akteure im KI-getriebenen Markt. Alle Details zur KI-Verordnung (AI Act) sind auf den Webseiten der Europäischen Kommission online nachlesbar.

Mehr zu den KI-Lösungen der DRK-Service: https://www.drkservice.de/ki

_{© FAMILY STOCK / stock.adobe.com}