KI-Kompetenz nach Art. 4 KI-Verordnung: Pflichten für Träger

Stand: November 2026

Die KI-Kompetenz nach Art. 4 KI-Verordnung verpflichtet Anbieter und Betreiber von KI-Systemen, Maßnahmen zu ergreifen, damit ihr Personal und andere in ihrem Auftrag tätige Personen KI-Systeme sachkundig nutzen können. Die Pflicht gilt seit dem 2. Februar 2025. Seit der Änderung durch die Verordnung (EU) 2026/1744 verlangt Art. 4 Abs. 1 Maßnahmen zur Unterstützung der KI-Kompetenz, garantiert werden muss aber kein bestimmtes Niveau. Nach der EU-Kommission ist dafür keine förmliche Bescheinigung nötig; Organisationen können eine interne Aufzeichnung führen.

Der Beitrag richtet sich an Leitungen und Teams in Jugendhilfe, Eingliederungshilfe, Pflege und Beratung. Einen allgemeinen Überblick über den AI Act bietet KI im Sozialwesen: EU AI Act, Datenschutz und was Fachkräfte wissen müssen.

Was verlangt Art. 4 KI-Verordnung von sozialen Einrichtungen?

Die Neufassung durch Art. 1 Nr. 5 der Verordnung (EU) 2026/1744 lautet in Absatz 1: Anbieter und Betreiber „ergreifen Maßnahmen, um die Entwicklung der KI-Kompetenz ihres Personals und anderer Personen zu unterstützen“, die in ihrem Auftrag mit Betrieb und Nutzung von KI-Systemen befasst sind. Dabei sind technische Kenntnisse, Erfahrung, Ausbildung und der Einsatzkontext zu berücksichtigen, außerdem die Personen oder Gruppen, bei denen die KI eingesetzt wird. Satz 2 stellt klar, dass Anbieter oder Betreiber nicht verpflichtet sind, für irgendeine Person ein bestimmtes Niveau an KI-Kompetenz zu garantieren.

Die Kommission weist darauf hin, dass Betreiber von Hochrisiko-Systemen weiterhin sicherstellen müssen, dass ihr Personal für die menschliche Aufsicht geschult ist (Europäische Kommission, 2026).

Was ist mit „KI-Kompetenz“ gemeint?

Art. 3 Nr. 56 definiert KI-Kompetenz als die Fähigkeiten, Kenntnisse und das Verständnis, die es Anbietern, Betreibern und Betroffenen unter Berücksichtigung ihrer Rechte und Pflichten ermöglichen, KI-Systeme sachkundig einzusetzen und sich der Chancen, Risiken und möglichen Schäden bewusst zu werden. Als Mindestschritte nennt die EU-Kommission: ein allgemeines Verständnis von KI schaffen, die eigene Rolle klären (Anbieter oder Betreiber), die Risiken der eingesetzten Systeme betrachten und die Maßnahmen darauf aufbauen, mit Blick auf Vorwissen, Einsatzbereich und betroffene Personen (Europäische Kommission, 2026). Rechtliche und ethische Aspekte gehören ausdrücklich dazu.

Gilt Art. 4 für meinen Träger als Betreiber oder Anbieter?

Anbieter ist, wer ein KI-System entwickelt oder entwickeln lässt und unter eigenem Namen in Verkehr bringt oder in Betrieb nimmt (Art. 3 Nr. 3). Betreiber ist jede Einrichtung, die ein KI-System in eigener Verantwortung verwendet, es sei denn, die Nutzung ist persönlich und nicht beruflich (Art. 3 Nr. 4). Die meisten sozialen Einrichtungen sind danach in der Regel Betreiber, sobald Mitarbeitende dienstlich KI-Anwendungen nutzen, etwa Chat-Assistenten, Übersetzungs- oder Spracherkennungsfunktionen. Das gilt laut Kommission auch für das Schreiben oder Übersetzen von Texten; die Beschäftigten sollen über Risiken wie erfundene Inhalte informiert sein. Erfasst sind zudem Personen „im Auftrag“, etwa Honorarkräfte oder Dienstleister (Europäische Kommission, 2026). Ob Ihr Träger im Einzelfall Betreiber ist, klären Sie mit Leitung und Datenschutzbeauftragten.

Wer überwacht Art. 4 in Deutschland, und was droht bei Verstößen?

Art. 4 steht in Kapitel I und gilt nach Art. 113 Buchst. a seit dem 2. Februar 2025. Die Kommission erklärt, die Durchsetzung liege bei den nationalen Marktüberwachungsbehörden und beginne am 2. August 2026; sanktioniert werden könne nach nationalem Recht, verhältnismäßig und je nach Einzelfall (Europäische Kommission, 2026). In Deutschland bestimmt das KI-MIG vom 22. Juli 2026 (BGBl. 2026 I Nr. 223) die Bundesnetzagentur als zuständige Marktüberwachungsbehörde, soweit das Gesetz nichts anderes regelt (§ 2 Abs. 1 KI-MIG). Die Bußgeldvorschriften des KI-MIG (§ 15) nennen Art. 4 nicht. Wie die Aufsicht konkret mit Art. 4 umgehen wird, ist in den hier ausgewerteten amtlichen Quellen nicht ausgeführt; verfolgen Sie dazu die Hinweise der Behörde.

Was gilt für Sozialdaten bei KI-Einsatz?

KI-Kompetenz umfasst auch den Datenschutz. Nach § 35 Abs. 1 SGB I haben Betroffene Anspruch darauf, dass Leistungsträger ihre Sozialdaten nicht unbefugt verarbeiten. Nach § 35 Abs. 2 SGB I regeln die Vorschriften des SGB X und der übrigen Bücher die Verarbeitung von Sozialdaten abschließend, soweit nicht die DSGVO unmittelbar gilt oder die KI-Verordnung unmittelbar geltende Datenschutzvorschriften enthält. Art. 5 Abs. 1 DSGVO verlangt Zweckbindung (Buchst. b) und Datenminimierung (Buchst. c). Gesundheitsdaten fallen unter Art. 9 Abs. 1 DSGVO: Ihre Verarbeitung ist grundsätzlich untersagt, Abs. 2 nennt Ausnahmen. Vertiefend: Schweigepflicht in der Sozialen Arbeit & Sozialdatenschutz und KI in der Dokumentation der Sozialen Arbeit. Welche Anwendungen Ihr Träger freigibt, regeln Datenschutzbeauftragte und Leitung.

Wie setzt ein Träger Art. 4 in fünf Schritten um?

Eine vorgeschriebene Form gibt es nicht; die Kommission betont, dass es keine Einheitslösung gibt und dass der Hinweis auf die Gebrauchsanweisung allein oft nicht ausreicht (Europäische Kommission, 2026). Ein mögliches Vorgehen:

Praxisbeispiel (fiktiv): Ein Träger der Eingliederungshilfe stellt fest, dass einzelne Mitarbeitende einen frei verfügbaren Chat-Assistenten für Berichtsentwürfe nutzen. Die Leitung erfasst alle Anwendungen, legt mit der Datenschutzbeauftragten fest, dass keine Daten betreuter Personen eingegeben werden, und bietet eine kurze Teamschulung an. Neue Mitarbeitende erhalten sie zum Einstieg; die Teilnahme wird mit Datum und Thema festgehalten.

Häufige Fragen