KI im Sozialwesen: EU AI Act, Datenschutz und was Fachkräfte wissen müssen
Künstliche Intelligenz im Sozialwesen unterliegt seit 2024 dem EU AI Act (VO (EU) 2024/1689) und – sobald personenbezogene Daten verarbeitet werden – zusätzlich der DSGVO. Der AI Act reguliert KI risikobasiert: von verbotenen Praktiken (z. B. Social Scoring) über Hochrisiko-Anwendungen bis zu Transparenzpflichten für Chatbots. Für Fachkräfte zentral: KI ist grundsätzlich erlaubt, aber Transparenz, Datenschutz (Art. 9 DSGVO) und seit Februar 2025 die KI-Kompetenz des Personals (Art. 4 AI Act) müssen gewahrt sein.
Fachwissen · KI & Digitalisierung
KI im Sozialwesen: EU AI Act, Datenschutz und was Fachkräfte wissen müssen
Wie der EU AI Act und die DSGVO den Einsatz von Künstlicher Intelligenz in der Sozialen Arbeit, Pädagogik und Pflege rahmen.
Künstliche Intelligenz hält Einzug in den sozialen Bereich – von der Dokumentation über Übersetzungstools bis zur Textunterstützung. Damit stellen sich neue rechtliche Fragen: Was ist erlaubt, was verboten, und wie bleibt der Datenschutz gewahrt? Mit dem EU AI Act gibt es seit 2024 erstmals einen umfassenden Rechtsrahmen für KI. Dieser Beitrag ordnet die wichtigsten Punkte für die Praxis ein.
Inhalt dieses Beitrags
1. Was ist der EU AI Act? · 2. Die vier Risikoklassen · 3. Verbote mit Bezug zum Sozialwesen · 4. AI Act und DSGVO zusammen · 5. Was Fachkräfte beachten sollten · 6. Fazit
1. Was ist der EU AI Act?
Der EU AI Act (KI-Verordnung, EU 2024/1689) ist das weltweit erste umfassende Gesetz zur Regulierung von Künstlicher Intelligenz. Er ist am 1. August 2024 in Kraft getreten und gilt – wie die DSGVO – unmittelbar in allen EU-Mitgliedstaaten, ohne nationale Umsetzung. Seine Vorgaben greifen gestuft: Bestimmte Verbote und die Pflicht zur KI-Kompetenz gelten bereits, weitere Transparenzpflichten folgen im Verlauf 2026.
Wer ist betroffen? Nicht nur Tech-Unternehmen. Grundsätzlich jede Organisation, die KI-Systeme in der EU einsetzt – also auch Träger, Einrichtungen und Dienste im sozialen Bereich, sobald sie KI in ihrer Arbeit nutzen.
2. Die vier Risikoklassen
Der AI Act verfolgt einen risikobasierten Ansatz. Je höher das Risiko für Grundrechte und Sicherheit, desto strenger die Pflichten:
Inakzeptables Risiko – verboten (z. B. Social Scoring, manipulative Systeme).
Hohes Risiko – umfangreiche Pflichten (z. B. KI in Personalauswahl, Bildung, kritischen Bereichen).
Begrenztes Risiko – Transparenzpflichten (z. B. Kennzeichnung von Chatbots und KI-generierten Inhalten).
Minimales Risiko – keine besonderen Pflichten (die meisten alltäglichen Anwendungen).
3. Verbote mit Bezug zum Sozialwesen
Einige der verbotenen Praktiken berühren den sozialen und pädagogischen Bereich unmittelbar:
Untersagt sind unter anderem das Social Scoring (Bewertung sozialen Verhaltens mit benachteiligender Folge), die Emotionserkennung am Arbeitsplatz und in Bildungseinrichtungen (mit engen Ausnahmen für medizinische oder Sicherheitszwecke) sowie manipulative Systeme, die Schwächen aufgrund von Alter, Behinderung oder sozialer Lage ausnutzen. Gerade in pädagogischen Einrichtungen ist die Grenze daher klar: Software, die etwa die „emotionale Stimmung“ von Lernenden automatisiert auswertet, ist grundsätzlich nicht zulässig.
4. AI Act und DSGVO zusammen
Der AI Act ersetzt die DSGVO nicht – beide gelten parallel. Überall dort, wo ein KI-System personenbezogene Daten verarbeitet, müssen die Anforderungen beider Regelwerke erfüllt werden. Das ist im Sozialwesen fast immer der Fall, da hier besonders sensible Daten (Gesundheit, familiäre Verhältnisse, soziale Lage) verarbeitet werden.
Wer Datenschutz bereits ernst nimmt, hat einen Vorteil: Die Datenschutz-Folgenabschätzung nach Art. 35 DSGVO kann Teile der Risikoanalyse und Dokumentation abdecken, die der AI Act verlangt. In Deutschland koordiniert künftig die Bundesnetzagentur die Aufsicht über KI-Systeme.
5. Was Fachkräfte beachten sollten
Keine sensiblen Daten in offene KI-Tools – Klient:innendaten gehören nicht ungeschützt in frei zugängliche Chatbots.
Transparenz schaffen – offenlegen, wenn Inhalte mit KI erstellt wurden oder ein Chatbot im Einsatz ist.
KI-Kompetenz aufbauen – der AI Act verlangt, dass Mitarbeitende, die mit KI arbeiten, über ausreichendes Verständnis verfügen.
Menschliche Letztentscheidung – KI unterstützt, aber fachliche und ethische Entscheidungen bleiben bei der Fachkraft.
6. Fazit
KI kann im Sozialwesen entlasten – etwa bei Dokumentation oder Sprachbarrieren. Verantwortungsvoll eingesetzt heißt das: die Vorgaben von AI Act und DSGVO kennen, sensible Daten schützen, transparent arbeiten und die menschliche Entscheidung wahren. Fachkräfte, die diese Grundlagen beherrschen, können die Chancen der Digitalisierung nutzen, ohne Grundrechte oder Datenschutz zu gefährden.
KI & Datenschutz sicher anwenden
Unsere Fortbildung zu KI und Datenschutz im Sozialwesen vermittelt rechtssicheres, praxisnahes Wissen für den Arbeitsalltag – verständlich und mit Zertifikat.
Zu unseren Online-Kursen
Rechtsgrundlagen & weiterführende Quellen
• EU AI Act – Verordnung (EU) 2024/1689 über Künstliche Intelligenz
• Datenschutz-Grundverordnung (DSGVO), insbesondere Art. 35 (Datenschutz-Folgenabschätzung)
• KI-Marktüberwachungs- und Innovationsförderungsgesetz (KI-MIG); Aufsicht durch die Bundesnetzagentur
Hinweis: Dieser Beitrag gibt den Stand Mitte 2026 wieder und dient der fachlichen Orientierung, nicht der Rechtsberatung. Der rechtliche Rahmen zum AI Act entwickelt sich dynamisch (u. a. gestaffelte Fristen und mögliche Anpassungen); maßgeblich ist stets der jeweils geltende Rechtsstand. Bei konkreten Fragen ziehen Sie Datenschutz- bzw. Rechtsexpertise hinzu.
Häufige Fragen zu KI im Sozialwesen
Ist der Einsatz von KI in der Sozialen Arbeit erlaubt?
Ja. Der EU AI Act verbietet KI nicht generell, sondern reguliert sie risikobasiert. Die meisten Anwendungen im sozialen Bereich – etwa Textunterstützung oder Übersetzung – fallen unter geringes oder begrenztes Risiko und sind mit Transparenzpflichten zulässig. Untersagt sind nur bestimmte Praktiken nach Art. 5 AI Act, etwa Social Scoring.
Was regelt der EU AI Act für soziale Einrichtungen?
Er legt fest, welche KI-Systeme erlaubt, eingeschränkt oder verboten sind, und knüpft die Pflichten an die jeweilige Risikoklasse. Träger und Dienste, die KI einsetzen, müssen unter anderem Transparenz sicherstellen, KI-generierte Inhalte kennzeichnen und seit 2025 für die KI-Kompetenz ihrer Mitarbeitenden sorgen (Art. 4 AI Act).
Welche KI-Anwendungen sind im Sozialwesen verboten?
Zu den verbotenen Praktiken nach Art. 5 AI Act zählen unter anderem Social Scoring durch Behörden, manipulative Systeme sowie bestimmte Formen biometrischer Kategorisierung. Solche Anwendungen sind unabhängig vom Einsatzkontext unzulässig.
Wie passen EU AI Act und DSGVO zusammen?
Beide gelten parallel. Der AI Act reguliert das KI-System als Produkt, die DSGVO die Verarbeitung personenbezogener Daten. Bei KI im Sozialbereich sind fast immer besonders geschützte Gesundheits- oder Sozialdaten betroffen (Art. 9 DSGVO); daher gelten Rechtmäßigkeit, Zweckbindung und Datenminimierung zusätzlich zu den Pflichten aus dem AI Act.
Was bedeutet KI-Kompetenz nach dem AI Act?
Art. 4 AI Act verpflichtet Anbieter und Betreiber, für ein ausreichendes Maß an KI-Kompetenz ihres Personals zu sorgen – dass Mitarbeitende KI-Systeme also verstehen sowie sinnvoll und rechtssicher einsetzen können. Diese Pflicht gilt seit Februar 2025.
Müssen KI-generierte Texte gekennzeichnet werden?
Ja. Für Systeme mit begrenztem Risiko bestehen Transparenzpflichten: Nutzerinnen und Nutzer müssen erkennen können, dass sie mit einer KI interagieren oder dass Inhalte KI-generiert sind. In der Praxis heißt das: Chatbots und KI-erstellte Inhalte kennzeichnen.
Hinweis: Genannt sind der EU AI Act (VO (EU) 2024/1689) sowie die DSGVO (VO (EU) 2016/679); die Angaben dienen der fachlichen Orientierung und ersetzen keine Rechtsberatung im Einzelfall. Rechtsstand 2024/2025.