Künstliche Intelligenz hält Einzug in den sozialen Bereich – von der Dokumentation über Übersetzungstools bis zur Textunterstützung. Damit stellen sich neue rechtliche Fragen: Was ist erlaubt, was verboten, und wie bleibt der Datenschutz gewahrt? Mit dem EU AI Act gibt es seit 2024 erstmals einen umfassenden Rechtsrahmen für KI. Dieser Beitrag ordnet die wichtigsten Punkte für die Praxis ein.

1. Was ist der EU AI Act?

Der EU AI Act (KI-Verordnung, EU 2024/1689) ist das weltweit erste umfassende Gesetz zur Regulierung von Künstlicher Intelligenz. Er ist am 1. August 2024 in Kraft getreten und gilt – wie die DSGVO – unmittelbar in allen EU-Mitgliedstaaten, ohne nationale Umsetzung. Seine Vorgaben greifen gestuft: Bestimmte Verbote und die Pflicht zur KI-Kompetenz gelten bereits, weitere Transparenzpflichten folgen im Verlauf 2026.

2. Die vier Risikoklassen

Der AI Act verfolgt einen risikobasierten Ansatz. Je höher das Risiko für Grundrechte und Sicherheit, desto strenger die Pflichten:

3. Verbote mit Bezug zum Sozialwesen

Einige der verbotenen Praktiken berühren den sozialen und pädagogischen Bereich unmittelbar:

Untersagt sind unter anderem das Social Scoring (Bewertung sozialen Verhaltens mit benachteiligender Folge), die Emotionserkennung am Arbeitsplatz und in Bildungseinrichtungen (mit engen Ausnahmen für medizinische oder Sicherheitszwecke) sowie manipulative Systeme, die Schwächen aufgrund von Alter, Behinderung oder sozialer Lage ausnutzen. Gerade in pädagogischen Einrichtungen ist die Grenze daher klar: Software, die etwa die „emotionale Stimmung“ von Lernenden automatisiert auswertet, ist grundsätzlich nicht zulässig.

4. AI Act und DSGVO zusammen

Der AI Act ersetzt die DSGVO nicht – beide gelten parallel. Überall dort, wo ein KI-System personenbezogene Daten verarbeitet, müssen die Anforderungen beider Regelwerke erfüllt werden. Das ist im Sozialwesen fast immer der Fall, da hier besonders sensible Daten (Gesundheit, familiäre Verhältnisse, soziale Lage) verarbeitet werden.

Wer Datenschutz bereits ernst nimmt, hat einen Vorteil: Die Datenschutz-Folgenabschätzung nach Art. 35 DSGVO kann Teile der Risikoanalyse und Dokumentation abdecken, die der AI Act verlangt. In Deutschland koordiniert künftig die Bundesnetzagentur die Aufsicht über KI-Systeme.

5. Was Fachkräfte beachten sollten

6. Fazit

KI kann im Sozialwesen entlasten – etwa bei Dokumentation oder Sprachbarrieren. Verantwortungsvoll eingesetzt heißt das: die Vorgaben von AI Act und DSGVO kennen, sensible Daten schützen, transparent arbeiten und die menschliche Entscheidung wahren. Fachkräfte, die diese Grundlagen beherrschen, können die Chancen der Digitalisierung nutzen, ohne Grundrechte oder Datenschutz zu gefährden.