Wie kann Künstliche Intelligenz das Sozialgesetzbuch revolutionieren?

Behörden am Limit – Strukturelle Überlastung und zunehmende Komplexität

Behörden und kommunale Verwaltungen stehen unter einem massiven strukturellen Druck. Die Zahl komplexer Antragsverfahren im Bereich der Sozialgesetzgebung wächst stetig. Gleichzeitig sehen sich viele Verwaltungen mit Fachkräftemangel, steigendem Arbeitsaufkommen und begrenzten Haushaltsmitteln konfrontiert.

Die Sozialverwaltung ist besonders betroffen: Die rechtliche Komplexität der Sozialgesetzbücher (SGBs), die Vielzahl individueller Fallkonstellationen und die hohe Verantwortung im Umgang mit sensiblen Daten führen dazu, dass die Bearbeitung von Anträgen zeitintensiv, fehleranfällig und personell kaum mehr leistbar ist. Hinzu kommen neue Aufgaben, etwa im Bereich Bürgergeld, Kindergrundsicherung oder digitaler Teilhabe, die ohne zusätzliche Kapazitäten umgesetzt werden müssen.

Ein weiteres Problem liegt in der nach wie vor unzureichenden Digitalisierung vieler Fachverfahren. In zahlreichen Behörden sind die Systeme nicht interoperabel, wichtige Daten liegen nur in Papierform oder in Altsystemen vor, und es fehlt an standardisierten Prozessen. Dies führt zu Reibungsverlusten und erhöht die Fehlerwahrscheinlichkeit erheblich, besonders für komplexe Fachkonstellationen. 

Laut dem Bundesamt für Soziale Sicherung (BAS) bietet Künstliche Intelligenz (KI) die Chance, diese Herausforderungen gezielt zu adressieren¹. Durch intelligente Unterstützung der Sachbearbeitung, automatisierte Prüfprozesse und die strukturierte Analyse großer Datenmengen können wiederkehrende Tätigkeiten effizienter gestaltet und Mitarbeiterinnen und Mitarbeiter gezielt entlastet werden. Ziel ist dabei nicht die vollständige Automatisierung von Verwaltungsentscheidungen, sondern die vielfältige Unterstützung der Verwaltung bei Routinetätigkeiten und standardisierten Prüfprozessen².

Rechtlicher Rahmen: Was ist erlaubt?

Der rechtssichere Einsatz von KI in der öffentlichen Verwaltung ist möglich – allerdings nur dann, wenn bestimmte gesetzliche Voraussetzungen erfüllt sind. Der Gesetzgeber hat hierfür bereits konkrete Grundlagen geschaffen, insbesondere in Form von zwei zentralen Regelungen des Sozialrechts:

So erlaubt § 31a SGB X die sogenannte vollautomatisierte Entscheidung, auch als „Dunkelverarbeitung“ bezeichnet. Diese ist zulässig, wenn kein Ermessensspielraum besteht und die rechtlichen Voraussetzungen klar definiert sind. In der Praxis betrifft dies insbesondere Standardanträge mit eindeutigem Rechtsanspruch, wie beispielsweise Anträge auf Kinderkrankengeld³.

Darüber hinaus haben das Bundesministerium des Innern (BMI) und das Bundesministerium für Arbeit und Soziales (BMAS) Leitlinien veröffentlicht. Bereits im Jahr 2022 hat das BMAS Leitlinien für den behördlichen Einsatz von KI in der Arbeits- und Sozialverwaltung veröffentlicht⁴. In diesen Leitlinien wird unter anderem festgelegt, dass KI-Systeme stets transparent und erklärbar sein müssen. Die Entscheidungshoheit soll weiterhin bei menschlichen Sachbearbeitenden liegen, um Verantwortung und Kontrolle zu sichern. Darüber hinaus müssen die Systeme diskriminierungsfrei, sicher und rechtskonform arbeiten. 

Diese Regelungen zeigen, dass ein rechtlicher Rahmen für den Einsatz von KI in der Verwaltung bereits vorhanden ist. Gleichzeitig ist dieser Rahmen an klare Anforderungen gebunden: So müssen Systeme transparent, dokumentierbar und nachvollziehbar arbeiten, und Entscheidungen müssen gegebenenfalls durch Verwaltungsmitarbeitende überprüfbar bleiben. Vor diesem Hintergrund fordern Institutionen wie das BAS sowie das BMAS ergänzende gesetzliche Klarstellungen, um den Behörden bei der praktischen Umsetzung mehr Rechts- und Planungssicherheit zu bieten. 

Darüber hinaus hat die Europäische Union mit der Einführung des AI-Act eine eigene Verordnung erlassen⁵, die in allen europäischen Ländern umgesetzt werden soll⁶. Dieses Gesetz unterscheidet zwischen verschiedenen KI-Modellen und den damit verbundenen Risiken. Je nach Risikotyp gibt es unterschiedliche Einschränkungen für die Implementierung von KI. So sind bestimmte KI-Systeme, wie solche, die soziale Bewertungen vornehmen, biometrische Identifizierungen durchführen oder Personen kategorisieren, beispielsweise verboten. Für andere Arten von KI gelten verbindliche Vorschriften und Transparenzanforderungen.

Auch das BMI hat 2025 eigene Leitlinien für die Bundesverwaltung vorgelegt⁷. Darin sind umfassende Anforderungen enthalten, etwa zur Transparenz von Entscheidungsprozessen, zur Durchführung von Risikobewertungen, zur Rechenschaftspflicht gegenüber der Öffentlichkeit sowie zur verpflichtenden Schulung von Mitarbeiterinnen und Mitarbeitern im Umgang mit KI-Systemen⁵.

Datenschutz: Hohe Anforderungen bei Sozialdaten

Der Einsatz von KI in der Verwaltung betrifft in den meisten Fällen personenbezogene Daten – oft handelt es sich dabei sogar um besonders schützenswerte Informationen im Sinne des Art. 9 DSGVO^8,9. Dies ist insbesondere im Kontext der Sozialgesetzgebung der Fall, wo unter anderem Gesundheitsdaten, Einkommensnachweise und familienbezogene Informationen verarbeitet werden. 

Daher gelten besonders hohe datenschutzrechtliche Anforderungen. Eine valide Rechtsgrundlage im Sinne des Art. 6 DSGVO muss vorhanden sein¹⁰. Zusätzlich sind geeignete technische und organisatorische Maßnahmen zum Schutz dieser Daten zu treffen, wie sie in Art. 32 DSGVO beschrieben sind. Auch Prinzipien wie Datenminimierung, Zweckbindung und Speicherbegrenzung müssen konsequent umgesetzt werden¹¹.

Besondere Aufmerksamkeit verdient die Frage, wo und wie die Daten verarbeitet werden. Nach § 80 SGB X dürfen Sozialdaten grundsätzlich nur innerhalb der EU oder in Ländern mit einem von der EU-Kommission anerkannten Datenschutzniveau verarbeitet werden. Der Einsatz von Cloud-Diensten – insbesondere aus Drittstaaten wie den USA – ist somit nur unter sehr restriktiven Bedingungen möglich. Auch bei der Nutzung europäischer Cloud-Dienstleister müssen klare vertragliche Regelungen (Auftragsverarbeitungsverträge gemäß Art. 28 DSGVO)¹² vorliegen, um den Datenschutz vollumfänglich sicherzustellen.

Ethik: Fairness, Nachvollziehbarkeit und Kontrolle

Neben den rechtlichen und technischen Aspekten ist auch die ethische Dimension beim Einsatz von KI nicht zu unterschätzen. Besonders relevant ist die Frage, wie algorithmische Verzerrungen – sogenannte Biases – vermieden werden können. Diese entstehen häufig durch einseitige oder unvollständige Trainingsdaten und können dazu führen, dass bestimmte Personengruppen systematisch benachteiligt werden. Ein Beispiel hierfür wäre ein KI-System, das über die Vergabe von Sozialleistungen entscheidet und aufgrund unausgewogener Daten Frauen oder Minderheiten benachteiligt, indem es häufiger empfiehlt, ihre Anträge abzulehnen¹³.

Die ethischen Leitlinien des BMAS und des BMI betonen daher ausdrücklich, dass KI-Systeme auf fairen, nachvollziehbaren und diskriminierungsfreien Grundlagen beruhen müssen. Die Entscheidungslogik der Systeme soll transparent und verständlich dokumentiert sein, damit sowohl Sachbearbeitende als auch Betroffene die getroffenen Bewertungen oder Vorschläge nachvollziehen können.

Dabei ist wichtig zu unterscheiden: KI-Systeme treffen nicht selbst Entscheidungen. Wie erwähnt, dürfen sie dies nur, wenn kein Ermessensspielraum besteht. In den meisten Fällen handelt es sich um unterstützende Assistenzsysteme, die keine automatisierten Verwaltungsakte erzeugen, sondern Sachbearbeitende bei ihrer Arbeit gezielt entlasten – etwa durch strukturierte Analyse von Antragsdaten, Hinweise auf relevante Rechtsgrundlagen der SGBs oder automatisierte Vorprüfungen. Die verantwortliche Entscheidung bleibt dabei stets beim Menschen.

Gerade diese Form der KI-Assistenz bietet enormes Potenzial für die Verwaltung, da sie Informationen aufbereitet, Fehler reduziert und wertvolle Arbeitszeit freisetzt. Dadurch können sich Sachbearbeitende stärker auf komplexe Fälle und die persönliche Beratung konzentrieren – und gleichzeitig bleibt die menschliche Kontrolle über alle wesentlichen Entscheidungsschritte erhalten.

Sie können etwa automatisch die relevanten Paragraphen des Sozialgesetzbuchs zu einem konkreten Fall herausfiltern und in verständlicher Sprache erläutern, wie Ansprüche berechnet werden. Gerade in komplexen Konstellationen – zum Beispiel, wenn eine Person gleichzeitig Arbeitslosengeld II, eine Berufsunfähigkeitsrente und die Teilnahme an einer Qualifizierungsmaßnahme beantragt – helfen sie, Zuständigkeiten und Leistungsansprüche schneller zu klären.

Nicht zuletzt ist sicherzustellen, dass die Verantwortung für Entscheidungen klar beim zuständigen Sachbearbeiter oder der Sachbearbeiterin verbleibt und nicht auf ein technisches System abgewälzt wird – weder formal noch faktisch.

Diese Anforderungen dienen nicht nur dem Schutz individueller Rechte und der Wahrung demokratischer Prinzipien, sondern auch dem Aufbau von Vertrauen in die öffentliche Verwaltung – ein zentraler Erfolgsfaktor für jede Digitalisierungsmaßnahme. Denn nur wenn Bürgerinnen und Bürger nachvollziehen können, wie Entscheidungen zustande kommen – und dass Menschen für sie Verantwortung tragen – kann die Akzeptanz für den Einsatz neuer Technologien in sensiblen Verwaltungsbereichen wachsen.