Künstliche Intelligenz in der Verwaltung

Mit insgesamt fünf Milliarden Euro möchte die Bundesregierung KI-Projekte fördern. Wofür sollen diese Mittel eingesetzt werden? 

Die Maßnahme „Artificial Intelligence (AI) made in Germany“^[1] zielt darauf ab, Deutschland und Europa zu einem führenden Standort für künstliche Intelligenz zu machen. KI soll zukünftig in den Bereichen Gesundheit, Mobilität, Umwelt und Energie zielführend eingesetzt und weiterentwickelt werden. Kompetenzzentren, Communitys und Netzwerke sollen etabliert werden, um Forschung und Wirtschaft zu fördern und die Schaffung einer wettbewerbsfähigen Qualitätsinfrastruktur für künstliche Intelligenz zu ermöglichen. Insgesamt umfasst die KI-Strategie zwölf Handlungsfelder - von der Forschung, über die Anpassung des Ordnungsrahmens bis hin zur gesellschaftlichen Debatte über KI. Im November 2018 hat die Bundesregierung dafür erstmals eine nationale KI-Strategie veröffentlicht und Fördermittel in Höhe von drei Milliarden Euro zur Verfügung gestellt. Im Juli 2020 wurden diese Fördermittel dann auf fünf Milliarden Euro erhöht.

Braucht die Verwaltung Künstliche Intelligenz?

Mit zunehmender Informationsdichte und steigender Komplexität neuer Herausforderungen braucht die Verwaltung Mechanismen, um ihre begrenzten Ressourcen effizienter zu nutzen. Stichwort sind hier z.B. die Energiekrise, aber auch der Fachkräftemangel. Wir müssen weg von monotoner, von Maschinen zu bewältigender Arbeit hin zu effektiveren Arbeitsmodellen. In zehn Jahren werden wir vermutlich 30% weniger Fachkräfte in der Verwaltung haben, schon jetzt sind viele Stellen nicht besetzt, weil es einfach nicht genug Bewerberinnen und Bewerber gibt. Das wird leider tendenziell auch nicht besser werden. KI kann dazu beitragen, die Ressourcen der Verwaltungsexpertinnen und -experten besser zu nutzen. Sie können sich auf anspruchsvollere Bereiche konzentrieren, die restlichen Arbeiten laufen dann automatisiert – dadurch steigt nicht nur die Arbeitszufriedenheit in der Behörde, sondern komplizierte Anträge können auch schneller bearbeitet werden.

Kannst du uns einige Beispiele für mögliche KI-Anwendungen in der Öffentlichen Verwaltung nennen?

Allein im Jahr 2020 wurden in Deutschland 11,4 Millionen Steuerbescheide eingereicht. Eine automatisierte Verarbeitung könnte unter anderem dazu beitragen, mögliche Steuerbetrugsfälle oder Geldwäsche schneller zu erkennen. Sie würde redundante Arbeiten der Verwaltungsfachexpertinnen und -experten reduzieren und ermöglichen, sich auf komplexere Verdachtsfälle zu konzentrieren. Nebenbei könnten so auch mehr Steuereinnahmen generiert werden.

Ein weiterer Anwendungsfall ist die Entwicklung digitaler Assistenten für Bürgerinnen und Bürger. Chatbots sowie Bild- und Dokumentenanalysen können die Kommunikation vereinfachen und die Bearbeitung von Anträgen automatisieren.

Ein weiterer Anwendungsfall ist die Umsetzung von Data Driven Governance. KI-Systeme helfen Entscheiderinnen und Entscheidern, genaue Analysen und Prognosen zu treffen, indem sie riesige Datenmengen durchforsten und aufarbeiten. So können Behörden beispielsweise Verkehrs- oder Geodaten nutzen, um faktenbasierte Entscheidungen bei der Stadtplanung zu treffen

Was fehlt der Verwaltung bislang, um KI zu implementieren?

Für den Einsatz von KI-Systemen braucht die Verwaltung anspruchsvolle technologische Rahmenbedingungen. Sie benötigt ein funktionierendes Technologie- und Datenökosystem mit klaren Standards und leicht zugänglichen Ressourcen. Dazu kommen sichere Infrastrukturen und Prozesse, genauso wie Verantwortlichkeiten, die Ressourcen und Kommunikation nutzbringend bündeln können. All diese Komponenten sind leider noch nicht so vorhanden, wie man sich das als KI- und Datenexperte bei Landes- und Bundesbehörden wünschen würde.

Gibt es weitere Herausforderungen bei der Umsetzung von KI-Projekten?

KI-Systeme zu implementieren, wird vom Aufwand her häufig unterschätzt. Denn Daten sind der Schlüssel zu jeder KI-Anwendung und nur eine solide Dateninfrastruktur ermöglicht einen nachhaltigen Einsatz von KI-Systemen. Diese muss aber oft erst noch geschaffen werden und mit bereits bestehenden Digitalisierungsprojekten in der Organisation harmonisieren.

Auch Sicherheit, Transparenz und Zuverlässigkeit sind wesentliche Anforderungen an KI-Systeme, insbesondere im Public Sector. Unsere Kundinnen und Kunden erwarten von KI-Systemen, dass sie sicher und transparent sind, um z.B. den Datenschutz zu gewährleisten. Die Gesetzgebung bereitet hier bereits erste Normen und Standards in Richtung ethischer KI vor.

Stichwort Trustworthy AI – Wie ethisch kann eine KI sein?

Die Diskussion über ethische KI ist heute wichtiger denn je. Künstliche Intelligenz wird immer häufiger eingesetzt, um Entscheidungen zu treffen, die das Leben von Menschen massiv und direkt beeinflussen. Daher müssen wir sicherstellen, dass diese Entscheidungen fair und transparent sind und dass keine Diskriminierung stattfindet. Die Europäische Union hat in diesem Zusammenhang einen Entwurf für die "AI ACT^[2]" vorgelegt - die erste umfassende Regulierung von künstlicher Intelligenz. Ethische KI bedeutet vor allem, dass KI-Systeme so entwickelt und eingesetzt werden, dass sie im Einklang mit unseren ethischen Wertvorstellungen stehen. Dies gilt insbesondere in sensiblen Bereichen wie dem Gesundheitswesen, der Justiz oder der Polizei.

Eine der Herausforderungen bei der Umsetzung ethischer KI besteht darin, dass ethisches Verhalten immer auch kontext- und interpretationsabhängig ist. Was in einer Kultur als ethisch korrekt betrachtet wird, kann in einer anderen Kultur als unethisch gelten. Unethisches Verhalten kann daher auch ungewollt in unseren Daten gespeichert werden, was dazu führen kann, dass KI-Systeme unbewusst diskriminieren.

Kann ethische KI so überhaupt funktionieren?

Sicher. Wir sollten immer daran denken, dass Technologien von Menschen für Menschen entwickelt und genutzt werden sollten. Somit können wir uns auf die Bedürfnisse und Erfahrungen der Nutzer konzentrieren, anstatt den Fokus nur auf die technischen Aspekte zu setzen. Besonders bei KI und Black Box Algorithmen ist es wichtig, ein ethisches Sicherheitsnetzwerk um die Anwendung herum aufzubauen, um Diskriminierung und kulturelle Unterschiede zu vermeiden. Fachverantwortliche wie Diversity-Beauftragte, Datenschützer oder interkulturelle Manager können bei der Entwicklung ethischer KI-Anwendungen helfen. Dafür brauchen wir klare Definitionen von Ethik und Sicherheit, um Richtlinien für digitale KI-Anwendungen abzuleiten. Jede KI-Anwendung hat ihre eigenen spezifischen Rahmenbedingungen, die berücksichtigt werden müssen.

Spannend ist, dass sich viele ethische Anforderungen als Mechanismen und Sicherheiten zeigen, die der IT bereits bekannt sind. Ihnen wurde in der Vergangenheit nur nicht der entsprechende Fokus zugeschrieben.

Um sicherzustellen, dass ethische Anforderungen nicht ins Bodenlose eskalieren, sollten auch Mechanismen existieren, die die Erhebung ethischer Anforderungen an den realen Projektkontext anpassen. Ein mögliches Vorgehen ist hier die Integration der Erhebung ethischer Anforderungen in das klassische Anforderungsmanagement. Wir haben dafür eigens das Vorgehensmodell „Trustworthy AI“ entwickelt.

Du hast auch das Vorgehensmodell Hypothesis AI entwickelt. Wie funktioniert das?

Hypothesis AI ist ein Modell für KI-Entwicklungsteams, die sich aus hochspezialisierten Datenexpertinnen und -experten, wie Data Scientists, Data Analysts und Daten Engineers zusammensetzen. Diese Teams haben spezielle Anforderungen an Daten und Algorithmen-Modellierungen, und benötigen häufig reaktive Ökosysteme und neueste Technologien, um Lösungen zu entwickeln. Algorithmen erfordern oft tiefes Fachwissen, und Lösungen werden meist explorativ entwickelt. Das kann zu kommunikativen Herausforderungen zwischen dem Data Science Team, der Business-Ebene und der Projektleitung führen.

Das explorative Vorgehen von Data Science kann mit einer Selbstrettung aus einer Höhle verglichen werden. Eine Anführerin oder ein Anführer, sozusagen der Businessentscheider, kennt die Ressourcen des Teams und beauftragt Experten, wertvolle Informationen zu ermitteln. Nach dem Einholen dieser Informationen navigiert er die Gruppe weiter und setzt Hypothesen ein, um das explorative Arbeiten steuerbar zu machen. Dadurch erhält der Businessentscheider Kontrolle über seinen Invest und die Kommunikation zwischen Auftraggebern und den Entwickler-Teams wird transparenter. Erfolgreich erprobt und eingeführt haben wir dieses Vorgehen schon bei einem KI-Projekt des Landesdenkmalamts Berlin.

Wie kann msg Public Sector bei der Umsetzung von KI-Projekten unterstützen?

Als msg Public Sector gestalten wir aktiv Lösungen, um ethische KI-Systeme prüffähig und sicher zu gestalten. Wir erarbeiten mit unseren Kundinnen und Kunden gemeinsam innovative Lösungsansätze, die viele Kompetenzen im Querschnitt bei uns und auch beim Kunden bündeln. Unsere Fachexpertise umfasst Themengebieten wie Data Science, Softwareentwicklung, Big Data und Cloud , aber auch DSGVO, Prozessmanagement und UX-Design. Wir sind breit aufgestellt und so auch in der Lage, große KI-Projekte erfolgreich zu realisieren.

  

^[1] https://www.bmbf.de/bmbf/shareddocs/bekanntmachungen/de/2021/10/2021-10-01-Bekanntmachung-KI.html (abgerufen am 2. Mai 2023)

^[2] Artificial Intelligence Act: Council calls for promoting safe AI that respects fundamental rights - Consilium (europa.eu) (abgerufen am 2.5.2023)