Zurück zum Newsroom

24.05.2023

„Ohne gesellschaftliche Akzeptanz wird der Einsatz von KI scheitern“

Interview mit Werner Achtert zu Herausforderungen und Grenzen von KI im öffentlichen Sektor.

Herr Achtert, KI-Technologien werden mittlerweile von vielen Menschen im privaten Alltag und im beruflichen Umfeld genutzt. Wie weit ist der Einsatz von KI in der öffentlichen Verwaltung?

KI wird in der Verwaltung bisher nur punktuell an wenigen Stellen eingesetzt. Es gibt in der Verwaltung eine Reihe von chatbots zur Beantwortung von Bürgeranfragen. Ein weiterer Einsatzbereich ist KI-basierte Dokumentenerkennung. Wir haben beispielsweise für die Berliner Denkmalverwaltung ein lernendes System entwickelt, das logische Zusammenhänge zwischen Dokumenten und Bildern aus dem Denkmalschutzbereich erkennt. In echten Entscheidungsprozessen ist KI allerdings bisher kaum zu finden.

Woran liegt das?

Das hat im Wesentlichen rechtliche Gründe. Das Verwaltungsrecht setzt jeder Art von Automatisierung in Verwaltungsentscheidungen enge Grenzen. Nur wenn in einem Entscheidungsprozess keine Ermessensspielräume vorliegen, kann dieser Prozess automatisiert werden. Die KFZ-Steuer kann beispielsweise automatisiert berechnet und festgesetzt werden. Außerdem muss jede Verwaltungsentscheidung nach rechtsstaatlichen Prinzipien eindeutig nachvollziehbar sein. Und das ist bei echten KI-Systemen – also basierend auf lernenden neuronalen Netzen – praktisch nicht möglich.

Es gibt im Verwaltungsrecht eigentlich keine Aussage zum Einsatz künstlicher Intelligenz, sondern nur zur Anwendung von Automatisierung. In vielen Fachverfahren wird bereits heute Automatisierung durch Anwendung von Algorithmen und regelbasierten Systemen genutzt, um Entscheidungen für den Sachbearbeiter vorzubereiten oder – wenn zulässig – Entscheidungen auch zu treffen. Der Mensch hat in diesem Fall aber immer noch die Kontrolle, sei es als Entwickler des Fachverfahrens oder als Sachbearbeiter.

Ein echtes KI-System lernt mit Hilfe von Trainingsdaten und kann auf dieser Basis selbständig Entscheidung treffen, die sich aber im Einzelfall der menschlichen Kontrolle entziehen. Letztlich geht es um die Anwendung statistischer Methoden auf große Mengen von Daten.

Wenn es in erster Linie um Statistik geht, welche Rolle spielt dann die Auswahl der Trainingsdaten?

Die Trainingsdaten für ein lernendes System sind die Grundlage für dessen Verhalten. Eine KI diskriminiert niemanden. Das Problem betrifft dabei weniger die Algorithmen hinter einer KI, sondern die Auswahl der Daten, mit denen ein Modell trainiert wird. Wenn einem KI-System zum Training nur Bilder hellhäutiger Menschen gezeigt werden, wird es dunkelhäutige Menschen natürlich kaum erkennen. Wenn ein KI-System Kriminalitätsschwerpunkte in einer Großstadt identifizieren soll, muss als Grundlage eine repräsentative Datenbasis zur Verfügung stehen. Ethische Fragestellungen wie Diskriminierung können wir nicht technisch lösen, sondern nur durch die korrekte Auswahl von Trainingsdaten.

Neben diesen rechtlichen Aspekten, wie wichtig ist die gesellschaftliche Akzeptanz beim Einsatz von KI in der öffentlichen Verwaltung?

Wir haben in Deutschland sehr ausgeprägte Erwartungen an staatliches Handeln. Wir erwarten einerseits den fürsorglichen Staat, der dem Bürger staatliche Leistungen möglichst einfach zur Verfügung stellt. Andererseits erwarten wir den Schutz des Bürgers vor staatlicher Überwachung. Da Digitalisierung immer mit der Erhebung und Speicherung von Daten zusammenhängt, ergibt sich daraus ein schwieriges Spannungsfeld. Beispielsweise wird über die Gesundheitskarte seit mehr als 15 Jahren diskutiert ohne praktisches Ergebnis. Das Hauptproblem sind nicht technische Fragen, sondern die Angst vor dem „gläsernen Bürger“.

Jede Art von Digitalisierung braucht gesellschaftliche Akzeptanz und das gilt umso mehr für eine Technologie wie KI, die für den Laien schwer nachvollziehbar ist.

Der Einsatz von KI im öffentlichen Sektor berührt nicht nur die Bürger als Nutzer, sondern auch die Mitarbeitenden in der Verwaltung. Wie müssen sie darauf vorbereitet werden, mit der Technologie zusammenzuarbeiten?

KI hat das Potential die Arbeitswelt auch in der Verwaltung massiv zu verändern. Die aktuelle Diskussion rückt leider zu sehr negative Aspekte in den Vordergrund wie Abbau von Arbeitsplätzen und Kontrollverlust des Menschen in KI-gesteuerten Arbeitsabläufen. Aufgrund des demographischen Wandels werden wir in zehn bis zwanzig Jahren nicht mehr genügend Fachkräfte haben, um alle staatlichen Aufgaben in der heute gewohnten Weise zu erledigen. Wir werden also mit weniger Fachkräften noch mehr Aufgaben erledigen müssen und das geht nur mit mehr Digitalisierung und der stärkeren Nutzung von KI zur Unterstützung der Sachbearbeiter.

Aktuell ist die Aus- und Weiterbildung in der öffentlichen Verwaltung darauf nicht ausreichend vorbereitet. Weder Führungskräfte noch Sachbearbeiter bekommen in ihrer Ausbildung ein ausreichendes Verständnis für die digitale Technoligen vermittelt. Im Rahmen des Projektes „Qualifica Digitalis“^[1] werden diese Defizite analysiert und geeignete Ausbildungsinhalte konzipiert.

Wie sind die Vorgaben hier im internationalen Vergleich einzuordnen? Wie liberal oder wie restriktiv sind diese Themen in Deutschland geregelt?

Es gibt im Prinzip drei globale Räume, die man betrachten muss. Das sind die USA, das ist Europa und das ist China. Die USA haben ein grundlegend anderes Verständnis von Technologieanwendungen und Datenschutz als Europa und gehen deshalb deutlich liberaler mit dem Thema um. Das politische System Chinas basiert auf einem anderen Verhältnis zwischen Bürger und Staat als in westlichen Demokratien und hat daher weniger Einschränkungen bei der Nutzung von KI durch staatliche Institutionen. Europa ist geprägt durch sehr hohe Hürden zum Datenschutz und zum Schutz der Persönlichkeitsrechte. Innerhalb der EU gehen die nordischen Länder grundsätzlich mit Digitalisierung anders um als wir. Obwohl auch sie einen hohen Datenschutzanspruch haben, ist die Digitalisierung der Verwaltung dort deutlich weiter als in Deutschland. Dänemark wickelt beispielsweise schon seit Jahren den kompletten Kontakt zwischen Behörden und Bürgern per E-Mail ab. Deutschland hat hier erheblichen Nachholbedarf, wie die schleppende Umsetzung des OZG deutlich zeigt.

Was bedeutet das für die Wettbewerbsfähigkeit der EU im globalen Vergleich?

Es gibt von Seiten der EU-Kommission die Argumentation, dass besonders hohe Datenschutzstandards und die geplante Regulierung der KI ein Wettbewerbsvorteil der EU seien. Dem würde ich entschieden widersprechen. Wenn europäische Unternehmen Software für den europäischen Markt entwickeln können sie aufgrund der Regulierung nicht alle technologischen Möglichkeiten nutzen. Ein praktisches Beispiel: Beim Abschluss einer Versicherung ist es in den USA üblich, einen Hintergrundcheck des Kunden durchzuführen. Dazu werden KI-Systeme verwendet, die öffentlich zugängliche Inhalte aus sozialen Netzwerken auswerten. In Europa wäre ein solches Vorgehen nach der geplanten Regulierung vermutlich nicht zulässig. Eine nach europäischen Regeln entwickelte Software wäre in den USA nicht konkurrenzfähig.

Wie bewerten Sie die Entwicklungen bei der Regulierung von KI-Lösungen in Deutschland und Europa?

Der AI-Act wird derzeit auf EU-Ebene kontrovers diskutiert. Und auch in Deutschland gibt es dazu sehr unterschiedliche Meinungen – selbst innerhalb der Regierungskoalition. Meines Erachtens geht die Tendenz in Deutschland eher in Richtung stärkerer Einschränkungen. Und das könnte weitreichende Folgen haben. Experten gehen davon aus, dass – je nachdem, welche Seite sich durchsetzt – 60 Prozent der bestehenden KI-Lösungen als Hochrisikoanwendungen eingestuft und damit verboten werden könnten.

Interessanterweise fordern aktuell eine Reihe von internationalen Experten, die KI-Entwicklung temporär auszusetzen. Ich halte den Vorschlag für wenig praktikabel, weil sich Forschung und wirtschaftliche Entwicklung nicht einfach per Dekret stoppen lassen. Das wäre so, als hätte man die Weiterentwicklung der Dampfmaschine vor 150 Jahren verboten, weil bei deren Betrieb vereinzelt Kessel zerplatzt sind.

Wir brauchen in Europa ausgewogene Regeln zum Einsatz von KI, um einerseits die berechtigten Schutzinteressen der Menschen zu berücksichtigen, uns aber andererseits nicht von der technologischen Entwicklung abzukoppeln. Wir müssen den Menschen KI erklären, ihnen damit Ängste nehmen und auf diese Weise gesellschaftliche Akzeptanz erreichen.


Sie möchten mehr zum Thema erfahren? In Folge 4 des msg-Podcasts „radikal digital“ diskutieren Werner Achtert, Leiter Public Sector Business Consulting, und Mark Schmidt, Leiter Artificial Intelligence, Fragen rund um den Einsatz von KI – ob in der Wirtschaft oder im öffentlichen Sektor.
Jetzt reinhören!

[1] Fraunhofer FOKUS, DPS | Qualifica Digitalis: Qualifizierungsprogramm für den öffentlichen Sektor