Sehr geehrte Damen und Herren,
Ich darf Sie auch im Namen der msg ganz herzlich zum Digitalen Staat 2021 begrüßen, dieses Mal in virtueller Form.
KI ist eine Schlüsseltechnologie für die betrieblichen Informationssysteme in vielen Unternehmen und in der Öffentlichen Verwaltung. Durch KI-Systeme werden große Mengen an Daten ausgewertet, Entscheidungsprozesse unterstützt bzw. automatisiert und neue digitale Geschäftsmodelle ermöglicht.
Methoden und Technologien der KI sind prinzipiell nicht neu, die theoretischen Grundlagen sind schon lange verfügbar1. Dennoch hat sich die Diskussion über die Anwendung lernender Systeme mit - Stichwort Machine Learning2 – sehr intensiviert. Denn lernende KI-Systeme adaptieren sich selbst und entziehen sich damit ein Stück weit der Kontrolle des Entwicklers. Ihr Verhalten basiert nicht auf einer Spezifikation, sondern auf der Auswertung von Trainingsdaten im Rahmen eines Lernprozesses. Und mangels einer Spezifikation kann das Verhalten von KI-Systemen nicht mit klassischen Testmethoden verifiziert werden.
Daran entzünden sich eine Reihe von Diskussionen über gesellschaftliche und politische Grundprinzipien sowie Forderungen nach Regulierung des Einsatzes von KI-Systemen.3 4 5 6 7
Dabei entsteht oft der Eindruck, hier würde eine Diskussion über gut und böse geführt, als wären algorithmische Systeme per se etwas Bedrohliches. Ich möchte auf einige zentrale Herausforderungen beim Einsatz von KI näher eingehen um diese Diskussion etwas zu objektivieren.
KI und Daten
KI-Systeme benötigen einerseits große Mengen an Trainingsdaten, erzeugen andererseits aber auch große Datenmengen. Diese Kumulation von Daten beschleunigt sich selbst und führt zu einer überproportionalen Steigerung des wirtschaftlichen Wertes von Daten. Bestehende Unternehmen können damit überproportional wachsen während für neue Unternehmen die Markteintrittshürde immer höher wird.8
Die Hoheit über große Datenmengen verhilft zu wirtschaftlicher Macht, ermöglicht Einfluss auf die öffentliche Meinung und hat – wie wir in Wahlkämpfen zunehmend feststellen müssen- sogar das Potential politische Entscheidungen9 zu beeinflussen.
Daraus resultiert die Debatte zur Verfügungsgewalt über Daten10 11 im Spannungsfeld unternehmerischer, gesamtwirtschaftlicher und gesellschaftlicher Interessen. Die Erfassung und Verarbeitung von Daten ist ein Wertschöpfungsprozess in Unternehmen, der den Zugriff auf die dadurch gewonnenen Erkenntnisse durchaus rechtfertigt. Dem gegenüber steht das wirtschaftspolitische Interesse eines funktionsfähigen Wettbewerbs zur Vermeidung von marktbeherrschenden Monopolen bei digitalen Diensten12. Im Interesse des Gemeinwohls besteht darüber hinaus die Forderung, Daten die im öffentlichen Raum erhoben wurden, für Unternehmen und wissenschaftliche Zwecke allgemein zugänglich zu machen.
Um diese widerstreitenden Interessen auszugleichen13 brauchen wir klare Regeln für die wirtschaftliche Nutzung von Daten und das Teilen von Daten zwischen Unternehmen. Dabei müssen personenbezogene Daten in jedem Fall besonders geschützt werden, aber auch Investitionen von Unternehmen in datenbasierte Erkenntnisse und Betriebsgeheimnisse müssen geschützt sein. Dazu ist ein fairer Ausgleich nötig zwischen Bürgern, die Daten im Alltag generieren und Wirtschaftsunternehmen, die daraus ökonomischen Nutzen ziehen.
Schnittstelle zwischen Mensch und KI
Durch den Einsatz von KI verändert sich die Arbeitsteilung zwischen Mensch und Maschine. IT-Systeme können dem Menschen nicht nur einfache Rountinearbeiten abnehmen, sondern zunehmend auch komplexe Entscheidungen vorbereiten und sogar abnehmen.
Einerseits können KI-Systeme durch die Übernahme von Routineaufgaben für Entlastung sorgen, andererseits steigen die Anforderungen, weil der Mensch die Vorschläge des IT-Systems verstehen muss, um Entscheidungen zu treffen.
Der verstärkte Einsatz von KI in betrieblichen Informationssystemen wird von vielen Arbeitnehmern als einschneidende Veränderung der Arbeitsbedingungen wahrgenommen14 15 16. Damit diese Veränderungen nicht als Bedrohung erlebt werden, braucht es eine mensch-zentrierte KI, die vom Nutzer als Unterstützung bei der Erfüllung seiner Arbeit wahrgenommen wird.
In diesen Zusammenhang gehört auch der Mythos der KI als Arbeitsplatzvernichter. Gerade in der öffentlichen Verwaltung wird KI keine Arbeitsplätze vernichten sondern vielmehr dazu beitragen, dass die Servicequalität staatlicher Aufgaben für Bürger und Unternehmen angesichts des demografischen Wandels langfristig auch mit weniger Personal erhalten werden kann.
KI und Diskriminierung
Lernende KI-Systeme verwenden Daten der Vergangenheit um daraus Verarbeitungsregeln für die Zukunft abzuleiten. Dabei wird oft der Vorwurf erhoben, KI-Systeme würden einzelne Personengruppen diskriminieren indem z.B. dunkelhäutige Menschen schlechter erkannt werden, Bewohner bestimmter Stadtteile bei Versandhäusern nur gegen Vorkasse bestellen können und Frauen bei Einstellungen schlechter bezahlt werden.17
Dabei tun KI-Systeme eigentlich nur eines: sie werten mit statistischen Methoden Daten der Vergangenheit aus und ziehen daraus – sehr vereinfacht ausgedrückt - durch Korrelationsanalyse Rückschlüsse zur Bearbeitung von weiteren Daten. Was KI-Systeme nicht können ist Kausalzusammenhänge erkennen. Ein KI-System kann nicht „erklären“, warum zwei Bewerber unterschiedlich hohe Gehälter bekommen und schon gar nicht ob das gerechtfertigt ist.
Bei der Entwicklung klassischer IT-Systeme ist in vielen Fällen eine Differenzierung der Verarbeitung anhand von persönlichen Merkmalen wie Alter, Geschlecht, Wohnort in den Anforderungen spezifiziert. Ungeachtet der Frage, ob eine solche Ungleichbehandlung im konkreten Einzelfall rechtlich zulässig und moralisch vertretbar ist, wird damit zumindest Transparenz erreicht. Beim Einsatz von lernenden KI-Systemen besteht die Herausforderung darin, dass eine Differenzierung nicht spezifiziert ist, sondern erst im Verlauf eines Lernprozesses durch die Trainingsdaten entsteht und damit nicht direkt transparent wird.
Diskriminierung beim Einsatz von KI-Systemen entsteht also indirekt durch die Auswahl der Trainingsdaten und der gewählten Attribute für den Lernprozess. Wir müssen daher Trainingsdaten genau prüfen; gesetzlich verbotene oder moralisch nicht vertretbare Ungleichbehandlungen müssen wir erkennen und abstellen.
Der Einsatz von KI-Systemen birgt zweifellos das Risiko, bestehende Diskriminierungen zu verfestigen, aber auch die Chance, sie zu erkennen. Wir dürfen bei der Diskussion über die Anwendung von KI aber nicht Ursache und Wirkung verwechseln. KI-Systeme schaffen keine gesellschaftlichen Probleme, sie können allerdings bestehende Ungerechtigkeiten, Benachteiligungen etc. offensichtlich machen. Gesellschaftliche Probleme können durch KI-Systeme nicht aus der Welt geschafft werden - sie können nur gesellschaftlich (also politisch) gelöst werden.18
Transparenz und Erklärbarkeit von KI
Eine weitere Herausforderung im Umgang mit lernenden KI-Systemen ist die Nachvollziehbarkeit des Systemverhaltens. Jede Art von Verwaltungsentscheidung muss rechtssicher begründet und überprüfbar sein. Das ist nur möglich, wenn der Prozess der Entscheidungsfindung nachvollziehbar ist. Dies ist bei automatisierten Entscheidungen wie der KFZ-Steuerberechnung relativ einfach. Entscheidungen von lernenden Systemen auf Basis von neuronalen Netzen sind derzeit praktisch nicht nachvollziehbar. Ein neuronales Netz ist je nach verwendeter Technologie eine black box und im Einzelfall ist nicht exakt reproduzierbar, welche Faktoren zu einer Entscheidung geführt haben.19
Das Verhalten von lernenden KI-Systemen kann nur durch Wahrscheinlichkeiten beschrieben werden und unterliegt damit immer einer gewissen Unsicherheit. Welche Entscheidungen ich einem KI-System also überlassen will hängt im Wesentlichen davon ab, welches Maß an Unsicherheit ich je nach Einsatzgebiet ethisch und rechtlich akzeptieren kann und will. In Verwaltungsprozessen sind daher der Automatisierung von Entscheidungen enge Grenzen gesetzt20.
Die Forderung nach Transparenz und Nachvollziehbarkeit kann beim Einsatz von Machine Learning mit dem aktuellen Stand der Technik nur schwer erfüllt werden und bleibt wohl auf absehbare Zeit Gegenstand der Forschung.
Regulierung von KI
Die beschriebenen Konfliktfelder führen zu der Frage nach der Regulierung von KI.
Vor einem Jahr hat die Datenethikkommission der Bundesregierung ihren Abschlussbericht vorgelegt. Damit sollten Grundlagen für die Regulierung zum Einsatz von Künstlicher Intelligenz (KI) und zur Verwendung von Daten geschaffen werden. Seitdem ist jedoch wenig passiert: Weiter wird über eine Datenstrategie und eine Fortschreibung der KI-Strategie von 2018 diskutiert.
Praktische Maßnahmen sind derzeit nicht erkennbar. Und die wären dringend nötig, denn unsere Wirtschaft braucht verlässliche Rahmenbedingungen für die Entwicklung datenbasierter Geschäftsmodelle und KI-gestützter Systeme. Wir benötigen zweifellos einen ethischen Kompass für den Umgang mit Daten und den Einsatz von KI, damit Menschen Vertrauen in solche Systeme haben und souverän entscheiden können, welche Systeme sie nutzen wollen und welche nicht. Was wir hingegen nicht brauchen, ist eine langwierige Diskussion darüber, ob ein Risikomodell für algorithmische Systeme 3, 5 oder vielleicht doch 7 Stufen erfordert. Diese Differenzierung und deren praktische Bedeutung für den Alltag ist am Ende für den Verbraucher kaum nachvollziehbar. Die Zeit läuft. Die technische Entwicklung nimmt keine Rücksicht auf parteipolitische Befindlichkeiten und ideologische Grundsatzdiskussionen. Im internationalen Wettbewerb müssen deutsche und europäische Unternehmen sich mit ihren Produkten behaupten; doch sie finden auf ihrem Heimatmarkt keine klaren Rahmenbedingungen vor. Der Staat investiert in die Forschung zu KI, fördert die Gründung von Startups, die aus den Forschungsergebnissen verwertbare Produkte entwickeln sollen und am Schluss entstehen daraus Geschäftsmodelle, Von denen unklar ist, ob sie rechtlich Bestand haben werden.
Ein Meilenstein hierzu könnten die neuesten EU-Vorschläge21 zur Regulierung des KI-Einsatzes sein.
Fazit
KI bietet große Chancen, stellt uns aber zweifellos auch vor einige Herausforderungen. KI ist weder gut noch böse, es kommt drauf an was man draus macht. Die Politik muss klare Rahmenbedingungen schaffen statt komplizierter Absichtserklärungen und die öffentliche Verwaltung sollte aktiv Anwendungsgebiete für KI erschließen.
Wir brauchen mehr digitale Kompetenz im Alltag und im Berufsleben um Ängste im Umgang mit digitalen Technologien abzubauen. Und was wir dringend brauchen ist mehr Sachverstand und gesellschaftliches Bewusstsein bei der Auswahl der Daten, mit denen wir KI-Systeme trainieren.
Und dafür bedarf es – nach wie vor – menschlicher Intelligenz.
Ich wünsche uns allen eine interessante Online-Konferenz und bedanke mich für Ihre Aufmerksamkeit. Bleiben Sie gesund und ich hoffe, dass wir uns nächstes Jahr wieder gemeinsam vor Ort treffen können.
Quellen
[1] Alan M. Turing: Computing Machinery and Intelligence. In: Mind. Band LIX, Nr. 236, 1950, ISSN 0026-4423, S. 433–460. „Turing-Test zur Überprüfung der Denkfähigkeit einer Maschine“
[2] https://www.iks.fraunhofer.de/de/themen/kuenstliche-intelligenz.html „Bei maschinellen Lernverfahren erlernt ein Algorithmus durch Wiederholung selbstständig eine Aufgabe zu erfüllen. Die Maschine orientiert sich dabei an einem vorgegebenen Gütekriterium und dem Informationsgehalt der Daten. Anders als bei herkömmlichen Algorithmen wird kein Lösungsweg modelliert. Der Computer lernt selbstständig die Struktur der Daten zu erkennen.“
[3] Datenstrategie der Bundesregierung
[4] Home - KI Strategie (ki-strategie-deutschland.de)
[5] commission-white-paper-artificial-intelligence-feb2020_de.pdf (europa.eu) EU-Weißbuch zu KI
[6] EUR-Lex - 52020PC0825 - EN - EUR-Lex (europa.eu) Digital Service Act
[7] EUR-Lex - 52020PC0842 - EN - EUR-Lex (europa.eu) Digital Markets Act
[8] Bundesfinanzministerium - Forschungsvorhaben zu datenbasierten Märkten abgeschlossen „Ein vom BMF beauftragtes Forschungsvorhaben der Universität Tilburg kommt zu dem Ergebnis, dass auf einigen datenbasierten Märkten die Marktposition des dominanten Unternehmens für andere Wettbewerber mit deutlich weniger Daten in mittlerer Frist nicht einzuholen ist, was zu geringeren Innovationsanreizen führe.“
[9] Australien: Facebook blockiert jetzt alle Medieninhalte - das steckt dahinter - DER SPIEGEL
[10] BMJV | Netzwerkdurchsetzungsgesetz Gesetz zur Verbesserung der Rechtsdurchsetzung in sozialen Netzwerken (Netzwerkdurchsetzungsgesetz – NetzDG)
[11] denkimpuls_datenhoheit.pdf (initiatived21.de)
[12] Datenstrategie der Bundesregierung „ …. weil Daten als Kernbestandteil der digitalen Welt besondere Eigenschaften haben: Sie können von vielen verschiedenen Akteurinnen und Akteuren für unterschiedliche Zwecke genutzt, geteilt und verknüpft werden – ohne sich dabei an sich zu verbrauchen“
[13] Datenwirtschaft in Deutschland (bdi.eu)
[14] Factsheet-3-KI-und-Arbeitswelt.pdf (cais.nrw)
[15] Künstliche Intelligenz verändert die Arbeitswelt ifaa-Direktor Stowasser beim Zukunftsgespräch der Bundesregierung (arbeitswissenschaft.net) „… Analysen zeigen, dass sich 75 Prozent der Arbeitsplätze verändern werden. KI wirkt in drei Richtungen: KI unterstützt die Beschäftigten bei der Arbeit, KI führt zur Automatisierung und ersetzt menschliche Arbeit sowie KI ist Quelle neuer Berufsbilder.“
[16] Künstliche Intelligenz by Bundesverband der Deutschen Industrie e.V. - issuu
[17] Gutachten der Datenethikkommission (bund.de)
[18] Bitkom zum Abschlussbericht der Datenethikkommission | Bitkom e.V.
[19] Erklärbare KI (digitale-technologien.de) Studie im Auftrag des Bundesministeriums für Wirtschaft und Energie (BMWi) im Rahmen der Begleitforschung zum Technologieprogramm „Künstliche Intelligenz als Treiber für volkswirtschaftlich relevante Ökosysteme“
[20] Nadja Braun Binder, in Margrit Seckelmann (Hrsg); Digitalisierte Verwaltung, S.311
[21] Künstliche Intelligenz – Exzellenz und Vertrauen | EU-Kommission (europa.eu)
