KI in der Öffentlichen Verwaltung Den Wandel bewusst gestalten

Autor: Manfred Klein

Künstliche Intelligenz ist ein aktuelles Thema, dessen Potenzial für die Verwaltung bisher kaum diskutiert wurde. Welche verwaltungsspezifischen Aspekte beim Einsatz zu berücksichtigen sind und wie sich Skeptikern begegnen lässt, erklären Marc Reinhardt, Leiter Public Sector, und Lukas Möller, Experte für KI-Anwendungen, des Beratungsunternehmens Capgemini im Interview mit eGovernment Computing.

Firmen zum Thema

KI-Systeme fassen auch in der Öffentlichen Verwaltung Fuß. Kommt die automatisierte Verwaltung?
KI-Systeme fassen auch in der Öffentlichen Verwaltung Fuß. Kommt die automatisierte Verwaltung?
(Bild: © Weissblick – stock.adobe.com)

Herr Reinhardt, weshalb sollte sich die Verwaltung mit KI befassen?

Reinhardt: Die Verwaltung ist angehalten, schneller, besser und präziser zu arbeiten und zwar am besten ohne Steigerung der Kosten. In Zeiten der zunehmenden Knappheit von Arbeitskräften kann Künstliche Intelligenz (KI) Verwaltungsmitarbeiter entlasten und zur Qualitätssicherung und -steigerung ihrer Arbeit beitragen. Eine Übernahme von Verwaltungsentscheidungen durch KI hingegen ist aktuell nur in begrenztem Umfang vorstellbar oder überhaupt zulässig. Zudem ist die Bevölkerung für solche Szenarien auch noch nicht offen, wie aktuelle Studien zeigen. KI kann potenziell sehr viel, doch wo sie konkret helfen soll, muss durch einen politisch-administrativen Willensbildungs- und Entscheidungsprozess festgelegt werden. Nur so lässt sich definieren, wie wir KI gesamtgesellschaftlich und ganz konkret im Verwaltungsbereich einsetzen wollen.

Welcher Einfluss auf die Lebenswelt zeichnet sich ab?

Möller: KI-Systeme besitzen verkürzt gesagt die Fähigkeit, selbstständig zu lernen und damit auch in nicht vorher exakt definierten Situationen Ergebnisse zu liefern. Dies ermöglicht automatisierte, intelligente Handlungsweisen und ein lernendes Verhalten. Als zentraler Treiber der Digitalisierung nimmt KI Einfluss auf zentrale Lebensbereiche wie Mobilität, Gesundheit und Arbeit. Das autonome Fahrzeug ist nur das bekannteste Beispiel, neue medizinische Verfahren und die Automatisierung von Routinetätigkeiten zählen ebenso dazu.

Bildergalerie

So werden neue Betreuungskonzepte etwa dafür sorgen, dass Menschen länger in ihren eigenen vier Wänden leben können, da Maschinen die Hausarbeit übernehmen werden. Letztlich kann die KI als eine Art „Berater“ den Verwaltungsmitarbeitern zur Seite stehen, Plausibilitäten in Echtzeit während eines Entscheidungsprozesses prüfen oder Simulationen über voraussichtliche Auswirkungen von Entscheidungen vornehmen.

Welche Rolle fällt dabei Politik und Verwaltung zu?

Reinhardt: Wir haben in der Studie „Gesellschaft 5.0 – Implikationen der Digitalisierung“ analysiert, welche Veränderungen die Digitalisierung in Bezug auf unsere Gesellschaft bringen wird. Demnach könnten beispielsweise 2030 bereits 15 Prozent der Fahrzeuge auf unseren Straßen autonom fahren, wenn die Gesetzgebung bis 2025 geregelt wird. Das „Wenn“ steht exemplarisch für die gestaltende Rolle, die der Politik und Verwaltung hierbei zufällt.

Für eine KI-Governance ist zunächst eine Gesetzgebung wichtig, die digitalen Wandel und Gemeinwohl bestmöglich in Einklang bringt. Nur so kann der Staat gestaltend wirken und vorantreiben, was den Bürgern zugutekommt. Die Digitalisierung verändert fast alle Lebensbereiche. Welche Veränderungen wir davon als positiv oder negativ bewerten und entsprechend fördern oder bremsen sollten, all das sind politische Entscheidungen, die künftig auch in Wahlkämpfen diskutiert werden müssen.

Weiterhin muss die Öffentliche Verwaltung, die resultierenden regulatorischen Prozesse vorbereiten und danach auch umsetzen. Ein ernsthafter und tiefgehender Prozess für eine Digital-Agenda kann für das nötige Verständnis sorgen, an welchen Stellen in den jeweiligen Politikfeldern Chancen oder Risiken entstehen, auf die reagiert werden muss. Um für einen spezifischen Fall KI letztlich gewinnbringend anzuwenden, brauchen Verwaltungsmitarbeiter die Expertise, Leistungsvermögen und Auswirkungen von KI-Systemen beurteilen zu können. Die Aus- und Weiterbildung ist daher genauso eine Grundvoraussetzung wie sichere und zuverlässige IT-Systeme, in die sich KI-Lösungen einbinden lassen.

Wo liegt das spezifische Nutzenpotenzial?

Möller: KI schafft bessere und transparentere Informationsgrundlagen für eine optimale Verfahrensbearbeitung, etwa in der Leistungsverwaltung. Viele Verfahren, insbesondere sogenannte „gebundene Entscheidungen“ sind geeignet, zumindest teilweise automatisiert zu werden. KI-Systeme können beispielsweise die Dateneingabe innerhalb eines Verfahrens in Echtzeit überprüfen, Routinearbeiten wie Antragsprüfungen von KI-Anwendungen übernommen werden. Gerade letzteres trägt zur Entspannung der Personalsituation in vielen Behörden bei. Wie wichtig eine demografieorientierte Personalpolitik für die Leistungssicherung der Öffentlichen Verwaltung ist, hat die Robert-Bosch-Stiftung bereits 2009 in einem Bericht verdeutlicht.

Ein konkretes Beispiel für die Unterstützungsfunktion von KI-Anwendungen in der Leistungserbringung von Verwaltungen ist ein IT-Projekt bei einer großen Behörde, die jährlich Euro-Transaktionen im Milliardenbereich durchführt. Fehler, die innerhalb der 800.000 Zeilen Code auftraten, konnten durch die statische Code-Analyse immer erst nach dem Auftreten im Produktivbetrieb gefunden werden. Dadurch wurden aufwendige Fehlerbehebungen nötig und erst danach wurden Fehler durch die Analyse identifizierbar.

Mittels des Einsatzes von Ma­chine Learning, einer Unterkategorie der KI, ist es uns gelungen, dass Fehler bereits erkannt werden bevor sie auftreten. Dafür wurde ein Verfahren implementiert, das auf der Warenkorbanalyse des Machine Learnings basiert. So werden Muster beim Code erkannt, die auf bestimmte Transaktionen bezogen sind. Solche Assoziationen funktionieren analog zum Prinzip „wer Käse kauft, kauft wahrscheinlich auch Rotwein“. Diese Vorhersehbarkeit ermöglicht, selbst unbekannte Fehler bereits im Vorfeld zu verhindern.

Wie lässt sich möglicher Skepsis beim Einsatz von KI erfolgreich begegnen?

Reinhardt: Neue Technologien werden in Deutschland meist eher in Hinblick auf ihre Risiken statt ihren Nutzen diskutiert. Die mit der KI einhergehenden Herausforderungen müssen also benannt und berücksichtigt werden – aber ohne die Technologie in Gänze zu verdammen.

Technologie muss den Menschen und der Gesellschaft dienen, wie es unsere französischen Nachbarn eindrucksvoll betont haben, als Präsident Macron gemäß dem Motto „AI for Humanity“ höchstpersönlich profunde programmatische Aussagen getroffen hat.

Wenn allerdings KI-basierte Chatbots via Social Media Wähler vor Wahlen beeinflussen, Betrüger Software zur Spracherkennung einzusetzen, um an sensible Informationen zu gelangen oder mittels falscher Identitäten öffentliche Leistungen erschlichen werden, dann müssen solche Auswüchse eingedämmt werden, ohne die Dynamik technologischer Entwicklungen zu dämpfen.

Die Unternehmen sollten sich auch deswegen – wie aktuell von Justizministerin Katarina Barley und seit einiger Zeit von der Initiative D21 gefordert – ihrer „Corporate Digital Responsibility“ stellen. Das heißt, sie sollten Verantwortung für die gesellschaftlichen Auswirkungen ihrer Produkte übernehmen und diese antizipieren und bewusst gestalten.

Das gilt allerdings ebenso für die Verwaltung. Wenn beim „Predictive Policing“ oder bei Kreditvergaben bestimmte Bevölkerungsgruppen durch „Bias“, also „Befangenheit“, diskriminiert werden, muss auch dort aktiv und bewusst gegengesteuert werden.

Letztlich wird Künstliche Intelligenz nur so gut funktionieren, wie ihre Konzeptionierung erfolgt und wie die eingespeisten Daten klassifiziert und gewichtet werden. Deshalb kann nicht oft genug betont werden, wie wichtig es ist, Bürgern wie Verwaltungsmitarbeitern notwendige Kenntnisse über KI-Systeme und ihre Funktionsweise zu vermitteln. Und einer Verwaltung, die in ihrem eigenen Bereich bewusst und aufgeklärt mit KI umgeht, ist auch zuzutrauen, Regulierungen für andere gesellschaftliche Bereiche zu konzipieren und umzusetzen.

(ID:45338979)