Suchen

Gesponsert

Künstliche Intelligenz „Die Verwaltung ist auf einem guten Weg“

Künstliche Intelligenz (KI) wird zwar aktuell viel diskutiert, in der Öffentlichen Verwaltung ist ihr Einsatz aber noch die Ausnahme. Ende des Jahres erscheint eine Studie des iRightsLab im Auftrag des Kompetenzzentrums Öffentliche IT (ÖFIT) am Fraunhofer ­FOKUS, in der untersucht wird, inwiefern dabei nachahmenswerte Leitlinien­ befolgt werden. Im Interview erklärt die Projektleiterin Nicole ­Opiela, welche Erkenntnisse die Studie zutage gefördert hat.

Gesponsert von

Nicole Opiela, Fraunhofer FOKUS zum Einsatz von künstlicher Intelligenz in der Öffenltichen Verwaltung : „Die Bilanz ist insgesamt sehr positiv. Gerade in Bezug auf menschliche Kontrolle“
Nicole Opiela, Fraunhofer FOKUS zum Einsatz von künstlicher Intelligenz in der Öffenltichen Verwaltung : „Die Bilanz ist insgesamt sehr positiv. Gerade in Bezug auf menschliche Kontrolle“
(© Fraunhofer Fokus, Heiko Stöber)

Auf vielen Podien und Veranstaltungen geht es gerade um die Potenziale künstlicher Intelligenz für die Öffentliche Verwaltung. Wie sieht denn die Empirie aus?

Opiela: Künstliche Intelligenz verstanden als selbstlernende Systeme, die mit steigender Datenmenge immer zielgerichteter arbeiten, sind in der deutschen Verwaltungslandschaft derzeit noch die große Ausnahme. Während unserer initialen Recherche konnten wir nur etwa 30 Anwendungen auf Bund-, Länder- und Kommunenebene identifizieren. Bei vielen Beispielen stellte sich heraus, dass diese zwar teilweise als künstliche Intelligenz bezeichnet werden, es sich aber letztlich um rein deterministisch arbeitende Systeme handelt. Zudem befinden sich auch viele der von uns untersuchten Beispiele noch in der Testphase.

Lässt sich denn anhand der wenigen Beispiele schon ableiten, wie die Verwaltung beim KI-Einsatz vorgeht?

Opiela: Ja, wir wollten nicht nur eine systematische Bestandsaufnahme der KI-Landschaft in der deutschen Verwaltung vornehmen und dabei die Vielfalt der Anwendungen und Einsatzbereiche aufzeigen – von der Interaktion mit Bürgerinnen und Bürgern über die intelligente Verkehrssteuerung bis hin zur Verbrechensbekämpfung – ,sondern die Beispiele auch in den Kontext der weltweiten Debatte um „gute KI“ und ethische Kriterien einordnen. Deshalb haben wir aus zahlreichen Leitlinien und Empfehlungen einen Kriterienkatalog abgeleitet und unsere Fallbeispiele auf dieser Grundlage einer kritischen Prüfung unterzogen. Wir wollten wissen, inwiefern solche Vorgaben und nachahmenswerte Aspekte beim KI-Einsatz in der Öffentlichen Verwaltung bereits berücksichtigt werden.

Mit welchem Ergebnis?

Opiela: Die Bilanz ist insgesamt sehr positiv. Gerade in Bezug auf menschliche Kontrolle, Testen und Fehlerkorrektur sowie Sicherheit konnten fast alle Beispiele sehr ausgefeilte Konzepte und Maßnahmen vorweisen. Hier hat man sich im Vorfeld also wirklich Gedanken gemacht und ist nicht einfach blind auf den KI-Zug aufgesprungen.

Mit künstlicher Intelligenz verbinden sich auch zahlreiche ­Befürchtungen, etwa hinsichtlich ungerechter Behandlung in ­intransparenten Verfahren.

Opiela: Bei unseren Untersuchungen konnten wir feststellen, dass dieser Punkt den einsetzenden Verwaltungen durchaus bewusst ist und sie umfangreiche Gegenmaßnahmen getroffen haben. So gibt es keinen einzigen Fall, in dem die KI autonom entscheidet, alle Ausgaben werden manuell geprüft und eventuell korrigiert. Die Letztentscheidung liegt immer beim Menschen. Teilweise sind auch extra Feedbackkanäle implementiert, über die Endnutzerinnen und -nutzer Fehler melden können. Beim Projekt Indoor Robot des BMVI gibt es eine App um Fehler zu melden, die dann manuell behoben werden. Auch bei der Profilanalyse von Gesprächskontrollen des BAMF gibt es solche Rückmeldekanäle, die zur Optimierung des Systems genutzt werden. Und beim automatischen Zustandsmonitoring von Autobahnen wird auf Explainable AI gesetzt, sodass das System erklären kann, wie es zu bestimmten Ergebnissen gekommen ist. Man könnte also sagen, der Mensch behält stets die Zügel in der Hand. Alles in allem scheint die Verwaltung hier auf einem guten Weg zu sein.

In welchen Bereichen besteht denn noch Verbesserungspotenzial?

Opiela: Die Ergebnisse zu Transparenz und Mitnahme der Beschäftigten waren insgesamt etwas ernüchternder. Hier tut sich vor allem PREVIEW zur Krisenvorhersage im Auswärtigen Amt positiv hervor, bei dem es Workshops zur Datengrundlage und Handbücher für Anwenderinnen und Anwender gibt. Auch im BAMF werden die Mitarbeitenden intensiv geschult, um die Qualität der KI-Ergebnisse einschätzen und bei Bedarf Anpassungen vornehmen zu können. In vielen Fällen wurde die Akzeptanz dadurch gestärkt, dass KI zur Entlastung eingesetzt wird und dementsprechend kein Personal abgebaut wurde.

Die vollständige Publikation finden Sie hier.

Advertorial - Was ist das?

Über Advertorials bieten wir Unternehmen die Möglichkeit relevante Informationen für unsere Nutzer zu publizieren. Gemeinsam mit dem Unternehmen erarbeiten wir die Inhalte des Advertorials und legen dabei großen Wert auf die thematische Relevanz für unsere Zielgruppe. Die Inhalte des Advertorials spiegeln dabei aber nicht unbedingt die Meinung der Redaktion wider.

(ID:46993543)