Was ist agentische KI im staatlichen Einsatz? Wie wir KI-Agenten für das Gemeinwohl in Berlin entwickeln
Agentische KI verändert, wie Menschen staatliche Leistungen beantragen und Bürokratie verstehen. Termine beim Amt buchen, komplexe Anträge ausfüllen und prüfen lassen: Das alles geht technisch schon heute mit KI-Agenten, die nicht nur Fragen beantworten, sondern auch Aufträge erledigen. Welche Rolle kommt dabei dem Staat zu, insbesondere bei Datenschutz und Chancengleichheit? Wir teilen Erkenntnisse aus der Diskussion zum „Agentic State“ und aus unserem Forschungsprojekt „Beyond Forms“.
Wer im Jahr 2026 Wohngeld, Projektförderung oder einfach nur einen Dienst beim Bürgeramt beantragt, weiß: KI kann nicht nur dabei helfen, Behördendeutsch zu übersetzen, sondern auch Formulare auszufüllen. Es geht nicht mehr um die technische Machbarkeit, sondern darum, wie Verwaltungen mit den Entwicklungen rund um agentische, ausführende KI umgehen. Ein von dem Berlin Global Government Technology Centre und der World Bank initiiertes Papier, „The Agentic State“, erschien Ende 2025 und beschreibt diesen kritischen Moment in der Verwaltungsdigitalisierung weltweit.
Hier teilen wir die wichtigsten Erkenntnisse aus unserem Podcast-Interview mit Manuel Kilian, Geschäftsführer des Berlin Global Gov Tech Center und Co-Autor von „The Agentic State“, und berichten aus unserem eigenen Forschungsprojekt Beyond Forms, bei dem wir den Einsatz von agentischer KI bei der Beantragung staatlicher Leistungen erproben.
Was ist agentische KI im staatlichen Einsatz?
Insbesondere im Bereich von Sozialleistungen wie Wohngeld, die in Deutschland eine mehrmonatige Bearbeitungszeit haben können, gibt es das Potenzial, bürokratische Prozesse durch KI-Unterstützung zu beschleunigen. Gleichzeitig bestehen gerade dann, wenn KI nicht nur Vorarbeit leistet, sondern in Form von KI-Agenten eigenständig arbeitet, weitreichende Risiken, Fehler und Datenschutzlücken. Wo lässt sich agentische KI für den Staat rechtssicher einsetzen? Wo kann sie Bürger:innen wie Verwaltungsmitarbeitende sinnvoll unterstützen? Und wo überwiegen Risiken gegenüber Nutzen?
Agentische KI definiert sich dadurch, dass sie nicht nur Antworten auf Fragen liefert, sondern eigenständig komplexe Aufgaben wie eine Antragserstellung oder -prüfung bearbeitet – ohne bei jedem Schritt auf menschliches Zutun angewiesen zu sein. Wichtig dabei sind klar definierte Regeln, nach denen Schritt für Schritt die Aufgabenbearbeitung erfolgt. Manuel Kilian sieht hier insbesondere für die mehrstufigen, regelbasierten Abläufe in der deutschen Verwaltungsarbeit ein großes Potenzial für KI-Agenten:
Je genauer ich ein fachliches Umfeld kenne und je klarer die Regeln sind, desto besser kann der KI-Agent funktionieren – und wir sind in Deutschland dafür bekannt, Sachen bis in die letzte Ableitung durchzudenken.
Das Digitalministerium des Bundes (BMDS) hat Anfang 2026 einen „Agentic AI Hub“ ins Leben gerufen, mit dem Ziel, administrative Routinen durch autonome Systeme übernehmen zu lassen und erste Use Cases zu erproben.
Im Berliner Projekt Beyond Forms erforschen wir, wie wir jenseits von klassischen Formularen das Beantragen von staatlichen Leistungen mithilfe von (agentischer) KI erleichtern können. Am Beispiel von Beyond Forms lässt sich zeigen, wo KI oder agentische KI sinnvoll ist und wo nicht.
- Agentische KI ist dann sinnvoll, wenn es mehrstufige, regelbasierte Prozesse mit hoher Prozesskomplexität gibt, also klar definierte Schritte, die einem Pfad folgen, beispielsweise bei der Bescheidprüfung.
- Klassische generative KI ist ausreichend, wenn es um Vereinfachung und Vereinheitlichung geht, also bei überschaubarer Komplexität und niedrigem Risiko, beispielsweise bei Formulartexten, die dieselben Informationen unterschiedlich abfragen.
- Weder agentische noch klassische generative KI sind sinnvoll oder ausreichend, wenn zuerst eine Prozessreform nötig ist, also beispielweise bei reformbedürftigen Gesetzen, Datenschutz- oder Haftungsfragen.
Welche Vorteile haben KI-Agenten für den Staat?
Mögliche Potenziale von agentischer KI ergeben sich durch Risiken-Nutzen-Abwägung und Multi-Agenten-Systemen:
- Hochvolumige, zeitaufwendige Prozesse automatisieren: Anträge auf Sozialleistungen, Baugenehmigungen, Betriebsprüfungen, Compliance-Checks – viele solcher Routine- und Fleißarbeiten, die in der Verwaltung oft Tage oder Wochen dauern, kann eine agentische KI in wenigen Stunden erledigen.
- Staatlicher KI-Agent für gleichen Zugang zu staatlichen Leistungen und gleiches Verständnis von Bürokratie: Heute können Menschen, die wissen, wie sie KI für sich nutzen können, auch leichter Widersprüche bei abgelehnten Anträgen einlegen. Das schafft eine neue digitale Ungleichheit. Ein kostenloser staatlicher KI-Agent für alle könnte hier insbesondere Menschen in schwierigen Lebenssituationen einen erleichterten Zugang zu bürokratischen Prozessen und staatlichen Leistungen ermöglichen.
- Vertrauen durch Transparenz & funktionierende Interaktionen: Vertrauen in den Staat entsteht durch regelmäßige Kontaktpunkte. Je effizienter und proaktiver sie sind, desto mehr steigt das Vertrauen. KI-Agenten, die mehrstufige, komplexe Verwaltungsprozesse begleiten, bieten hier neue Chancen. Richtig designt können sie zudem Prozesse und Interaktionen transparenter und nachvollziehbarer gestalten.
Wie bei allen neuen Technologien müssen Risiken und Nutzen auch bei agentischer KI abgewogen werden. Ein entscheidender Nutzen von KI-Agenten gegenüber herkömmlichen Large Language Modellen (LLMs) liegt im Multiagenten-System: Anstatt eines KI-Modells, das alles können muss, arbeitet ein kleines Team spezialisierter KI-Unteragenten zusammen. Jeder Agent hat eine einfache Aufgabe, was die Fehleranfälligkeit massiv reduzieren kann. Auch in unserem Forschungsprojekt Beyond Forms ist das ein mögliches Szenario.
Mit Beyond Forms erforschen wir eine Vision davon, wie ein KI-System für komplexe Sozialanträge aussehen könnte: Ein Unteragent könnte Dokumente per Optical Character Recognition (OCR) sichten, während ein anderer die Informationen ins Formular übertragen würde. So könnten hilfebedürftige Gruppen direkt unterstützt werden.
Was sind Risiken von KI-Agenten für den Staat?
Nötige Bedingungen für agentische KI reichen von Datenschutz bis digitale Souveränität:
- Spannungsverhältnis zwischen Qualität und Datenschutz: KI-Agenten funktionieren am besten, wenn sie zu möglichst vielen Daten und Datenquellen Zugang haben. Dem entgegen steht der Datenschutz und die Datenhoheit von Bürger:innen und Staat, gerade bei sensiblen, personenbezogenen Informationen.
- Digitale Souveränität vs. leistungsstärkere Modelle: Schon heute wird der kommerzielle KI-Markt von einigen wenigen großen Anbietern dominiert. Wenn immer mehr Menschen deren Angebote nutzen, um staatliche Leistungen zu beantragen, wächst die Gefahr einer Abhängigkeit, bzw. von Lock-In-Effekten. Gleichzeitig könnte mit dem Bedarf an agentischer, spezialisierter KI in Europa auch der Handlungsdruck steigen, Open-Source-Lösungen und digitale Souveränität weiter auszubauen.
- Nachverfolgung von Fehlerketten und Haftungsfragen: KI-Systeme basieren auf Wahrscheinlichkeiten und werden immer eine gewisse Varianz in ihrer Konsistenz aufweisen. Wenn bei sicherheitskritischen Regeln die Fehlerquote auch nur ein Prozent beträgt, kann das dramatische Folgen haben. Wer haftet am Ende für welchen Fehler? Wie wird die Transparenz und Nachvollziehbarkeit von KI-Entscheidungen gewährleistet?
Eine zentrale Bedingung von agentischer KI für den Staat muss also sein, aktiv mit Fragen von Datenschutz, digitaler Souveränität und Haftung umzugehen. Bürger:innen nutzen schon heute kommerzielle KI-Anbieter, um sich helfen zu lassen. Dabei geben sie gegebenenfalls sensible Daten preis und sind sich über Datenschutz und andere Risiken nicht in vollem Umfang bewusst. Staaten befinden sich jetzt im in einem kritischen Moment der Verwaltungsdigitalisierung, der darüber entscheidet, die Hoheit über den Kontakt zu Bürger:innen zu behalten und durch digital souveräne, transparente Angebote das Vertrauen zu stärken.
Was ich für das Vertrauen von Bürgern und Unternehmen für wichtig halte: dass der Staat die KI-Agenten, die er nutzt, open-source stellt, damit für alle einsehbar ist, was sie machen, wie sie funktionieren und welche Zugriffsmöglichkeiten sie haben.
Was ist die Zukunft von agentischer KI im öffentlichen Sektor?
In unserem Forschungsprojekt Beyond Forms untersuchen wir, wie es einfacher werden könnte, behördliche Formulare zu verstehen und auszufüllen, insbesondere bei Sozialleistungen. Geleitet werden wir dabei weniger von der Frage, ob und wie KI oder sogar agentische KI dabei zum Einsatz kommt. Es geht uns vor allem um die Unterstützung von Menschen in schwierigen Lebenssituationen: KI und agentische KI können dabei helfen, dass Formulare einheitlicher, verständlicher oder sogar überflüssig werden. Ein Potenzial ist dabei auch mehr Beratungszeit für Fachpersonal, das seinerseits ebenfalls durch KI entlastet werden können. Wie genau der Antrag mit KI statt Formular gelingen könnte, das hat unser Team in Testings mit der Zielgruppe evaluiert.
Warum nutzen wir agentische KI nicht als strategische Verstärkung, um Optionen für Krisen wie den Fachkräftemangel zu entwickeln?
Genau wie Digitalisierung kein Selbstzweck sein sollte, ist auch der Einsatz von agentischer KI nicht sinnvoll, nur um neue Technologien einzusetzen. Die damit verbundenen Ziele und Prozesse sollten ethisch und menschlich reflektiert werden. Denn erst wenn dieser Einsatz konsequent an den Bedürfnissen der Menschen ausgerichtet ist, entfaltet sich sein eigentlicher Mehrwert: Er schafft Zeit, die vorher in administrativen Abläufen gebunden war. Die Zeit, die durch Technologien wie agentische KI eingespart wird, kann dann dort, wo sie am meisten gebraucht wird, wieder eingesetzt werden: im Kontakt von Menschen zu Menschen.
Beyond Forms: Mit KI Anträge bei Behörden neu denken
Wie können staatliche Dienstleistungen beantragt werden, ohne Formulare auszufüllen? Das Forschungsprojekt Beyond Forms untersucht, wie KI-gestützte Assistenzsysteme Antragsprozesse verständlicher, schneller und effizienter gestalten können.