Wie kann KI gemeinwohlorientiert wirken?
Die Berliner Verwaltung befindet sich im Wandel. Immer mehr Prozesse werden digitalisiert, um sie effizienter und ressourcenschonender durchzuführen. Eine innovative und nachhaltige Nutzung von Künstlicher Intelligenz (KI) gilt als zentraler Hebel für digitale Transformation und automatisierte Leistungssteigerung. Diese strukturelle Veränderung bietet gleichzeitig die Chance, eine starke digitale Souveränität sicherzustellen. Nicolas Zimmer plädiert für mutiges pragmatisches Handeln beim Einsatz von KI im öffentlichen Sektor, um digitale Souveränität zu stärken und eine gemeinwohlorientierte KI umzusetzen – nicht nur für die Verwaltung, sondern auch für die Bürger:innen selbst.
Dieser Beitrag basiert auf dem Vortrag „KI für das Gemeinwohl“, den Nicolas Zimmer am 18. Juni 2025 auf der Sommerkonferenz des CityLAB hielt.
Warum braucht die Verwaltung Künstliche Intelligenz?
Die Berliner Verwaltung steht bereits heute vor großen Herausforderungen im Personalbereich. Der altersbedingte Rückgang des Personalbestands in den kommenden Jahren sowie eine wachsende Aufgabenlast erhöhen den Druck erheblich. Das Personalentwicklungsprogramm 2030 der Senatsverwaltung für Finanzen zeigt auf: Ohne gezielte Gegenmaßnahmen drohen spürbare Engpässe bei der Aufgabenerfüllung. Die digitale Transformation sowie ein innovativer und nachhaltiger Einsatz von Künstlicher Intelligenz (KI) sind zentrale Schlüssel, um den Wandel hin zu einer effizienten und ressourcenschonenden Prozessstruktur zu unterstützen. Von zentraler Bedeutung wird es dabei sein, die digitale Souveränität der Verwaltung sicherzustellen. Denn digitale Lösungen sollten frei und selbstbestimmt umgesetzt werden. Das meint sowohl die praktische Komponente wie auch die Hoheit über die Daten. Erst gemeinschaftliche Open-Source Ansätze – nicht kommerzielle Plattformen von Tech-Giganten – geben den Nutzer:innen diese Kontrolle.
Hierzu müssen wir die Möglichkeiten und Hürden beim gemeinwohlorientierten Einsatz von KI beleuchten. Insbesondere für die Verwaltung bietet KI enorme Chancen: Sie kann Prozesse effizienter gestalten, die Sachbearbeitung beschleunigen und den Zugang zu Informationen für Bürger:innen erleichtern. Digitale Technologien fördern so Transparenz, Effizienz und Teilhabe. Gleichzeitig sind nicht alle Modelle künstlicher Intelligenz gleich zu bewerten. Es braucht einen differenzierten Blick darauf, wie KI sinnvoll zum Gemeinwohl beitragen kann.
Große kommerzielle Anbieter – die „Big AI“ – bieten zwar leistungsfähige Lösungen, doch müssen diese kritisch auf ihre ethischen Implikationen und Abhängigkeiten geprüft werden. Im Folgenden geht es darum, wie datengetriebene Technologien wie KI verantwortungsvoll und gemeinwohlorientiert zur Anwendung kommen und wie ein solides, offenes Fundament dafür geschaffen werden kann. Eine zentrale Rolle spielen dabei die Verfügbarkeit und die Qualität von Daten. Die Relevanz von Datenqualität wird anhand innovativer Projekte der Technologiestiftung Berlin wie Parla und dem DataHub sowie der digitalen Akte des Landes Berlin illustriert.
Was gefährdet die digitale Souveränität der Verwaltung?
Der Einsatz großer Modelle kommerzieller Anbieter mag technisch einfach realisierbar und funktional reizvoll sein, doch stellt sich die Frage, ob ihr Einsatz im Kontext gemeinwohlorientierter Anwendungen tatsächlich angemessen ist. Ein entscheidender Faktor, der gegen den Einsatz dieser potenten Systeme spricht, ist die Frage der Datenbeschaffung, an welcher nicht zuletzt auch die ethische Dimension besonders deutlich wird.
Große proprietäre KI-Modelle wie die von OpenAI oder Meta stehen zunehmend in der Kritik. Um ein Beispiel zu nennen: The Atlantic untersuchte, wie Meta beim Training seines generativen KI-Systems Llama auf sogenannte „pirated literature“ zurückgegriffen hat. Das Unternehmen hat offenbar Millionen urheberrechtlich geschützter Bücher und wissenschaftlicher Arbeiten über die größte illegale Textsammlung, der Plattform Library Genesis (LibGen), verwendet. Das etablierte Sprachmodell basiert demnach auf Trainingsdaten, die dem Unternehmen gar nicht gehören.
Fälle wie diese haben nicht nur eine Zwangskommerzialisierung von Wissen zur Folge. Sie führen auch zu juristischen sowie zu erheblichen ethischen Problemen. Insbesondere die moralische Komponente spitzt sich in einem Gemeinwohlkontext - wie der Transformation der Verwaltung – zu. Es stellt sich die Frage: Ist es vertretbar, eine KI zu nutzen, die auf einer Datenarchitektur basiert, die – nicht nur bei Meta – mindestens intransparent und von außen kaum kontrollierbar ist? Kann eine gemeinwohlorientierte digitale Transformation der Verwaltung mit Modellen vorangetrieben werden, die wichtige Elemente des Gemeinwohls – wie Transparenz, Fairness und Teilhabe – nicht strukturell abbilden?
Hinzu kommt, dass die Abhängigkeiten von großen Anbietern die digitale Souveränität der Verwaltung gefährden. Digitale Souveränität bedeutet, mit Hardware, Software und Daten selbstbestimmt umzugehen. Sie bedeutet auch, ohne Bindung an proprietäre und damit kostspielige Systeme oder starre Lizenzzyklen arbeiten zu können, mit der Möglichkeit zur flexiblen Anpassung und Weiterentwicklung. Nur auf diese Weise lassen sich nachhaltige Lösungen schaffen, die auch in Zukunft eine resiliente Verwaltungsstruktur sichern.
Welche Alternativen zu Big AI gibt es?
Ein Kernanliegen der Technologiestiftung Berlin ist es, innovative Projekte als Open-Source-Modelle anzulegen, damit anwendbare Prototypen zu entwickeln und in die Praxis zu bringen. Damit wird einerseits der Ansatz verfolgt, dass öffentlich finanzierte Projekte dem Prinzip „Public Money, Public Code“ folgen sollten: Wo öffentliche Gelder fließen, sollte auch der Quellcode öffentlich zugänglich sein. Andererseits ermöglicht es ein offener Code der Stadtgesellschaft, der Verwaltung und den Entwickler:innen, die Funktionsweise eines digitalen Tools zu verstehen und weiterzuentwickeln sowie Vertrauen in die eingesetzten Lösungen aufzubauen. Und nur mit Open Source behält die Verwaltung die Hoheit über Änderungen und kann selbst bestimmen, wie die digitale Zukunft gestaltet wird.
Als Gegenentwurf zu den kommerziellen Angeboten der „Big AI“ wird nicht selten auf das generative Sprachmodell Mistral zurückgegriffen, das von dem gleichnamigen französischen Unternehmen 2023 gegründet wurde. Modelle wie dieses setzen explizit auf Transparenz in der Entwicklung und verfolgen das Prinzip der Demokratisierung von KI, etwa durch offen zugängliche Modellgewichte, reproduzierbare Trainingspipelines und eine freie Lizenzierung.
Die Grenzen von offenen Sprachmodellen wie Mistral zeigen sich oft in ihrer praktischen Anwendung. Generative Sprachmodelle basieren auf statistischen Ähnlichkeitsvergleichen. Das heißt, sie erstellen Antworten, indem sie statistisch berechnen, welche Wortfolgen am wahrscheinlichsten aufeinander folgen – basierend auf ihren Trainingsdaten. Wenn keine aktuellen, geprüften oder fachspezifischen Informationen vorliegen, steigt das Risiko sogenannter „Halluzinationen“: Das sind Aussagen, die sprachlich überzeugend wirken, aber inhaltlich falsch sind.
Insbesondere das Training und die Kontextualisierung solcher Modelle erfordern erhebliche Rechenressourcen, technologische Expertise und vor allem: die Verknüpfung mit qualitativ hochwertigen Daten. Ein zentraler Lösungsansatz für die Qualitätslücken ist die Augmentierung, also die Verbindung von Sprachmodellen mit verlässlichen, externe Datenquellen. Hierbei werden generative Modelle nicht allein auf ihr statisches Wissen aus dem Pretraining zurückgeworfen, sondern dynamisch mit aktuellen, überprüfbaren Informationen angereichert.
Wie funktioniert KI in der Verwaltungspraxis?
Ein konkretes Beispiel für eine solche datengetriebene Architektur im Berliner Verwaltungskontext ist Parla, ein KI-gestützter Assistent der Technologiestiftung zur Bearbeitung parlamentarischer Anfragen im Berliner Abgeordnetenhaus. Parla unterstützt Verwaltung, Abgeordnete und interessierte Bürger:innen dabei, Anfragen schneller, präziser und verständlicher zu beantworten. Grundlage ist eine maschinenlesbare Dokumenteninfrastruktur, die es dem System erlaubt, relevante Inhalte zu analysieren und in natürlicher Sprache aufzubereiten.
Ziel dabei ist es, nicht nur um die Informationen zu veröffentlichen – etwa in schwer zugänglichen PDF-Dokumenten – sondern die tatsächliche Befähigung, mit diesen Informationen effektiv arbeiten zu können. Parla schafft hier einen echten Mehrwert für politische Entscheidungsprozesse, journalistische Recherchen und öffentliche Teilhabe, durch die Verknüpfung mit zuverlässigen Daten.
Generative KI als Schweizer Taschenmesser
Dass sich Investitionen in den Aufbau generativer KI lohnen, zeigen aktuelle Schätzungen: Ein großer Teil der verwaltungsspezifischen Anwendungsfälle ließen sich durch eine standardisierte und datenzentrierte Architektur kosteneffizient und ressourcenschonend abdecken.
Das heißt: Ich brauche nicht für jede Funktion eine eigene Fachanwendung, sondern kann vieles mit einem Modell lösen – wenn die Daten stimmen.
Daran verdeutlicht sich, dass eine generative KI hat das Potenzial hat, ein vielseitiges Werkzeug zu sein. Sprachmodelle können programmieren, Daten analysieren, visualisieren oder komplexe Texte generieren. Für die Anwendung in der Berliner Verwaltung bedeutet das potenziell: Statt für jede Aufgabe eine separate Softwarelösung – ein sogenanntes Fachverfahren – zu benötigen, kann ein augmentiertes Modell innerhalb einer Standardarchitektur mehrere Fachanwendungen gleichzeitig abdecken, sofern die zugrunde liegenden Datenquellen stimmen.
Das macht generative Open-Source-KI zu einem strategisch relevanten Baustein der digitalen Transformation des öffentlichen Sektors.
Welche Rolle spielen offene Daten in KI-Anwendungen?
Zwei Projekte, die für die Augmentierung von KI-Modellen in der Verwaltung hervorgehoben werden können, sind der Data Hub Berlin, entwickelt von der Technologiestiftung Berlin, und die digitale Akte der Berliner Verwaltung. Beide Systeme dienen als zentrale Datenquellen, die eine effiziente und standardisierte Datenverarbeitung ermöglichen.
Der Data Hub Berlin ist eine offene, modulare Plattform zur Integration, Harmonisierung und Bereitstellung städtischer Verwaltungsdaten, um datenbasierte Entscheidungsprozesse in Verwaltung und Stadtgesellschaft zu ermöglichen. Er zielt darauf ab, Datensilos in Behörden zu überwinden, offene Schnittstellen (APIs) bereitzustellen und durch Visualisierung die Nutzbarkeit der Daten zu verbessern. Dadurch erleichtert der Data Hub nicht nur die interne Datenverwendung und fördert datenbasierte Entscheidungsprozesse auf kommunaler Ebene. Der Data Hub vereinfacht auch die Veröffentlichung offener Daten für die Bevölkerung.
Die digitale Akte dient ergänzend dazu als integriertes System für Sachbearbeitende. Sie ist ein zentraler Baustein zur Umsetzung einer vollständig elektronischen und medienbruchfreien Verwaltung in Berlin. Das Vorhaben umfasst nicht nur die Einführung einer Softwarelösung, sondern auch die Optimierung von Prozessen, organisatorische Anpassungen sowie die revisionssichere und gesetzeskonforme Langzeitspeicherung von Dokumenten. Damit soll die Effizienz der Verwaltungsarbeit gesteigert und die Leistungsfähigkeit der Berliner Verwaltung nachhaltig gestärkt werden. Sie ermöglicht eine nutzerfreundliche Arbeitsumgebung, in der Verwaltungsmitarbeitende alle relevanten Informationen gebündelt vorfinden. Dies reduziert Siloeffekte und steigert die Effizienz der Verwaltungsprozesse.
Warum sind strukturierte Daten die Basis guter KI?
Nur wenn die zugrunde liegenden Daten verlässlich, aktuell und sinnvoll miteinander verknüpft sind, können Sprachmodelle und andere KI-Systeme valide und belastbare Antworten generieren.
Wie zentral die zugrundeliegende Datenstruktur ist, zeigt die Studie „Linked Open Data in der Praxis“ (2025) der Open Data Informationsstelle Berlin (ODIS) – ein Projekt der Technologiestiftung Berlin, gefördert von der Senatskanzlei Berlin – eindrücklich. Die Studie untersucht exemplarisch, wie unstrukturierte Daten – etwa Berliner Verwaltungsorganigramme – in ein vernetztes Wissensnetzwerk überführt werden können. Dieses ermöglicht dadurch eine maschinenlesbare und semantisch angereicherte Datenstruktur.
Das Risiko mangelnder Aktualität und Qualität von Daten kann weitreichende Folgen haben. Ein Beispiel zeigt die Studie anhand des Chatbots „Bobbie“, der virtuelle Bürgerassistent des Service-Portals Berlin: Selbst Wochen nach einem Regierungswechsel konnte Bobbie den aktuellen Regierenden Bürgermeister nicht korrekt benennen, da er auf veraltete oder nicht strukturierte Daten zurückgriff.
Erst durch die Annotationen, semantische Beziehungen und die Nutzung offener Standards kann eine Datenstruktur entstehen, die von Maschinen sinnvoll interpretiert und verarbeitet werden kann. Auf diese Weise entstehen Datenprodukte, die nicht nur technische, sondern auch institutionelle und gesellschaftliche Wirkungen entfalten.
Wie gelingt der Weg zu gemeinwohlorientierter KI?
Der hier skizzierte Weg, abseits kommerzieller Angebote ein offenes Modell generativer KI zu entwickeln und dabei eine qualitativ hochwertige sowie ethisch vertretbare Datenbasis zu schaffen, ist herausfordernd. Er erfordert den Mut und die Bereitschaft, neue, vorerst ungewohnte Wege zu beschreiten. Gleichzeitig zahlt sich die Investition mindestens genauso aus. Denn die Etablierung von Open-Data-Strukturen stellt nicht nur einen wichtigen Baustein für eine nachhaltige Verwaltung dar, sondern fördert auch eine gemeinwohlorientierte Stadtkultur. Die Nutzbarkeit offener Daten für die Öffentlichkeit ermöglicht digitale Teilhabe und stärkt das Vertrauen der Bürger:innen in die digitale Transformation ihrer Stadt.
Wir brauchen gute Daten, eine gute KI – und den Mut, sie einzusetzen.
Jetzt ist der Zeitpunkt, die Grundlagen für eine vertrauenswürdige und leistungsfähige generative KI im Dienst des Gemeinwohls zu schaffen. Fortschritt entsteht nicht durch das Warten auf ideale Rahmenbedingungen, sondern durch den entschlossenen Einsatz pragmatischer Lösungen, die kontinuierlich weiterentwickelt werden. Erst in der Praxis und weniger in den theoretischen Vorüberlegungen und Abwägungen lassen sich wertvolle Erfahrungen sammeln, Systeme iterativ zu verbessern und echte digitale Souveränität Schritt für Schritt aufzubauen. Entscheidend dafür ist die enge Zusammenarbeit zwischen Verwaltung, Wissenschaft, Wirtschaft und Zivilgesellschaft.
Die Erfahrungen aus Berlin zeigen, dass der Weg zu einer gemeinwohlorientierten KI keineswegs eine ferne Vision ist, sondern heute bereits beschritten werden kann. Offene Daten, leistungsfähige Open-Source-Modelle und vor allem der entschlossene Wille zur praktischen Umsetzung bilden die Grundlage dafür. Die Verwaltung erhält dadurch nicht nur die Möglichkeit, effizienter zu werden, sondern auch gerechter, transparenter und bürger:innennäher.