3x nachgehakt: Prof. Dr. Jeanette Hofmann über Demokratie, KI & politische Willensbildung
Wir stellen drei Fragen an Digital-Praktiker:innen, deren Themen uns bewegen. Diesmal an Jeanette Hofmann, die als Digitalpolitik-Forscherin mit über 30 Jahren Erfahrung erklärt, warum es für unsere heutige Demokratie den Buchdruck brauchte, welchen Teil der politischen Willensbildung Künstliche Intelligenz nicht ersetzen kann und inwiefern die Kulturtechnik des Schreibens künftig zum „Dirigieren“ werden könnte.
KI und Demokratie: Geht das zusammen? Welchen Grad der Disruption sehen wir derzeit im Vergleich zu Buchdruck, Suchmaschinen oder Social Media, die die politische Willensbildung jeweils grundlegend verändert haben?
Tatsächlich unterscheidet sich KI von den bisherigen Medien. Ich würde sagen, dass die repräsentative Demokratie im Flächenstaat, so wie wir sie heute verstehen, durch den Buchdruck erst möglich geworden ist. Demokratie setzt einen öffentlichen Diskurs zur Willensbildung voraus, für den Informationen und Meinungen gesammelt, ausgetauscht und zirkuliert werden müssen. Es besteht außerdem ein wechselseitiges Bedingungsverhältnis zwischen Medien und Politik: Der Informations- und Diskussionsbedarf der Demokratie führte dazu, dass sich Tageszeitungen auf die Politik einstellten.
KI ist gerade erst dabei ist, sich zu einem Medium mit Infrastrukturcharakter zu entwickeln. Deshalb ist ein kulturhistorischer Rückblick, den wir auf Radio oder Fernsehen werfen können, hier schwierig.
Fest steht: KI ist in dem Sinne disruptiv, als dass sie unsere gewohnten Praktiken der Wahrheitsüberprüfung durcheinanderbringt und neue Möglichkeiten schafft, Realität herzustellen. Eine interessante Beobachtung ist die Veränderung von Kulturtechniken: Meine Studierenden nutzen KI-Systeme heute stark für die Textproduktion, indem sie der KI diktieren, also Voice Prompting benutzen. Das könnte dazu führen, dass das Schreiben, dem wir seit der Romantik einen hohen kreativen Wert beimessen, künftig wieder eher als eine technische Fertigkeit betrachtet wird. Wir werden das Schreiben vielleicht eher „dirigieren“ als selbst praktizieren.
Wer hat die Verantwortung, den gesellschaftlichen Wandel rund um KI mitzugestalten? Was kann und muss Politik tun?
Wir müssten deutlich mehr „rote Linien“ einziehen als es beispielsweise die KI-Verordnung der Europäischen Union, der EU AI Act, tut. Ein Problem ist, dass Militär- und Sicherheitspolitik faktisch von Beschränkungen ausgenommen werden.
Wenn der Staat sich selbst beim KI-Einsatz nicht beschränkt, stellt dies die Rolle der Grundrechte zur Disposition. Wir brauchen ein Verständnis von Grundrechten, das neben den Individuen auch stärker Kollektive schützt, zum Beispiel vor Gesichtserkennungsdiensten und Verfahren zur Gefühlsanalyse.
Ich forsche aktuell zu risikobasierter Regulierung, wie sie die EU mit der Datenschutzgrundverordnung, dem Digital Services Act und nun dem AI Act praktiziert. Der risikobasierte Ansatz ist die dominierende Regulierungsmethode der EU geworden. Die Kritik daran ist, dass dieser Ansatz vor allem auf Verfahren setzt und weniger auf konkrete Ergebnisse, also die effektive Vermeidung von Grundrechtsverletzungen. Alternativen wären ein Haftungsregime, das Unternehmen für alle entstehenden Schäden verantwortlich macht, oder auch klare Verbote spezifischer Techniknutzungen. Stattdessen nutzt die EU Checklisten für Hochrisikosysteme. Wenn Unternehmen diese Compliance-Anforderungen erfüllen, sind sie rechtlich weitgehend „aus dem Schneider“, auch wenn ein Schaden entsteht.
Aus Sicht einer Politikwissenschaftlerin, die seit 30 Jahren zur Wechselwirkung von digitalem Wandel und Gesellschaft forscht: Wenn KI-Anbieter jetzt schon Modelle nicht für die Öffentlichkeit anbieten, weil sie angeblich zu gefährlich sind – was kommt noch auf uns zu?
Eine große Gefahr liegt in der Anthropomorphisierung: Wir neigen dazu, diesen Systemen menschliche oder übermenschliche Fähigkeiten zuzuschreiben. Daraus folgt oft der Fehlschluss, eine KI könnte eine der politischen Willensbildung überlegene Expertise entwickeln.
Aber Demokratie ist kein System für die „optimale“ Antwort, sondern ein Beteiligungssystem für legitime Entscheidungen. KI kann zwar Szenarien liefern, die auf vergangenen Ereignissen oder Zusammenhängen basieren. Entscheidungen müssen aber am Ende politisch legitimiert bleiben.
Das sehen wir auch beim Klimawandel: Die Daten liegen vor, aber die politischen Entscheidungen hängen von Mehrheiten ab, nicht von Modellen.