KI als „Medienkatastrophe“? Nachgehakt bei Mads Pankow, Gegenwartsanalyst und Buchautor

Mads Pankow ist Publizist und beschäftigt sich mit den gesellschaftlichen Folgen digitaler Technologien und Künstlicher Intelligenz. Pankow war Gründer der Zeitschrift Die Epilog und ist Host des Podcasts Mensch, Maschine!. Im September 2026 erscheint sein Buch „Die wahrscheinliche Wahrheit. Wie KI unsere Wirklichkeit, Moral und Gesellschaft neu berechnet“.

Mads, Du bist Medienwissenschaftler, Technikphilosoph und Gegenwartsanalyst. Welchen Mehrwert hat es, das Thema Künstliche Intelligenz, über das schon sehr viel gesprochen und geschrieben wurde, aus Deiner Perspektive zu betrachten?

Wenn man sich die Geschichte der Medien anschaut, fällt zuallererst auf, dass mit jeder neuen Medientechnologie auch viele andere Veränderungen in der Gesellschaft einhergehen: Neue Wege, Gerechtigkeit zu finden, neue Hierarchien in der Gesellschaft und sogar neue Wege, die Welt zu beschreiben. Ein Beispiel ist der Schritt von der rein mündlichen zur schriftlichen Gesellschaft. Auf einmal war es möglich, Städte zu organisieren, weil man eine schriftliche Verwaltung aufbauen konnte. Es entstanden Rechtskodizes, die eine vorher ganz individuelle, mündliche Rechtsprechung auf allgemeine Regeln und Gesetze abstrahierte. Und es entstand auch eine neue Form der Wahrheit, nämlich das schriftliche Argument, was Erklärungen und Beschreibungen der Welt über viele Seiten ausführen konnte. Damit waren viel komplexere Erklärungen möglich und außerdem konnte man sie am nächsten Tag noch nachlesen und keiner konnte sagen: Ach gestern, was ich da gesagt habe, das erinnerst du falsch oder das habe ich nicht so gemeint. Vorher war die soziale Organisation in Stammesgruppen noch viel lockerer, die Rechtsprechung bestand immer aus Einzelfallentscheidungen und die Wahrheit war eher etwas Vages, Mythisches und auch sehr Flexibles. So einen Sprung in der Sozial- und Ideengeschichte erleben wir jetzt mit KI auch wieder: weg von den Prinzipien der Buchdruckgesellschaft, Kausalität und Erklärbarkeit, hin zu wahrscheinlichkeitsorientierten Steuerungsmechanismen.

Inwiefern bringt Deine Perspektive denn etwas Neues in den bisherigen Diskurs ein? Gab es die Betrachtung eines Medienhistorikers noch nicht?

Doch, die Mediensoziologie und Mediengeschichte sind ein weit erforschtes Feld, das sich mit den Zusammenhängen zwischen Medientechnologien und gesellschaftlichem Wandel beschäftigt. Aber die meisten Forscherinnen und Forscher sind vorsichtig, wenn es darum geht, allein aus einer Technologie auch bestimmte Gesellschaftsformen abzuleiten – man spricht eher von Koevolution. Die Schrift ermöglichte städtische Verwaltung, und gleichzeitig ermöglichten erst die dadurch entstehenden größeren Gemeinschaften und städtische Institutionen, wie Schulen und Behörden, die weitere Verbreitung der Schrift. Das habe ich versucht, weiterzudenken und auf KI zu übertragen: Welche Strukturen sind innerhalb dieser neuen Medientechnologie angelegt? Wie werden Informationen verarbeitet und verbreitet? Und wie könnte das künftig beeinflussen, wie wir über Wahrheit und Moral nachdenken und uns gesellschaftlich organisieren?

Sprache, Schrift, Buchdruck, Internet, heute Künstliche Intelligenz: Die Geschichte zeigt, dass jede neue Medientechnologie neu bestimmt, wie Wahrheit entsteht und was als wahr gilt. Was unterscheidet den Umbruch durch moderne KI von früheren Medienumbrüchen?

Frühere Medienumbrüche traten allein auf und die Gesellschaften hatten viel mehr Zeit, sich an die Auswirkungen des neuen Mediums zu gewöhnen. Heute passiert vieles auf einmal. Durch Vernetzung und Computerisierung entstehen jetzt gerade gleich mehrere verschiedene Kommunikationsmechanismen, die unser Handeln und Denken beeinflussen. Social Media ist eins davon, es vereinzelt die Kommunikation und selektiert allein nach Emotionalität: Das führt zu Polarisierung und hat natürlich starke Auswirkungen auf den gesellschaftlichen Zusammenhalt. Und das andere neue Medium sind probabilistische Algorithmen. Sie bilden die Grundlage der meisten heutigen KIs und auch von Datenanalyse und ähnlichen aktuellen Informationstechnologien. Diese Algorithmen verarbeiten Informationen über die Welt nicht mehr nach Argumenten, also kausalen Erklärungen, wie wir sie in der Schrift verwenden, sondern nur noch nach Wahrscheinlichkeiten. Das stellt uns vor ganz grundlegende Fragen, zum Beispiel: Was darf eigentlich als wahr gelten? Sind unsere alten Wahrheiten wirklich so viel zuverlässiger als die neuen?

Für jede Gesellschaft erschienen neue Medientechnologien immer als eine Art Katastrophe, weil sie alles Bestehende in Frage stellen, was zu ganz viel Überforderung geführt hat – sogenannte „Medienkatastrophen“. Und da stecken wir jetzt auch gerade drin. Das muss aber nichts Schlimmes sein, es ist auch eine Chance auf eine neue, hoffentlich bessere Gesellschaft, die danach folgt. Aber es ist halt wahnsinnig anstrengend.

Wetter-Apps, Navigationssystem, Kreditscoring, Empfehlungsalgorithmen – überall folgen wir heute Modellen und Prognosen, oft ganz beiläufig. Wie stark prägen sie unser Denken und Handeln bereits?

Diese Funktionsprinzipien probabilistischer Algorithmen sind schon ganz stark in unserem Alltag angekommen. Suchmaschinen sortieren Informationen nach Wahrscheinlichkeiten, Sprachmodelle konfektionieren Wissen danach, datengetriebene Empfehlungsalgorithmen lenken unsere Käufe, und selbst politische Entscheidungen etwa in der Corona-Pandemie stützten sich auf probabilistische Modelle. Was ich besonders interessant daran finde, ist, dass all das nicht mehr auf den klassischen Kriterien von Begründung, Erklärung, Theorie basiert, sondern allein auf Korrelation, das heißt auf Wahrscheinlichkeiten, auf Zusammenhängen in großen Datenmengen. Und die liegen zwar nicht immer richtig, denn Korrelation ist nicht gleich Kausalität, aber trotzdem beschreiben solche Modelle Zukunft und Gegenwart oft präziser als unsere menschlichen Erklärungen.

Moderne KI funktioniert wesentlich nach dem Prinzip von Wahrscheinlichkeit und Zufall. Was bedeutet das für unsere Gesellschaft – welche Veränderungen und Möglichkeiten entstehen dadurch?

Vielleicht erstmal kurz zur Erklärung: Wahrscheinlichkeitsbasierte Algorithmen sind die Algorithmen, die heute zur Arbeit mit großen Datenmengen verwendet werden und sich in den meisten aktuellen KI-Modellen finden. Sie verarbeiten die Welt nicht als Symbole oder Theorien, sondern als endlose Kette von Nullen und Einsen, in der sie Korrelationen finden und diese in die Zukunft projizieren – ohne zu verstehen, was sie tun. Diese Form der Wirklichkeitsbeschreibung macht sie fehleranfällig. Sie hat häufig aber auch eine genauere Vorhersagekraft oder Weltbeschreibungsgenauigkeit als unsere menschlichen Erklärungen und Theorien. Ein probabilistisches Modell kann zum Beispiel das Wetter zwei Wochen im Voraus ziemlich präzise vorhersagen. Oder in der Medizin: Aus CT-Scans lassen sich frühzeitig Krebserkrankungen erkennen, weil die Maschine Korrelationen zwischen bestimmten Pixelmustern und späteren Krebserkrankungen erkennt. Das können Menschen nicht verstehen und das werden Menschen höchstwahrscheinlich auch nie verstehen können, weil das nicht unserer Art und Weise entspricht, die Welt zu beschreiben. Und diese Form einer anderen Wahrheit bietet in vielen Bereichen eine genauere Beschreibung der Welt und zukünftiger Entwicklungen.
Und ich glaube, dass diese probabilistischen Wahrheiten künftig in noch mehr Bereichen Anwendung finden werden, mindestens ergänzend, teilweise auch in Konkurrenz zu oder anstelle von klassischen kausalen Wahrheiten.

Wann können diese probabilistischen Algorithmen oder der Einsatz von KI-Maschinen problematisch werden, und wo passiert das vielleicht schon?

Das Grundproblem: Algorithmen beschreiben die Welt, ohne zu wissen, dass es sie gibt. Maschinen besitzen, anders als wir Menschen, kein Bewusstsein. Deshalb entstehen auch immer wieder absurde Fehler, Halluzinationen genannt: Hände mit sieben Fingern bei Bildgeneratoren, oder erfundene Personen, Fakten oder Quellen in Large Language Models. Das ist keine Willkür, sondern das wahrscheinlichste Ergebnis der Datenverarbeitung. Das sind Fehler, die wir qua Architektur von KI-Modellen höchstwahrscheinlich nie vollständig werden ausschließen, sondern nur durch verschiedene Mechaniken werden minimieren können. Deshalb muss man auch immer schauen, in welchen Bereichen man bereit ist, diesen Fehlerquotienten – als Grundrauschen – zu tolerieren. Das geht in einigen Bereichen, in anderen Bereichen ist die Verantwortung für Entscheidungen möglicherweise zu groß.

Du hast mögliche Halluzinationen von KI schon angesprochen. Wie viel Vertrauen verdienen KI-Ergebnisse angesichts von Fehlern – im Vergleich zu menschlichen Erklärungen?

Vertrauen zwischen Mensch und Maschine lässt sich schwer hierarchisieren – beide machen grundsätzlich andere Fehler. KI-Modelle machen Fehler, wo eigentlich Verständnis oder Einsicht nötig wären, siebenfingrige Hände würden selbst einem Kind nicht passieren. Menschen machen andere Fehler, weil sie aufgrund von Gewohnheiten und eingeübten Weltbeschreibungen möglicherweise bestimmte Informationen ausblenden, relevantes Wissen nicht kennen oder einfach nicht gewissenhaft arbeiten, das wiederum passiert der KI nicht.

Deshalb braucht es in besonders kritischen Bereichen Kontrollmechanismen. Das gibt es aber schon: Vier- oder Sechs-Augen-Prinzip, hierarchische Strukturen und Qualitätskontrollen, so wie zum Beispiel Zweitmeinungen in der Medizin. Und ähnlich muss man dann auch mit KI-Technologien umgehen.

Aktuell liegt die Halluzinationsrate bei Sprachmodellen bei etwa 1 bis 5 Prozent. Wenn man es provoziert, kann sie aber auch auf fast die Hälfte steigen. Reduzieren können wir die Fehler, vollständig vermeiden nicht – entscheidend ist, wo man welche Fehler tolerieren kann und wie stark die Auswirkungen sind.

Immer mehr folgenreiche Entscheidungen werden an KI-Systeme delegiert, zum Beispiel Kreditvergabe, medizinische Diagnosen, Personalauswahl. Wer trägt die Verantwortung, wenn diese Systeme falschliegen?

Ich möchte das mal konkret machen am Thema Verantwortung. Die Frage von Verantwortung stellt sich ja ganz grundsätzlich bei jeder Form von Automatisierung, beispielsweise beim autonomen Fahren. Grundsätzlich haben wir die Vorstellung, dass da immer ein Mensch sitzen muss, um in Krisensituationen entscheiden zu können, wie zu handeln ist. Obwohl Fahrzeuge der Stufe vier laut Studien eine 80 Prozent geringere Unfallwahrscheinlichkeit als menschliche Fahrer:innen haben. Im deutschen Gesetz ist inzwischen verankert, dass ab dieser Stufe nicht mehr die Fahrenden haften, sondern Halter:in und Hersteller. Doch Haftung heißt nur: Wer zahlt bei einem Unfall? Verantwortung im eigentlichen Sinn – das moralische Dilemma einer Entscheidung in der Notsituation – ist da gar nicht mehr vorgesehen, und das wird in immer mehr automatisierten Bereichen so sein, auch beim Recruiting oder bei medizinischen Diagnosen. Es geht immer weniger um die Frage einer bewussten Entscheidung, als um das bessere Ergebnis und die Frage wer bei Fehlern zahlt. Das klingt erstmal gruselig. Aber was ist die Alternative? Wollen wir lieber menschliche Entscheider und sind bereit dafür mehr Verkehrstote oder geringere Heilungschancen in Kauf zu nehmen, oder im Recruiting mehr menschliche Vorurteile?

Du hast das Wort „Medienkatastrophe" bereits fallen lassen, so lautet auch der Titel des Fazits deines Buchs. Jeder Medienumbruch wurde und wird seit jeher als Katastrophe wahrgenommen. Kannst Du nochmal kurz erklären, woher dieser Begriff kommt und wie Du ihn verstehst?

In der Mediensoziologie beschreibt er die Überforderung, mit der Gesellschaften auf die Möglichkeiten neuer Kommunikationstechnologien reagieren. Die Schrift machte es plötzlich möglich, über Distanz und mit zukünftigen Generationen zu kommunizieren. Damit ermöglichten sie erstmals einen langfristigen Dissens in der Gesellschaft. In mündlichen Kulturen starben abweichende Meinungen mit ihren Trägern. Es überlebte nur der Konsens. Mit der Schrift standen plötzlich viele aufgeschriebene Weltbeschreibungen gleichzeitig nebeneinander. Das war eine Katastrophe für die Menschen damals, genau wie später die Wissensflut des Buchdrucks – und jetzt stehen wir wieder an so einem Punkt. Historisch gingen solche Umbrüche oft mit Gewalt einher, etwa bei Aufklärung und Dreißigjährigem Krieg, den der Buchdruck mit befeuerte und vermutlich erst ermöglichte. Diese Gewalt bleibt uns hoffentlich weitestgehend erspart. Aber die Überforderung, die können wir uns höchstwahrscheinlich nicht ersparen. Wir müssen nun Möglichkeiten finden, mit diesen neuen Kommunikationsmöglichkeiten umzugehen. Man sollte es positiv sehen: Gesellschaften sind mit jeder neuen Medientechnologie immer komplexer und auch lebenswerter geworden.

Mads Pankow war Speaker auf der CityLAB Sommerkonferenz am 3. Juni. Sein Vortrag „Das Ende von Recht und Ordnung — Wie probabilistische Algorithmen unsere Verwaltung umbauen“ wurde aufgezeichnet.