Was den Menschen zum Menschen macht

KI-algorithmische Anordnung

4 Min. Lesezeit

Die KI-algorithmische Anordnung ist die personalisierte Selektion und Reihung von Inhalten durch Recommender-Systeme, Ranking-Algorithmen und Personalisierungs-Engines. Was die Person zu sehen bekommt, in welcher Reihenfolge, mit welcher Frequenz, ist Resultat einer Verhaltensvorhersage über sie selbst. Sie ist Unterform der KI-arrangierenden Personvergessenheit und das technisch wirksamste Mitglied der Familie.

Was strukturell geschieht

Die Person erlebt eine Ordnung — den eigenen Feed, die eigene Suchergebnis-Liste, die eigene Produktempfehlung —, die sie nicht gewählt hat. Die Architektur dieser Ordnung bleibt ihr verborgen. Was sie sieht, ist das Ergebnis einer Funktion, deren Eingaben Verhaltensspuren von ihr selbst und statistisch ähnlichen Personen sind, deren Ausgabe eine Vorhersage maximierter Verweildauer, Klick-Wahrscheinlichkeit, Konversionsrate ist.

Shoshana Zuboff (The Age of Surveillance Capitalism, PublicAffairs 2019) hat die ökonomische Logik präzise benannt: Die Ware ist nicht der Nutzer, sondern die Vorhersage über ihn. Und je manipulierbarer das Verhalten ist, desto wertvoller die Vorhersage. Daraus entsteht eine strukturelle Anreiz-Asymmetrie zugunsten der Manipulation: Wer Vorhersagen verkauft, hat ein finanzielles Interesse daran, dass das Verhalten lenkbar bleibt.

Foucault: Pastoralmacht in der Maschine

Michel Foucault hat in Sécurité, territoire, population (Vorlesungen 1977/78 am Collège de France) die christliche Pastoralmacht analysiert: der Hirte kennt jedes Schaf einzeln und führt es. Diese Logik ist die strukturelle Analogie zur algorithmischen Anordnung. Der Recommender kennt die Person besser als jede menschliche Pastoralinstanz vor ihm — Klick-Geschichte, Verweildauer, Scroll-Tiefe, Reaktionsmuster auf hundert Reizvarianten. Und er führt sie: nicht durch Befehl, sondern durch das, was er ihr zeigt.

Foucaults Gouvernementalité (Naissance de la biopolitique, 1978/79) verschärft: das Regieren wirkt über die Anordnung von Anreizen, nicht über Verbot. Genau das tut die algorithmische Anordnung. Wichtig: Foucault selbst ist deskriptiv. Seine Analyse ist Werkzeug, nicht Rechtfertigung. Die normative Bewertung kommt aus anderer Tradition.

Warum dies Personvergessenheit ist

Drei Gründe:

Erstens behandelt die algorithmische Anordnung die Person als statistisches Profil, nicht als Jemand. Spaemann (Personen, 1996, Kap. 8): „Personen gibt es nur im Plural” — die personale Wirklichkeit konstituiert sich in der Anerkennung als unverwechselbares Gegenüber. Die Recommender-Logik adressiert nicht eine Person, sondern den Schnittpunkt aus Profil-Merkmalen.

Zweitens untergräbt sie das, was Karol Wojtyła als Selbsttranszendenz der Person bestimmt hat (Osoba i czyn, 1969): die Fähigkeit, über sich hinauszugehen, sich an etwas zu wenden, was nicht aus der eigenen Vorgeschichte folgt. Wer in einem optimierten Feed lebt, bekommt fast nur, was zur eigenen Vorgeschichte passt. Die Selbsttranszendenz wird durch Selbst-Spiegelung ersetzt — was Shannon Vallor (The AI Mirror, Oxford UP 2024) als „rückwärtsgewandten Spiegel” benannt hat.

Drittens kollidiert sie strukturell mit der Wahrheit: Optimiert wird auf Verweildauer und Klick, nicht auf wahrheitsgerechte Repräsentation. Christopher Bail (Breaking the Social Media Prism, Princeton UP 2021) differenziert die einfache Filter-Bubble-These — die kausale Geschichte ist komplexer als „Algorithmus radikalisiert”. Aber dass die algorithmische Anordnung nicht nach Wahrheit kalibriert ist, bleibt unbestritten.

Empirische Lage 2024–2026

Frances Haugens Facebook-Leak (2021) dokumentierte interne Anerkennung, dass Engagement-Optimierung Polarisierung verstärkt. Salvi et al. (Nature Human Behaviour 2025) zeigten, dass GPT-4 mit Zugang zu demografischen Informationen in 81,7 % der Fälle persuasiver war als menschliche Debattenpartner — das Persuasions-Skalierungs-Potenzial der Kombination Microtargeting plus LLM ist demonstriert. Die Effekte in Wahlen 2024 (USA, EU, Slowakei) waren vorhanden, aber empirisch weniger ausschlaggebend als befürchtet (Simon/Altay/Mercier, HKS Misinformation Review 2023).

Vorsicht: „Weniger ausschlaggebend 2024” heißt nicht „kein Manipulationsrisiko”. Die Effektgrößen können nichtlinear werden, wenn die Technik billiger und besser wird.

Ontologische Einordnung

Quellenangaben: Recherchestand 23. Mai 2026.

Weitere Quellen:

  • Foucault, Michel (1975): Surveiller et punir. Paris: Gallimard.
  • Foucault, Michel (2004): Sécurité, territoire, population. Cours au Collège de France 1977–1978. Paris: Gallimard/Seuil.
  • Foucault, Michel (2004): Naissance de la biopolitique. Cours au Collège de France 1978–1979. Paris: Gallimard/Seuil.
  • Zuboff, Shoshana (2019): The Age of Surveillance Capitalism. New York: PublicAffairs.
  • Bail, Christopher A. (2021): Breaking the Social Media Prism. How to Make Our Platforms Less Polarizing. Princeton: Princeton University Press.
  • Salvi, Francesco et al. (2025): „On the conversational persuasiveness of GPT-4”. Nature Human Behaviour 9, 1645–1653 (online 2024, print 2025). DOI 10.1038/s41562-025-02194-6. (arXiv-Preprint 2024: arXiv:2403.14380.)
  • Simon, Felix M.; Altay, Sacha; Mercier, Hugo (2023): „Misinformation reloaded? Fears about the impact of generative AI on misinformation are overblown”. Harvard Kennedy School (HKS) Misinformation Review 4(5).
  • Vallor, Shannon (2024): The AI Mirror. Oxford: Oxford University Press.
  • Spaemann, Robert (1996): Personen. Stuttgart: Klett-Cotta.
  • Wojtyła, Karol (1969/1981): Osoba i czyn / Person und Tat. Kraków / Freiburg: Herder.

Siehe auch

Graphansicht

Backlinks