0t1 steckt noch in den Kinderschuhen.

The Chaos Machine: The Inside Story of How Social Media Rewired Our Minds and Our World

Das Buch »The Chaos Machine« von Max Fisher beleuchtet eindrücklich die weitreichenden Konsequenzen von Social Media auf unsere Gesellschaft und Denkweisen. Es präsentiert sich als dringender Appell, die fortlaufenden Schädigungen unserer Psyche und Umwelt zu stoppen, bevor die Zeit uns davonläuft.

Buch und Autor

Max Fisher, internationaler Reporter für die New York Times, veröffentlichte im September 2022 sein Buch »The Chaos Machine: The Inside Story of How Social Media Rewired Our Minds and Our World«. Fisher führte umfangreiche Recherchen durch, darunter Interviews mit hochrangigen Facebook-Mitarbeitern und ehemaligen Persönlichkeiten aus dem Silicon Valley. Er analysierte interne Facebook-Dokumente und untersuchte die Geschichte des Silicon Valley und dessen Social-Media-Startups.

Das Buch thematisiert die weitreichenden negativen Auswirkungen sozialer Medien. Fisher zeigt, dass diese Plattformen nicht nur das Schlechte in Menschen hervorbringen, sondern auch unkontrollierte Algorithmen ermöglichen, die Fehlinformationen und Hassrede verbreiten. Ein zentrales Thema ist die Rolle sozialer Medien beim Aufstieg von Trumpismus und Rechtsextremismus. Fisher beleuchtet auch die Auswirkungen auf Genozide in Myanmar und Sri Lanka. Er zeigt, wie die Nutzung sozialer Medien zu einer Fragmentierung der Gesellschaft und einer Verzerrung der öffentlichen Debatte führt.

Das Buch bietet eine tiefgreifende Analyse der negativen Folgen sozialer Medien und fordert zum Nachdenken über die Verantwortung der Technologieunternehmen und die Notwendigkeit von Regulierungen auf.


Kernthesen des Buchs

Kernthesen des Buches

Social Media

In der öffentlichen Wahrnehmung werden soziale Medien häufig erst dann als gefährlich angesehen, wenn sie zur Verbreitung von Propaganda, Falschinformationen und Hass missbraucht werden. Dabei übersehen viele, dass es ein übergreifendes Muster gibt: Soziale Medien tragen maßgeblich zu politischen und kulturellen Krisen bei. Die Gefahren gehen nicht nur von den Nutzern aus, welche die Plattformen missbrauchen, sondern auch von der Gestaltung der Plattformen selbst.

Social Media Plattformen auf einem Smartphone

Ein zentraler Punkt ist dabei, dass Plattformen wie Facebook offenbar nicht anerkennen, dass ihre Algorithmen das Verhalten und die Wahrnehmung der Nutzer gezielt verzerren. Facebook und andere Plattformen haben ihre Macht gerade dadurch gewonnen, dass sie menschliche Tendenzen und Schwächen ausnutzen und verstärken. Eine unabhängige Analyse von Facebook im Sommer 2020 ergab, dass die Regeln der Plattform sogar die Verbreitung von Fehlinformationen zulassen, die dadurch beispielsweise Wahlen beeinflussen können.

Ein weiteres Problem sind die Empfehlungsalgorithmen und ihre Rolle bei der Bildung von Filterblasen und Echokammern des Extremismus. Diese Systeme führen dazu, dass Nutzer immer wieder ähnliche Inhalte vorgeschlagen bekommen und so in einer Art »Blase« gefangen sind, in der ihre Ansichten ständig bestätigt und radikalisiert werden. Auf diese Weise trainieren soziale Medien ihre Nutzer geradezu zum Hass. Die Gefahren gehen somit nicht nur von den Nutzern aus, sondern auch von den Strukturen und Mechanismen der Plattformen selbst.


Psychologie in Social Media

Beispiel: Facebook Newsfeed

»Manipulation has been built in since the beginning«
Max Fisher, der Autor von »The Chaos Machine«

Im Jahr 2007 hat Facebook seinen ersten Algorithmus eingeführt, der dazu führte, dass die Beiträge mit den meisten Likes ganz oben im Newsfeed der Nutzer angezeigt wurden. Dies führte zu einer Explosion des Engagements, da Nutzer nun stets die neuesten Aktivitäten ihrer Freunde - etwa Änderungen des Beziehungsstatus oder Beitritte zu Gruppen - mitbekamen.

Diese Neuerung führte zu einer Welle von Protesten, die sich ausgerechnet auf der Plattform selbst formierten. Gruppen, die sich gegen den Newsfeed aussprachen, wurden ins Leben gerufen und wuchsen rasant, manche gewannen innerhalb eines einzigen Tages 100.000 Mitglieder. Diese Proteste gingen sogar so weit, dass sie Aktivitäten am Hauptsitz von Facebook in Menlo Park, Kalifornien, nach sich zogen.

Doch trotz der kontroversen Diskussionen um den Newsfeed, zeigte diese Situation letztendlich nur, dass der Algorithmus genau das erreichte, was er sollte: Er sorgte für ein hohes Maß an Engagement, und zwar gerade durch diejenigen, die ihre Stimme laut erhoben. Dieses Paradoxon unterstreicht die Aussage, dass »Manipulation von Anfang an eingebaut war«. Denn während die Nutzer ihre Empörung zum Ausdruck brachten, spielten sie gleichzeitig genau das Spiel, das Facebook vorgesehen hatte: Sie engagierten sich intensiv auf der Plattform und trugen so zur Verbreitung von Inhalten bei.

Einfluss auf den User

Einfluss von Social Media auf den Nutzer

In seinem Buch vergleicht der Autor Social Media mit einer Slot Machine, einem Apparat, der seine Nutzer durch ständiges Anteasern von Belohnungen in seinen Bann zieht. Während wir durch Newsfeeds scrollen und nach interessanten Inhalten suchen, wird das Glückshormon Dopamin, in unserem Gehirn ausgeschüttet. Diese Ausschüttung wird weiter verstärkt, wenn wir auf Feedback von Freunden und Bekannten stoßen, was uns ein Gefühl der Anerkennung und Zufriedenheit vermittelt.

Der Autor beleuchtet dabei die subtilen, aber kraftvollen Mechanismen, die diese Suchtreaktion verstärken. Er analysiert, wie die Aspekte des Designs von Social Media Plattformen – von Sound über das Interface bis hin zum haptischen Feedback – mit positiven Ergebnissen, wie beispielsweise der Betätigung des »Like«-Buttons, verknüpft werden. Er argumentiert, dass dies einer Form der klassischen Konditionierung ähnelt, bei der unsere Gehirne darauf trainiert werden, bestimmte Handlungen mit positiven Belohnungen zu verbinden.

In eindrucksvoller Darstellung legt der Autor offen, wie Social Media Plattformen uns dazu verleiten, immer wieder auf der Suche nach der nächsten Belohnung zu scrollen und zu klicken.

Moral Outrage

Moral Outrage

Im Buch untersucht der Autor die tiefgehenden emotionalen Reaktionen, die moralisch fragwürdiges Verhalten oder Ereignisse in uns auslösen können. Im Zentrum steht die starke Empörung, Wut oder Entrüstung, die Menschen empfinden, wenn sie auf scheinbare Ungerechtigkeiten stoßen. Dieses Gefühl kann so intensiv sein, dass es oft mit einem fast überwältigenden Bedürfnis verbunden ist, etwas zu unternehmen und auf die wahrgenommene Unrechtssituation zu reagieren.

Diese emotionalen Zustände sind keineswegs nur individuelle Erfahrungen. Sie können auch kollektiv erlebt werden, wenn eine Gruppe von Menschen gemeinsam auf eine Situation reagiert. Der Autor betont, dass Moral nicht nur ein Produkt von Kultur oder Erziehung ist, sondern eine tief verankerte, angeborene menschliche Eigenschaft, die sich über Jahrmillionen der Evolution entwickelt hat. Sie diente ursprünglich dazu, soziale Zusammenarbeit zu fördern und das Überleben von Gruppen zu sichern. Überraschenderweise zeigen sogar Säuglinge schon Anzeichen von moralischem Verhalten und Empathie.

Anschließend werden die Auswirkungen, die diese moralischen Emotionen in den sozialen Medien, erläutert. Es wird dargelegt, wie moralisch geprägte Beiträge in den sozialen Netzwerken oft mit erhöhtem Engagement belohnt werden, was eine Kultur fördert, die moralische Empörung und sogar die Verbreitung von Falschinformationen unterstützt. Die Nutzer sozialer Medien können in einen Kreislauf geraten, in dem sie ständig nach Personen suchen, die sie wegen ihrer Ansichten oder ihres Verhaltens kritisieren können.

Schließlich beleuchtet der Autor die Rolle von Ingroup-Outgroup-Dynamiken in den sozialen Medien. Dabei handelt es sich um Phänomene, bei denen eine Gruppe von Menschen, die bestimmte Überzeugungen teilen (die Ingroup), eine andere Gruppe, deren Meinungen sie ablehnen (die Outgroup), zum Ziel für Kritik und sogar Angriffe macht. Diese Dynamiken können zur Polarisierung beitragen und zu Konflikten in den sozialen Medien führen, die weit über die virtuelle Welt hinausreichen.


Algorithmen

Intelligente Alogithmen
»The thought process that went into building these applications, was all about, How do we consume as much of your time and conscious attention as possible?«
Sean Parker, ehemaliger Berater bei Facebook

Intelligente Algorithmen

Das Buch dokumentiert eine entscheidende Phase in der Entwicklung von YouTube, beginnend mit dem Jahr 2010. Zu dieser Zeit sah sich das Unternehmen mit geringen Werbeeinnahmen konfrontiert und führte daher eine neue Zielsetzung ein: die Erhöhung der Wiedergabezeit. Zwei Jahre später, 2012, implementierte YouTube ein System für Vorschläge, das Nutzern auf der Startseite, in der Warteschlange und nach Videos personalisierte Empfehlungen präsentierte.

Eine radikale Änderung in der Arbeitsweise von YouTube fand im Jahr 2016 statt, als das Unternehmen von Machine Learning auf Deep Learning umstellte. Mit dieser technologischen Neuerung war der Algorithmus nun in der Lage, eigenständig Muster zu erkennen und seine Parameter entsprechend anzupassen.

Doch die Autonomie des Algorithmus stellte auch eine beträchtliche Herausforderung dar: Der Algorithmus funktionierte unreguliert und die Entwickler hatten aufgrund der Komplexität der Entscheidungsprozesse Schwierigkeiten, diese nachzuvollziehen. Diese Entwicklung stellt eine ernsthafte Gefahr dar, da sie das Potenzial für unbeabsichtigte und möglicherweise schädliche Auswirkungen birgt.

Trotz dieser Bedenken konnte YouTube den gewünschten Effekt erzielen. Die Wiedergabezeit der Nutzer explodierte förmlich und führte zu einem signifikanten Anstieg der Werbeeinnahmen. Das Buch bietet eine kritische Reflexion über die Auswirkungen dieser Strategie und wirft wichtige Fragen über die Verantwortung von Technologieunternehmen auf.

Rabbit Hole

Rabbit Hole

Das Phänomen des »Rabbit Holes« entführt uns in die Tiefen des Internets, wo Nutzer unzählige Stunden damit verbringen, den Empfehlungen von Webseiten zu folgen, oft an Orte gelangen, die ursprünglich nicht beabsichtigt waren zu besuchen.

Ein zentraler Aspekt dieses Phänomens ist die Rolle von YouTube und dessen beeindruckender Algorithmus, der in der Lage ist, durch dieses »Rabbit Hole«-Prinzip neue Communities quasi »aus dem Nichts« zu generieren. Nutzer mit unterschiedlichsten Interessen und Vorlieben werden durch diesen Algorithmus in dieselben Themengebiete gezogen, ein Prozess, der sowohl mächtig als auch potenziell gefährlich ist.

Diese Manipulation des Nutzerverhaltens durch den Algorithmus ermöglicht es, den Informationsfluss zu steuern und Meinungen und Überzeugungen zu formen. In dieser Hinsicht hebt das Buch die komplexen Mechanismen hervor, die hinter diesen Prozessen stecken, und wirft die dringende Frage auf, wie wir als Gesellschaft mit den Herausforderungen umgehen, die sich aus diesen Entwicklungen ergeben.


Auswirkungen von Social Media

Die Kulmination

Die Kulmination

In der digitalen Welt nutzen Plattformen wie YouTube menschliche psychologische Prädispositionen aus, um das Engagement zu maximieren. Technisch hochintelligente Algorithmen spielen dabei eine zentrale Rolle und pushen aktiv spaltende, falsche und emotionalisierende Inhalte.

Die Konsequenzen dieser Prozesse sind tiefgreifend. Die Algorithmen scheinen Gruppen und Bewegungen ohne erkennbare Ursprünge zu generieren. Sie radikalisieren Identitäten, schüren Hass und treiben Spaltungen voran. Bemerkenswert ist die Fähigkeit dieser digitalen Dynamiken, sich in der analogen Welt zu manifestieren, mit enormen Auswirkungen auf unsere Gesellschaft.

Trotz dieser weitreichenden Auswirkungen entziehen sich die Plattformen der Verantwortung. Sie leugnen ihre Rolle als aktive Teilnehmer an diesen Prozessen und übersehen die potenziellen Gefahren und Schäden, die durch ihre Algorithmen verursacht werden. Diese Realität unterstreicht die Notwendigkeit, über die Rolle und Verantwortung dieser Plattformen neu nachzudenken und effektive Mechanismen für ihre Regulierung zu finden.

Beispiel: Myanmar Genozid

Über Jahrzehnte hinweg befand sich Myanmar in einer tiefgreifenden Isolation, die hauptsächlich auf die paranoide Militärjunta zurückzuführen ist, die das Internet fast vollständig verboten hatte. Erst 2011 lockerte der damalige Präsident Thein Sein die Medienbeschränkungen und mit Unterstützung des Silicon Valley fand das Land seinen Weg ins Internet. In kürzester Zeit gingen die Menschen in Myanmar online und begannen, soziale Medien zu nutzen.

Jedoch hatte diese neue Freiheit auch ihre Schattenseiten. In den Jahren 2012-2015 verbreiteten extremistische Randgruppen unter den buddhistischen Geistlichen, darunter der prominente Mönch Wirathu, Rassismus und Verschwörungstheorien gegen die muslimische Minderheit der Rohingya.

Wirathu und seine Anhänger beschuldigten die Rohingya-Minderheit schrecklicher Verbrechen und vermischten dabei Gerüchte mit schamlosen Erfindungen. Die Nutzer der sozialen Medien, die diese Hassreden konsumierten, nahmen diese Propaganda als Fakten wahr und es entstand eine alternative Realität, die von Verschwörung und Wut geprägt war.

Beispiel: Genozid Myanmar

Trotz der zunehmenden Warnungen von Forschern, dass die Plattform für die Förderung von Hassrede genutzt wird und eine wachsende anti-muslimische Hetze nicht moderiert wird, ignorierte Facebook diese Warnsignale jahrelang. Im Jahr 2017 eskalierte die Situation mit einer Militäroperation, die auf die Auslöschung der Rohingya-Gemeinschaft abzielte.

Die brutale Kampagne führte zu weitreichenden Zerstörungen und Menschenrechtsverletzungen, darunter das Niederbrennen von Häusern, Erschießungen von Männern, Vergewaltigungen von Frauen und das In-die-Flucht-Treiben der Bevölkerung. Trotz dringender Hilferufe von Regierungsbeamten in Myanmar griff Facebook nicht ein und ließ die Hetze weiterlaufen, bis die Regierung schließlich den Zugang zu Facebook sperrte, um die Lage zu beruhigen.

Erst als die Nutzerzahlen sanken, nahm Facebook Kontakt auf - jedoch nicht um sich wegen des Genozids zu erkundigen, sondern wegen der gesunkenen Nutzerzahlen. Eine UN-Untersuchungskommission stellte später fest, dass Facebook eine »entscheidende Rolle« bei dem Völkermord in Myanmar spielte und wies darauf hin, dass ein einzelner Ingenieur die Situation durch eine Anpassung des Algorithmus hätte verhindern können.


Die Lösung

Beispiel: Frances Haugen

Beispiel: Francis Haugen

Im Mai 2021 vollzog die ehemalige Facebook-Mitarbeiterin, Frances Haugen, eine mutige Aktion: Sie kopierte tausende interner Unterlagen des Konzerns. Diese Dokumente enthielten Beweise, die eine vorsätzliche Missachtung der Sicherheit von Nutzern, ganzer Gesellschaften und der Demokratie dokumentierten. Sie entschied sich, diese Dateien an die US-Börsenaufsichtsbehörde, den Kongress und den Autor dieses Textes zu senden.

Die Dokumente erzählten eine erschreckende Geschichte: Ein Unternehmen, das sich vollkommen bewusst war, dass es sogar die schlimmsten Einschätzungen seiner Kritiker übertraf. Und trotz ausreichender Vorwarnungen, die es ermöglicht hätten, Maßnahmen zu ergreifen und viele Leben zu retten, passierte nichts.

Appell

Shut if off

Haugen’s Lösungsvorschlag war radikal: den allmächtigen Algorithmus abzuschalten, um die Plattformen zu reformieren. Dieser Gedanke ist kontrovers. Nur wenige argumentieren dafür, soziale Medien komplett abzuschalten, doch angesichts der offenkundigen Missstände sehen viele Forscher, Analysten und Menschenrechtsvertreter dies als die einzig noch mögliche Lösung an.


Fazit zum Buch

Was das Buch auszeichnet, sind keine leeren Anschuldigungen oder vagen Vermutungen. Stattdessen basiert es auf umfassenden Forschungsergebnissen und fundierten Recherchen, die die besprochenen Phänomene detailliert beleuchten. Viele Beispiele veranschaulichen die behandelten Themen und verdeutlichen die weltweiten Auswirkungen und Zusammenhänge.
Zudem überzeugt das Buch durch eine klare, aufeinander aufbauende Struktur und eine inhaltliche Führung, die das komplexe Thema greifbar macht. Der angenehme Schreibstil und das passende Erzähltempo tragen dazu bei, dass sich die Leser*innen trotz der schweren Thematik gut durch die Seiten navigieren können.

Unsere Reflektion

Die Auswirkungen von Social Media Plattformen haben in ihrer Größe und Tragweite ein erschreckendes Ausmaß erreicht, das uns bisher nicht vollständig bewusst war. Sie entpuppen sich zunehmend als zentraler Teil des Problems, das unsere Gesellschaft psychologisch, soziologisch und politisch prägt. Die Verselbstständigung ihrer Algorithmen ist dabei einerseits technisch beeindruckend, andererseits aber auch beängstigend gefährlich. Wir stehen vor der wichtigen Frage, welche Entwicklungen im Zeitalter der Künstlichen Intelligenz auf uns zukommen.



Es ist die unglaubliche Verantwortungslosigkeit und Profitgier der beteiligten Unternehmen, die einen tiefen Eindruck hinterlassen und uns unbequem traurig stimmen. Dieses Verhalten fordert uns heraus, nicht nur die Rolle von Social Media, sondern auch den Wert unserer eigenen Interaktionen mit diesen Plattformen zu hinterfragen.





Das Buch beleuchtet – wie der Titel bereits aussagt – überwiegend die Schattenseiten von Social Media, was das Gesamtbild negativ prägt. Trotzdem ist es wichtig zu betonen, dass unsere persönlichen Erfahrungen auf diesen Plattformen (zumindest bis jetzt) überwiegend positiv sind. Wir sind bisher selten mit Extremismus oder Radikalisierung konfrontiert worden. Diese Diskrepanz zeigt, wie wichtig es ist, auf die potenziellen Gefahren sensibilisiert zu sein. Nur so können wir eine informierte Perspektive auf diese Plattformen einnehmen und proaktiv auf mögliche Risiken reagieren.


© 0t1

Cookies

0t1 mag keine Kekse (und kein Tracking). Wir verwenden lediglich notwendige Cookies für essentielle Funktionen.

Wir verwenden Schriftarten von Adobe Fonts. Dafür stellt dein Browser eine Verbindung zu den Servern von Adobe in den USA her. Wenn du unsere Seite nutzen möchtest, musst du dich damit einverstanden erklären.

Weitere Informationen in unserer Datenschutzerklärung.