Ist das nun ein Tabubruch oder ist es ganz normal? Im Januar 2012 veränderte Facebook bei fast 700000 zufällig ausgewählten Nutzern den Algorithmus, nach dem das Netzwerk Posts von Freunden und abonnierten Seiten anzeigt. Eine Text-Software kategorisierte die Nachrichten je nach den darin verwendeten Wörtern als positiv oder negativ. Bei einem Teil der Nutzer wurden die positiven Nachrichten reduziert, bei einem anderen Teil die negativen, dazu gab es Kontrollmechanismen. Eine Gruppe von Wissenschaftlern im Dienst von Facebook und von zwei amerikanischen Universitäten wollte herausfinden, ob das Netzwerk Einfluss auf die Gefühle der Nutzer nehmen kann. Das Ergebnis war: es kann. Die Auswirkungen waren gering, aber statistisch signifikant.
![]()
Eine Gruppe von Wissenschaftler wertete Posts von zufällig augewählten Nutzern aus. Diese hat Facebook teilweise manipuliert.
Zahlen zu dem Experiment wurden vor etwa einem Monat in der Fachzeitschrift „Proceedings of the National Academy of Sciences“ (PNAS) veröffentlicht und gingen als Nachricht weltweit durch die Medien. Nun, einen Monat später, angestoßen durch das liberale Ostküstenmagazin „The Atlantic“, hat der Aufsatz jedoch eine weitere, neue Welle ausgelöst, diesmal eine Welle der Empörung über Facebook und die dort wirkenden Wissenschaftler. Der Vorwurf lautet, sie hätten unwissende Nutzer als Versuchskaninchen benutzt. Das haben sie auch, daran kann kaum Zweifel bestehen, die Frage lautet nun vielmehr: durften sie das?
Bei erster ethischer Betrachtung scheint klar: Es ist, vorsichtig ausgedrückt, äußerst fragwürdig, Informationen, die Menschen erhalten, zu manipulieren, um die Menschen selbst zu manipulieren. Das lässt sich auch relativ einfach mit Kant begründen. Denn Menschen wurden in diesem Fall wirklich zum Mittel für die Forschung gemacht. Utilitaristisch, nach der in den angloamerikanischen Ländern weit verbreiteten Nützlichkeitsethik, die auf das Glück der Menschen abstellt, ist die Argumentation schon schwieriger. Zwar wurde die Hälfte der Teilnehmer absichtlich unglücklicher gemacht, aber zu einem guten Zweck. Man kann die gewonnenen Ergebnisse nun verwenden, um Menschen insgesamt glücklicher zu machen. Allerdings beraubt man sie damit ihrer Freiheit, was John Stuart Mill, einer der Begründer des Utilitarismus, in seiner Schrift „On Liberty“ als Mittel, sie glücklich zu machen, vehement ablehnte.
Das Ganze ist auch wissenschaftsethisch fraglich, weil die „Versuchspersonen“ nicht informiert wurden, sie also kein Einverständnis damit erteilen konnten, was zum wissenschaftlichen Standard gehört. Facebook ist gewohnt, sich für seinen Umgang mit Daten rechtfertigen zu müssen. Deshalb verweist die Firma auf ihre Nutzungsbedingungen. Dem kann man nicht widersprechen. Klickt man sich durch etliche Seiten und Unterseiten, stößt man auf den einschlägigen Passus. In den deutschsprachigen Nutzungsbedingungen erklärt man sich laut „Datenverwendungsrichtlinien“ damit einverstanden, dass Facebook die „Vielzahl an verschiedenen Informationen“ über die Nutzer „beispielsweise“ „für interne Prozesse, u. a. Fehlerbehebung, Datenanalyse, Tests, Forschung und Leistungsverbesserung“ verwenden kann. Aber ist das auch schon eine ausreichende Grundlage für das Experiment, jenseits der rechtlichen Fragestellung? Offenbar nicht für alle. „Nein, Facebook, das ist NICHT, was informed consent bedeutet“ oder: „Zeit, meine Internet-Safety policies zu updaten: Nutzungsbedingungen lesen, nur für den Fall, dass sie beim nächsten Mal auch Organentnahme beinhalten“, lauten Twitternachrichten, die in den Medien zitiert werden.
Hier eröffnet sich jedoch auch zugleich ein allgemeines Problem von psychologischen Experimenten. Sie können oft nicht funktionieren, wenn die Versuchspersonen vorher vollständig aufgeklärt wurden. Werden etwa Münzen in öffentlichen Fernsprechern zurückgelassen, um die Reaktion der Finder unter verschiedenen Bedingungen zu untersuchen, kann man sie nicht vorher darauf hinweisen, dass sie mit dem Erblicken der Münzen schon Teilnehmer einer Studie geworden sind. Auch weiß man zum Beispiel, dass bestimmte Düfte Menschen zum Kaufen verleiten, das wurde durch Versuche herausgefunden und wird laufend angewendet. Kein Kunde wird darauf hingewiesen, dass das Kaufhaus, das er betritt, die Luft mit Duftessenzen anreichert oder bestimmte Musik spielt, um ihn in Kauflaune zu bringen.
Es zeigt sich ein paradoxer Effekt: Die Empörung scheint größer zu sein, wenn die Manipulation zu Forschungszwecken erfolgt, die Menschen also nicht zu einem bestimmten erwünschten Verhalten selbst gebracht werden sollen – wie es in der Wirtschaft gang und gäbe ist. Jede Bedienung etwa weiß, dass sie mehr Trinkgeld bekommt, wenn sie freundlich ist oder es zumindest vorspielt, und tut deshalb genau das. Auch dazu gibt es wieder Untersuchungen, die ohne vorherige Einverständniserklärung erfolgt sind: Gäste geben mehr Trinkgeld, wenn der Kellner oder die Kellnerin sie am Arm berührt oder ein Smiley auf die Rechnung malt.
Natürlich eröffnet all das Missbrauchsmöglichkeiten ohne Ende – bis hin zu Horrorszenarien von Orwellschem Ausmaß. Das ist aber letztlich nicht so sehr das Problem des nun in der Kritik stehenden Versuchs, sondern ein allgemein menschliches Problem. Wir haben in der deutschen Geschichte mehr als leidvoll erfahren, wie sehr Menschen durch Medien manipuliert werden können. Der frühere italienische Ministerpräsident Berlusconi hat so etwas wie das Facebook-Experiment mit seiner Medienmacht auf nationaler Ebene durchgeführt und nicht zuletzt dank der Selektion von Nachrichten und ungleicher Medienpräsenz wiederholt seine Wahlen gewonnen. Man kann Berlusconis Erfolg im Nachhinein fast nur noch belächeln, wenn man sieht, was gerade in der Türkei oder in Russland geschieht, um nur die aktuellsten Beispiele zu nennen. Im Grunde gehört genau dieses Vorgehen zum längst bewährten Werkzeugkasten aller Mächtigen in Ländern mit einem Demokratiedefizit.
Die Manipulation funktioniert – wie stark oder schwach, sei dahingestellt. Daran hat vermutlich niemand gezweifelt. Nun jedoch wird diese eine Studie zum Stein des Anstoßes, die Empörung ist groß. Ein bisschen hat man das Gefühl, es ist der Überbringer der schlechten Nachricht, der geschlagen wird. Vermutlich führt Facebook laufend hunderte, wenn nicht tausende derartiger Versuche durch, vor allem um mithilfe der Ergebnisse die Klickhäufigkeit, die Verweildauer und die Werbe-Effektivität zu steigern. In abgewandelter Form machen das wohl alle größeren Webseiten. Nur weil dieser eine spezielle Versuch wissenschaftlich begleitet und veröffentlicht wurde, kommt es nun zur großen Empörung.
Bei nüchterner Betrachtung kann man aus dem Ganzen zwei Schlüsse ziehen. Zum einen muss ich gestehen, dass ich, obwohl ich nicht umhin komme, das Experiment als unethisch abzulehnen, nicht in dem Maße empört bin. Vermutlich vor allem deshalb, weil es mich nicht überrascht hat und ich nicht überrascht bin. Meines Erachtens muss jeder kritisch denkende Mensch damit rechnen, ja davon ausgehen, dass so etwas geschieht und in gewissem Ausmaß Teil jedes modernen Marketings ist. Vor diesem Hintergrund erscheint eine derartige Manipulation über eine Woche als ein eher geringer Eingriff – auch wenn zumindest eine nachfolgende Information hätte erfolgen sollen. Zudem weiß jeder Facebook-Nutzer aus eigener Erfahrung, dass die Postings gesiebt werden, von Automatismen, die man nicht durchblickt und die laufend verändert und optimiert werden. Optimiert dann wohl im Sinne Facebooks, das ja wachsen will, Umsätze generieren und seine Nutzer binden. Anderes anzunehmen, wäre darum mehr als blauäugig.
Vor allem aber kann man das Experiment umgekehrt sehen und einordnen: Die Wissenschaft hat in diesem Fall ihren Job gut gemacht, sie hat ganz im Sinne der Aufklärung gehandelt, um zu Kant zurückzukehren. Nimmt man seine berühmten Definition: „Aufklärung ist der Ausgang des Menschen aus seiner selbst verschuldeten Unmündigkeit“, dann haben das Experiment, seine Veröffentlichung und die Diskussion darüber die Menschen im besten Sinne aufgeklärt. Sie haben den Menschen geholfen zu erkennen, dass und wie sie manipuliert werden können – und auch manipuliert werden. Dank dessen können sie sich nun besser wehren, haben also einen Ausgang aus der Unmündigkeit der Manipulierbarkeit aufgezeigt bekommen. Alleine schon durch die Information, welche Manipulationen möglich sind und wie sie funktionieren. Wenn wir aber diesen Ausgang nicht erkennen und mit wachem Bewusstsein nutzen, sind die Unmündigkeit, die weitere Beeinflussung und Manipulation ohne unsere Gegenwehr wirklich selbst verschuldet.
Eine Gruppe von Wissenschaftler wertete Posts von zufällig augewählten Nutzern aus. Diese hat Facebook teilweise manipuliert.
Zahlen zu dem Experiment wurden vor etwa einem Monat in der Fachzeitschrift „Proceedings of the National Academy of Sciences“ (PNAS) veröffentlicht und gingen als Nachricht weltweit durch die Medien. Nun, einen Monat später, angestoßen durch das liberale Ostküstenmagazin „The Atlantic“, hat der Aufsatz jedoch eine weitere, neue Welle ausgelöst, diesmal eine Welle der Empörung über Facebook und die dort wirkenden Wissenschaftler. Der Vorwurf lautet, sie hätten unwissende Nutzer als Versuchskaninchen benutzt. Das haben sie auch, daran kann kaum Zweifel bestehen, die Frage lautet nun vielmehr: durften sie das?
Bei erster ethischer Betrachtung scheint klar: Es ist, vorsichtig ausgedrückt, äußerst fragwürdig, Informationen, die Menschen erhalten, zu manipulieren, um die Menschen selbst zu manipulieren. Das lässt sich auch relativ einfach mit Kant begründen. Denn Menschen wurden in diesem Fall wirklich zum Mittel für die Forschung gemacht. Utilitaristisch, nach der in den angloamerikanischen Ländern weit verbreiteten Nützlichkeitsethik, die auf das Glück der Menschen abstellt, ist die Argumentation schon schwieriger. Zwar wurde die Hälfte der Teilnehmer absichtlich unglücklicher gemacht, aber zu einem guten Zweck. Man kann die gewonnenen Ergebnisse nun verwenden, um Menschen insgesamt glücklicher zu machen. Allerdings beraubt man sie damit ihrer Freiheit, was John Stuart Mill, einer der Begründer des Utilitarismus, in seiner Schrift „On Liberty“ als Mittel, sie glücklich zu machen, vehement ablehnte.
Das Ganze ist auch wissenschaftsethisch fraglich, weil die „Versuchspersonen“ nicht informiert wurden, sie also kein Einverständnis damit erteilen konnten, was zum wissenschaftlichen Standard gehört. Facebook ist gewohnt, sich für seinen Umgang mit Daten rechtfertigen zu müssen. Deshalb verweist die Firma auf ihre Nutzungsbedingungen. Dem kann man nicht widersprechen. Klickt man sich durch etliche Seiten und Unterseiten, stößt man auf den einschlägigen Passus. In den deutschsprachigen Nutzungsbedingungen erklärt man sich laut „Datenverwendungsrichtlinien“ damit einverstanden, dass Facebook die „Vielzahl an verschiedenen Informationen“ über die Nutzer „beispielsweise“ „für interne Prozesse, u. a. Fehlerbehebung, Datenanalyse, Tests, Forschung und Leistungsverbesserung“ verwenden kann. Aber ist das auch schon eine ausreichende Grundlage für das Experiment, jenseits der rechtlichen Fragestellung? Offenbar nicht für alle. „Nein, Facebook, das ist NICHT, was informed consent bedeutet“ oder: „Zeit, meine Internet-Safety policies zu updaten: Nutzungsbedingungen lesen, nur für den Fall, dass sie beim nächsten Mal auch Organentnahme beinhalten“, lauten Twitternachrichten, die in den Medien zitiert werden.
Hier eröffnet sich jedoch auch zugleich ein allgemeines Problem von psychologischen Experimenten. Sie können oft nicht funktionieren, wenn die Versuchspersonen vorher vollständig aufgeklärt wurden. Werden etwa Münzen in öffentlichen Fernsprechern zurückgelassen, um die Reaktion der Finder unter verschiedenen Bedingungen zu untersuchen, kann man sie nicht vorher darauf hinweisen, dass sie mit dem Erblicken der Münzen schon Teilnehmer einer Studie geworden sind. Auch weiß man zum Beispiel, dass bestimmte Düfte Menschen zum Kaufen verleiten, das wurde durch Versuche herausgefunden und wird laufend angewendet. Kein Kunde wird darauf hingewiesen, dass das Kaufhaus, das er betritt, die Luft mit Duftessenzen anreichert oder bestimmte Musik spielt, um ihn in Kauflaune zu bringen.
Es zeigt sich ein paradoxer Effekt: Die Empörung scheint größer zu sein, wenn die Manipulation zu Forschungszwecken erfolgt, die Menschen also nicht zu einem bestimmten erwünschten Verhalten selbst gebracht werden sollen – wie es in der Wirtschaft gang und gäbe ist. Jede Bedienung etwa weiß, dass sie mehr Trinkgeld bekommt, wenn sie freundlich ist oder es zumindest vorspielt, und tut deshalb genau das. Auch dazu gibt es wieder Untersuchungen, die ohne vorherige Einverständniserklärung erfolgt sind: Gäste geben mehr Trinkgeld, wenn der Kellner oder die Kellnerin sie am Arm berührt oder ein Smiley auf die Rechnung malt.
Natürlich eröffnet all das Missbrauchsmöglichkeiten ohne Ende – bis hin zu Horrorszenarien von Orwellschem Ausmaß. Das ist aber letztlich nicht so sehr das Problem des nun in der Kritik stehenden Versuchs, sondern ein allgemein menschliches Problem. Wir haben in der deutschen Geschichte mehr als leidvoll erfahren, wie sehr Menschen durch Medien manipuliert werden können. Der frühere italienische Ministerpräsident Berlusconi hat so etwas wie das Facebook-Experiment mit seiner Medienmacht auf nationaler Ebene durchgeführt und nicht zuletzt dank der Selektion von Nachrichten und ungleicher Medienpräsenz wiederholt seine Wahlen gewonnen. Man kann Berlusconis Erfolg im Nachhinein fast nur noch belächeln, wenn man sieht, was gerade in der Türkei oder in Russland geschieht, um nur die aktuellsten Beispiele zu nennen. Im Grunde gehört genau dieses Vorgehen zum längst bewährten Werkzeugkasten aller Mächtigen in Ländern mit einem Demokratiedefizit.
Die Manipulation funktioniert – wie stark oder schwach, sei dahingestellt. Daran hat vermutlich niemand gezweifelt. Nun jedoch wird diese eine Studie zum Stein des Anstoßes, die Empörung ist groß. Ein bisschen hat man das Gefühl, es ist der Überbringer der schlechten Nachricht, der geschlagen wird. Vermutlich führt Facebook laufend hunderte, wenn nicht tausende derartiger Versuche durch, vor allem um mithilfe der Ergebnisse die Klickhäufigkeit, die Verweildauer und die Werbe-Effektivität zu steigern. In abgewandelter Form machen das wohl alle größeren Webseiten. Nur weil dieser eine spezielle Versuch wissenschaftlich begleitet und veröffentlicht wurde, kommt es nun zur großen Empörung.
Bei nüchterner Betrachtung kann man aus dem Ganzen zwei Schlüsse ziehen. Zum einen muss ich gestehen, dass ich, obwohl ich nicht umhin komme, das Experiment als unethisch abzulehnen, nicht in dem Maße empört bin. Vermutlich vor allem deshalb, weil es mich nicht überrascht hat und ich nicht überrascht bin. Meines Erachtens muss jeder kritisch denkende Mensch damit rechnen, ja davon ausgehen, dass so etwas geschieht und in gewissem Ausmaß Teil jedes modernen Marketings ist. Vor diesem Hintergrund erscheint eine derartige Manipulation über eine Woche als ein eher geringer Eingriff – auch wenn zumindest eine nachfolgende Information hätte erfolgen sollen. Zudem weiß jeder Facebook-Nutzer aus eigener Erfahrung, dass die Postings gesiebt werden, von Automatismen, die man nicht durchblickt und die laufend verändert und optimiert werden. Optimiert dann wohl im Sinne Facebooks, das ja wachsen will, Umsätze generieren und seine Nutzer binden. Anderes anzunehmen, wäre darum mehr als blauäugig.
Vor allem aber kann man das Experiment umgekehrt sehen und einordnen: Die Wissenschaft hat in diesem Fall ihren Job gut gemacht, sie hat ganz im Sinne der Aufklärung gehandelt, um zu Kant zurückzukehren. Nimmt man seine berühmten Definition: „Aufklärung ist der Ausgang des Menschen aus seiner selbst verschuldeten Unmündigkeit“, dann haben das Experiment, seine Veröffentlichung und die Diskussion darüber die Menschen im besten Sinne aufgeklärt. Sie haben den Menschen geholfen zu erkennen, dass und wie sie manipuliert werden können – und auch manipuliert werden. Dank dessen können sie sich nun besser wehren, haben also einen Ausgang aus der Unmündigkeit der Manipulierbarkeit aufgezeigt bekommen. Alleine schon durch die Information, welche Manipulationen möglich sind und wie sie funktionieren. Wenn wir aber diesen Ausgang nicht erkennen und mit wachem Bewusstsein nutzen, sind die Unmündigkeit, die weitere Beeinflussung und Manipulation ohne unsere Gegenwehr wirklich selbst verschuldet.