Im letzten halben Jahr schrieb ich für das Studium (B.Sc. in Information & Cyber Security) an der Hochschule Luzern meine Arbeit über die Gefahren von Internet-Benutzerdaten. Dabei fokussierte ich mich grösstenteils auf die missbräuchliche Verwendung von Internet-Benutzerdaten und die Gefahren der Big-Data-Analyse, also der Auswertung riesiger Datenmengen. Ich beleuchtete dabei einige Geschehnisse aus der jüngeren Vergangenheit und ihre Auswirkungen auf die Gesellschaft. Ich wollte der Frage nachgehen, ob im Internet erhobene Daten auch in Formen verwendet werden, welche eine Gefahr für die Gesellschaft darstellen. Für die Arbeit erhielt ich die Höchstnote. 🙂 Ich möchte sie hiermit in meinem Blog in mehreren Post-Folgen der Allgemeinheit zur Verfügung stellen.

Dem Leser soll im Verlauf bewusst werden, welche potenziellen Gefahren von im Internet erhobenen Benutzerdaten ausgehen. Denn die hinterlassenen Daten bergen Risiken, welche nicht offensichtlich sind. So soll dem Leser aufgezeigt werden, dass durch das Hinterlassen von scheinbar harmlosen Benutzerinformationen Dual-Use-Szenarien entstehen können. Im Verlauf dieser Post-Serie soll zudem gezeigt werden, welche wichtige Bedeutung dem öffentlichen Bewusstsein über die Gefahren zukommt. Denn erst mit dem Etablieren des Wissens über die Gefahren, können wichtige Gespräche und Debatten darüber geführt werden, wie wir uns als Gesellschaft davor schützen können.

Einleitung

Die IT oder ICT, als Sammelbegriff für unzählige digitale Informations- Kommunikations- und Datenverarbeitungs-Technologien, ist in den letzten 30 Jahren in alle Bereiche des modernen Lebens eingedrungen. Diverse IT-Technologien beeinflussen und durchdringen so viele Aspekte unseres täglichen Lebens, dass es schwierig wird, einen Bereich zu finden, welcher nicht in irgendeiner Form durch die IT unterstützt oder gar erst ermöglicht wird.
Wenn ich beispielsweise im Supermarkt eine Packung Chips kaufe, waren etliche IT-Systeme daran beteiligt, damit ich dieses Produkt überhaupt erst kaufen kann. Vom Anbau und Handel der Rohstoffe, über die Produktion, bis hin zum Verkauf des Produkts an den Konsumenten, besteht ein Strang von unzähligen Prozessschritten, welche mit Hilfe von IT-Technologien ausgeführt werden. Die globale Wirtschaft, der Betrieb aller kritischen Infra-strukturen, die globale Kommunikation, alle Industriezweige wie auch die moderne Wis-senschaft. Alle stützen sich auf IT-Technologien ab und werden durch diese betrieben. Wenn man sich dies bewusst macht, wird rasch klar, dass wir heute abhängig von der IT geworden sind, wie auch die Website «Cyber Security Austria» mit einem Beitrag zum Thema «Kritische Infrastrukturen» verdeutlicht (Cyber Security Austria, o. J.).
Neben der Abhängigkeit, welche durch diese omnipräsente Verwendung von vernetzten IT-Technologien entsteht, gibt es noch ein weiterer Aspekt, welcher sich bildet. Jede Ver-wendung von vernetzten IT-Technologien generiert eine riesige Anzahl von Daten über den Benutzer. Durch die Vernetzung der einzelnen Systeme und deren Verwendung können verknüpfte Informationen über den Benutzer entstehen, welche von sehr vertraulicher Na-tur sind. Dies scheint soweit einleuchtend zu sein. Jedoch können im Internet auch schon aus scheinbar unkritischen Daten, in Bezug auf den persönlichen Datenschutz, Verkettun-gen von Informationen entstehen, welche für heikle Analysen verwendet werden können. Was dabei alles möglich ist und wie solche Analysen in der Vergangenheit bereits miss-braucht wurden, wird in den folgenden Unterkapiteln in Beispielen aufgezeigt.

Das Errechnen der Persönlichkeit von Online-Benutzern

Die Verwendung von sozialen Netzwerken ist in Grossteilen der Welt zum Alltag geworden. Sekündlich werden persönliche und alltägliche Gedanken in sozialen Netzwerken wie beispielsweise Facebook, Twitter und Instagram geteilt. Der grösste Teil der Benutzerinnen und Benutzer ist sich höchstwahrscheinlich nicht bewusst, dass seine/ihre Daten auch stets mit der Betreiberfirma sowie vielen involvierten Drittfirmen geteilt werden.

Gemäss der Website brandwatch.com werden allein auf Facebook minütlich über 4 Millionen Likes vergeben und täglich 350 Millionen Fotos von 2,27 Milliarden aktiven Nutzern hochgeladen (Kit Smith, 2019). Gemäss statista.com erwirtschaftete Facebook allein im vierten Quartal 2019 einen Umsatz von über 21 Mrd. US-Dollar (Facebook Global Revenue 2019, 2020). Dies zeigt, wie wertvoll die riesigen Mengen an Daten sind. Sie werden durch immer raffiniertere Methoden analysiert, um Informationen zum Verhalten der Nutzer zu gewinnen und diese an interessierte Werbetreibende verkaufen zu können. Durch die unvorstellbar grosse, verfügbare Datenmenge können das Verhalten und die persönliche Meinung jedes einzelnen Benutzers erstaunlich genau bestimmt werden. Akteure, welche Zugriff zu den Daten haben, können so genauestens massgeschneiderte Werbung an verschiedenste Zielgruppen richten und diese dadurch wohl auch beeinflussen, wie später weiter aufgezeigt wird.

Mittels Analysen von grossen Mengen an Benutzerdaten, kann sehr genau auf einzelne Persönlichkeitsmerkmale des Benutzers geschlossen werden. Dies zeigt eine Studie von Michal Kosinski und seinen Forschungskollegen von der University of Cambridge. Sie konnte aufzeigen, dass allein durch die Masse an scheinbar nicht aussagekräftigen Daten, mit grosser Treffsicherheit auf persönliche Eigenschaften einer Person geschlossen werden kann, ohne dass die jeweilige Person diese Daten explizit angegeben hat.

Ausgewertet wurden für die Studie die Facebook-Likes auf Elemente wie Musiker, Bücher, Lieder, Restaurants, usw. von ca. 58’000 Freiwilligen. Es konnte dabei durch Auswerten von durchschnittlich nur 68 Facebook-Likes recht genau auf die sexuelle Gesinnung (88% Wahrscheinlichkeit) oder politische Einstellung (85% Wahrscheinlichkeit) geschlossen werden. Auch andere Persönlichkeitsmerkmale wie Intelligenz, Religionszugehörigkeit oder Drogenkonsum konnten einfach daraus errechnet werden (Kosinski et al., 2013).

Die Grafik rechts zeigt auf, wie genau die Vorhersagen (in %) mit der Berechnung von durchschnittlich 68 Likes pro Person waren. Dabei ist interessant zu wissen, dass die Genauigkeit damit zunahm, umso mehr Rohdaten zur Verarbeitung zur Verfügung stand, wie folgende Grafik darstellt:

Cambridge Analytica

Cambridge Analytica, im Nachfolgenden «CA» genannt, war ein zwischen 2014 – 2018 aktives Datenanalyse-Unternehmen, welches Analyse-Dienstleistung für Wahlkampagnen an verschiedene politische Akteure verkaufte. Internationale Berühmtheit erlangte das Unternehmen, nach Publizierung des Skandals um die Mitarbeit in der US-Präsidentschaftswahl von Donald Trump, mittels fragwürdiger und illegaler Methoden.

Der Fall um CA ist insofern interessant für dieses Buch, als dass er exemplarisch aufzeigt, wie mächtig der massehafte Besitz von Daten sein kann und welche Gefahren für die Gesellschaft daraus entstehen können, Informationen uneingeschränkt online zu teilen. Der Fall beleuchtet somit das enorme Dual-Use-Potenzial von online gesammelten Benutzerdaten eindrücklich. Es zeigt den enormen Bedarf für einen offener Diskurs darüber, welche Risiken mit dem Datensammeln entstehen. Es verdeutlicht zudem, dass die Gesellschaft für den Datenschutz noch weiter sensibilisiert werden sollte.

CA – Gründung und Strategie

Das Unternehmen Cambridge Analytica, wurde im Jahr 2014 durch die britisch-amerikanische SCL Group gegründet. Das Unternehmen wurde darauf spezialisiert, politische Akteure in Wahlkampagnen zu unterstützen. Auch das Mutterunternehmen SCL Group war in diesem Bereich tätig. «SCL nutzte Data mining und Datenanalyse, um Kommunikationsmaßnahmen auf bestimmte Zielgruppen maßgerecht zuschneiden zu können und so Verhaltensänderungen (wie etwa Wahlentscheidungen) im Sinne der Kunden von SCL zu bewirken.» («SCL Group», 2019). Jedoch war die SCL Group und Cambridge Analytica nicht ausschliesslich im Bereich der Wahlkampfunterstützung tätig. So waren die Unternehmen früher vor allem in militärischen Operationen als Spezialist zur psychologischen Kriegsführung  tätig war, wie Shasha Issenberg von bloomberg.com in einem Artikel aus dem 2015 ausführlich erläutert.(Shasha Issenberg, 2015) Auch im Dokumentarfilm «Cambridge Analyticas großer Hack» wird aus einer Firmenpräsentation von CA folgendes zitiert:

«Wir bieten umfangreiche Dienstleistungen im Bereich der Verteidigung an. Unsere Partner sind das Britische Militär, Kriegsmarine, das US Militär,[…],Die Nato, die CIA,[…] das Pentagon. Mittels Datenforschung wird das Verhalten feindlicher Zielgruppen beeinflusst. […] Wie überzeugt man Menschen? Wie verringert man die Wahlbeteiligung? Wie erhöht man sie?»
(Noujaim & Amer, 2019 min. 1:13:00 – 1:13:50).

Viele der Unternehmensmitarbeiter, welche vorher als Spezialisten der psychologischen Kriegsführung und Verhaltensbeeinflussung bei SCL arbeiteten, wurden später weiter bei Cambridge Analytica eingesetzt, wie Shasha Issenberg ebenfalls erwähnt.

• 

Die Trump Kampagne und der Brexit

Wie erwähnt, erlangte Cambridge Analytica internationale Berühmtheit dadurch, dass sie in der US-Präsidentschaftswahl mittels fragwürdiger und illegaler Methoden für Donald Trump Wahlkampf betrieben. Dies, indem sie illegal beschaffte Daten von mehr als 87 Millionen Facebook-Nutzern dazu nutzten, sogenannte Psychogramme also detaillierte Persönlichkeitsprofile der Benutzer zu erstellen. (Dachwitz, 2018) Gemäss Cambridge Analytica selbst, wurden bis Wahlkampfende von über 220 Millionen US-Bürgern persönliche Psychogramme erstellt (Grassegger, 2016). Diese wurden dafür genutzt, zu erkennen, auf welcher Ebene eine Wählerin/ein Wähler beeinflussbar ist, um sie oder ihn danach mit zielgerichteter Werbung zur Wahl von Donald Trump zu bewegen.

Wie effektiv die von CA angewendete Methoden, vielfach als Microtargeting bezeichnet, waren zeigt die weiter oben im Kapitel behandelte Studie, auf welche auch die Zeitung «Das Magazin» verweist:

«Psychologisches Targeting, wie Cambridge Analytica es verwendete, steigert die Clickraten von Facebook-Anzeigen um über 60Prozent [sic]. Die sogenannte Conversion-Rate, also wie stark Leute – nachdem sie die persönlich zugeschnittene Werbung gesehen haben – auch danach handeln, also einen Kauf tätigen oder eben wählen gehen, steigerte sich um unfassbare 1400 Prozent.» (Grassegger, 2016)

Dies lässt vermuten, dass das Verhalten und die Meinungen von Menschen mit den richtigen Mitteln stärker beinflussbar sind, als man zunächst annehmen würde.

Brittany Keiser, Business Development Director bei Cambridge Analytica beschrieb das Konzept im Dokumentarfilm «Cambridge Analyticas großer Hack» wie folgt: «Unser Kreativ-Team entwickelte personalisierte Werbung für eine gewünschte Reaktion. Wir bombardierten sie über Blogs, Webseiten, Artikel, Videos, Anzeigen, jede Plattform, die zur Verfügung stand. Bis sie die Welt so sahen wie wir es wollten.» (Noujaim & Amer, 2019 min. 42:05 – 42:10).

Wie Cambridge Analytica zu ihren Daten kamen und dass sie beim Microtargeting auf eine ähnliche Methode setzten, wie in der erwähnten Studie von Michal Kosinski beschrieben, zeigt die folgende Grafik von «The Guardian».

Die oben besprochenen Fakten und Studien legen die Vermutung nahe, dass durch das Microtargeting mittels BigData-Analyse, also der Analyse riesiger Datenmengen, ein effizientes Werkzeug geschaffen wurde, um Menschen gezielt zu beeinflussen. Es muss erwähnt werden, dass es auch Stimmen gibt, welche die Effizienz von Cambridge Analytica anzweifeln. (Allen, 2018) Doch lassen uns die jahrelangen Erfahrungen von CAs Gründerunternehmen SCL, im Bereich psychologischer Kriegsführung, die erwähnte Studie der University of Cambridge sowie die früher im Kapitel erwähnten Aussagen ranghoher Mitarbeiter von CA, wie Brittany Keiser und Christopher Wylie, ein anderes Bild zeichnen.

Cambridge Analytica und der Rechtspopulismus

Während der Entstehungsphase wurde Cambridge Analytica durch Steve Bannon als ihren Vizepräsidenten essenziell geprägt. (Cadwalladr, 2018a) Steve Bannon war vorher mehrere Jahre als Geschäftsführer des einflussreichen und als rechtspopulistisch bis rechtsradikal eingestuften Nachrichtenportals Breitbart News tätig («Breitbart News Network», 2020). Unter Anderem sorgte Bannon in der Vergangenheit dadurch für Aufsehen, dass er in der Öffentlichkeit mehrmals das Ziel seiner Arbeit mit «ich will alles zum Einsturz bringen und das komplette Establishment zerstören» betitelt hat (Schmitt, 2017). Wiederholt machte Steve Bannon in der Vergangenheit Schlagzeilen durch seine Tätigkeiten, welche immer dadurch geprägt waren, im rechten Spektrum der Politik verschiedener Länder Einfluss zu gewinnen. Auch «Die Zeit» erwähnte in einem Artikel aus dem Jahre 2018 einige Aktionen Bannon’s wie folgt: «Er will mit seiner Stiftung The Movement von Brüssel aus die europäischen Rechtsparteien zu einem rebellischen “Superblock” zusammenschweißen und die EU von innen zerstören» (Assheuer, 2018).

Insofern erstaunt es auch nicht, dass Cambridge Analytica als Treiber für die Wahlkampagnen des US-Präsidenten Donald Trump arbeitete (Cadwalladr, 2017). Auch für die Wahlkampagnen zum Brexit, welcher als Versinnbildlichung der Auferstehung des europäischen Populismus gilt, war Cambridge Analytica zuständig. In den beiden erwähnten Wahlkampagnen liess sich stets auch die Handschrift und Ideologie von Steve Bannon erkennen. Dies wird auch durch Christopher Wylie, ehemaliger Datenanalyst von CA mit seinem Statement «I made Steve Bannon’s psychological warfare tool» weiter ersichtlich (Cadwalladr, 2018a).

Teil 2 – folgt bald

Quellenverzeichnis und weiterführende Links

Allen, J. (2018, März 20). Cambridge Analytica’s effectiveness called into question despite alleged Facebook data harvesting. NBC News. https://www.nbcnews.com/politics/politics-news/cambridge-analytica-s-effectiveness-called-question-despite-alleged-facebook-data-n858256

Assheuer, T. (2018, Juli 29). Stephen Bannon: Die AfD ist interessiert. Die Zeit. https://www.zeit.de/2018/31/stephen-bannon-populismus-nationalismus-europa

Breitbart News Network. (2020). In Wikipedia. https://de.wikipedia.org/w/index.php?title=Breitbart_News_Network&oldid=195992909

Byers, D. O. and D. (2017, September 28). Exclusive: Fake black activist social media accounts linked to Russian government. CNNMoney. https://money.cnn.com/2017/09/28/media/blacktivist-russia-facebook-twitter/index.html

Cadwalladr, C. (2017, Mai 7). The great British Brexit robbery: How our democracy was hijacked. The Guardian. https://www.theguardian.com/technology/2017/may/07/the-great-british-brexit-robbery-hijacked-democracy

Cadwalladr, C. (2018a, März 18). ‘I made Steve Bannon’s psychological warfare tool’: Meet the data war whistleblower. The Guardian. https://www.theguardian.com/news/2018/mar/17/data-war-whistleblower-christopher-wylie-faceook-nix-bannon-trump

Cadwalladr, C. (2018b, Dezember 19). Carole Cadwalladr on Twitter: «Cambridge Analytica email states CA is undertaking Target Audience Analysis (TAA) for LeaveEU. But there’s something else not in the story. Brittany Kaiser told parliament that TAA was ‹export controlled› by the British govt & considered ‹weapons grade communications tactics› https://t.co/F3Mu1uMfZ4» / Twitter. Twitter. https://twitter.com/carolecadwalla/status/1075416385617059841

Christl, W. (2014a, November). Durchleuchtet, analysiert und einsortiert. Cracked Labs. http://crackedlabs.org/studie-kommerzielle-ueberwachung

Christl, W. (2014b). Studie im Auftrag der Bundesarbeitskammer Wien, November 2014. 90.

Cyber Security Austria. (o. J.). Abgerufen 3. April 2020, von https://www.cybersecurityaustria.at/index.php/home/kritische-infrastrukturen

Dachwitz, I. (2018, März 21). FAQ – Was wir über den Skandal um Facebook und Cambridge Analytica wissen [UPDATE]. netzpolitik.org. https://netzpolitik.org/2018/cambridge-analytica-was-wir-ueber-das-groesste-datenleck-in-der-geschichte-von-facebook-wissen/

DiResta, R., Shaffer, D. K., Ruppel, B., Matney, R., Fox, R., Albright, D. J., Johnson, B., & Research, C. (2019). The Tactics & Tropes of the Internet Research Agency. 101.

Facebook global revenue 2019. (2020, Januar). Statista. https://www.statista.com/statistics/422035/facebooks-quarterly-global-revenue/

Grassegger, H. (2016, Dezember 3). Ich habe nur gezeigt, dass es die Bombe gibt. Das Magazin. https://www.dasmagazin.ch/2016/12/03/ich-habe-nur-gezeigt-dass-es-die-bombe-gibt/

Helbing, D. (2018, März 25). Datensammelwut gefährdet die Demokratie. Die Datensammelwut gefährdet die Demokratie. https://www.sueddeutsche.de/digital/digitale-privatsphaere-datensammelwut-gefaehrdet-die-demokratie

Hern, A. (2018, Mai 6). Cambridge Analytica: How did it turn clicks into votes? The Guardian. https://www.theguardian.com/news/2018/may/06/cambridge-analytica-how-turn-clicks-into-votes-christopher-wylie

Kit Smith. (2019, Februar 12). 53 interessante Statistiken und Zahlen rund um Facebook. Brandwatch. https://www.brandwatch.com/de/blog/facebook-statistiken/

Kosinski, M., Stillwell, D., & Graepel, T. (2013). Private traits and attributes are predictable from digital records of human behavior. Proceedings of the National Academy of Sciences, 110(15), 5802–5805. https://doi.org/10.1073/pnas.1218772110

Noujaim, J., & Amer, K. (2019, Januar 26). Cambridge Analyticas großer Hack [Dokumentation]. Netflix. https://www.netflix.com/de/title/80117542

Parham, J. (2018, Dezember 17). Targeting Black Americans, Russia’s IRA Exploited Racial Wounds. Wired. https://www.wired.com/story/russia-ira-target-black-americans/

Peitz, C. (2019, Juli 22). Mikrotargeting zersetzt die Demokratie. https://www.tagesspiegel.de/kultur/ki-forscher-toby-walsh-mikrotargeting-zersetzt-die-demokratie/24679352.html

Rabe, L. (2019, August 2). Themenseite: Online-Werbung. de.statista.com. https://de.statista.com/themen/113/online-werbung/

Saurugg, H. (2014, Oktober 26). Vernetzung & Komplexität und Systemische Betrachtungen. Herbert Saurugg – Experte für Blackout-Vorsorge. https://www.saurugg.net/hintergrundthemen/vernetzung-komplexitaet

Schmitt, U. (2017, Februar 24). Trumps Chefberater: Bannons Bekenntnis zur Zerstörung des Staates. DIE WELT. https://www.welt.de/debatte/kommentare/article162351992/Bannons-Bekenntnis-zur-Zerstoerung-des-Staates.html

SCL Group. (2019). In Wikipedia. https://de.wikipedia.org/w/index.php?title=SCL_Group&oldid=191046544

Shane, S., & Frenkel, S. (2018, Dezember 17). Russian 2016 Influence Operation Targeted African-Americans on Social Media. The New York Times. https://www.nytimes.com/2018/12/17/us/politics/russia-2016-influence-campaign.html

Shasha Issenberg. (2015, November 12). Cruz-Connected Data Miner Aims to Get Inside U.S. Voters’ Heads. Bloomberg.Com. https://www.bloomberg.com/news/features/2015-11-12/is-the-republican-party-s-killer-data-app-for-real-

Shaw, T. (2018, März 21). The New Military-Industrial Complex of Big Data Psy-Ops. The New York Review of Books. https://www.nybooks.com/daily/2018/03/21/the-digital-military-industrial-complex/

Smith, D. (2018, Oktober 17). Weapons of Micro Destruction: How Our ‘Likes’ Hijacked Democracy. https://towardsdatascience.com/weapons-of-micro-destruction-how-our-likes-hijacked-democracy-c9ab6fcd3d02

Wensierski, P., & Jahn, R. (2005). Alles unter Kontrolle? | bpb. bpb.de. https://www.bpb.de/mediathek/442/alles-unter-kontrolle