Im letzten halben Jahr schrieb ich für das Studium (B.Sc. in Information & Cyber Security) an der Hochschule Luzern meine Arbeit über die Gefahren von Internet-Benutzerdaten. Dabei fokussierte ich mich grösstenteils auf die missbräuchliche Verwendung von Internet-Benutzerdaten und die Gefahren der Big-Data-Analyse, also der Auswertung riesiger Datenmengen. Ich beleuchtete dabei einige Geschehnisse aus der jüngeren Vergangenheit und ihre Auswirkungen auf die Gesellschaft. Ich wollte der Frage nachgehen, ob im Internet erhobene Daten auch in Formen verwendet werden, welche eine Gefahr für die Gesellschaft darstellen. Für die Arbeit erhielt ich die Höchstnote. 🙂 Ich möchte sie hiermit in meinem Blog in mehreren Post-Folgen der Allgemeinheit zur Verfügung stellen.

Hier geht es zum ersten Teil des Artikels:

Die Gefahren unserer Online-Daten – Teil 1

Wie beeinflussen staatliche Akteure die Bevölkerung mittels Microtargeting?

Mit heutigen technischen Mitteln sind psychografische Analysen, also der Vermessung der Psyche und Persönlichkeit, so effizient geworden wie nie zuvor. Es kann davon ausgegangen werden, dass die so erhaltenen Psychogramme von einer Vielzahl von Akteuren erstellt werden, und dies von einem Grossteil der Bevölkerung. Allein schon der Wert der Psychogramme für die Werbeindustrie ist riesig, wenn man den fürs Jahr 2021 zu erwartenden Umsatz von rund 350 Milliarden US-Dollar für Online-Werbung betrachtet (Rabe, 2019). Denn wer die effizienteren Werbemethoden besitzt, kann sich auch einen grösseren Teil dieses Kuchens sichern. Werbetreibende sind allerdings nicht die einzigen Akteure, welche Interesse daran haben, zu verstehen, wie die Bevölkerung denkt und wie man sie beeinflussen kann.

Zum heutigen Zeitpunkt ist noch wenig darüber bekannt, in welchem Ausmass Online-Daten durch staatliche Akteure gesammelt werden mit dem Ziel, Bevölkerungsgruppen gezielt zu manipulieren. Jedoch scheint offensichtlich, dass in gewissen Staaten wohl ein grosses Interesse an solchen Methoden besteht, um mittel-bis langfristig politische und geopolitische Interessen durchzusetzen. Die Kundenliste von SCL und Cambridge Analytica, geben wohl nur einen Blick auf die Spitze des Eisbergs, wie interessant CA’s Methoden für Staaten sind. So waren die NATO, der amerikanische Auslandsgeheimdienst und das britische Verteidigungsministerium nur einige der Kunden von SCL(Shaw, 2018). Ein weiterer Fall, welcher nachder US-Präsidentschaftswahl vom Jahr 2016 ans Tageslicht geführt wurde, soll im Folgen-den exemplarisch aufzeigen, dass es wohl verschiedene Staaten gibt, welche durch Online-Werbung die Bevölkerung in anderen Länder zu beeinflussen versuchen. So wurde darüber berichtet, dass wohl die russische Regierung hinter Social Media Kampagnen wie «Blacktivist» steckte, welche dafür benutzt wurden, Polizeigewalt an Schwarzen medial präsent zu machen (Byers, 2017) und (DiResta et al., 2019). Dabei war Russland wohl entscheidend für den Erfolg von «Black Lives Matter», einer Bürgerrechtsbewegung gegen Polizeigewalt an Schwarzen.

Gleichzeitig wurde die Bürgerbewegung «Blue Lives Matter» ebenfalls stark durchRussland gefördert. «Blue LivesMatter» wurde durch weisse, konservative Amerikaner, als Gegenbewegung zu «Black Lifes Matter» gestartet, um für die vielen toten Polizisten zu demonstrieren, welche jährlich im Einsatz sterben (Shane & Frenkel, 2018). Weiter konnte in einer Studie des Cybersecurity-Unternehmens «New Knowledge» belegt werden, dass dem Kreml nahestehende russische Hacker gleichzeitig in weitere Aktionen verwickelt waren. In diesen wurde versucht, ebenfalls die schwarze Bevölkerung der USA durch Werbung auf Social Media und Twitter dazu zu bewegen, die Präsidentschaftswahlen vom 2016 zu boykottieren. Dadurch sollten die demokratischen Präsidentschaftskandidaten gezielt geschwächt werden. Beispiele von SocialMedia Posts, welche von russischen Hacker veröffentlicht wurden, waren folgende:

«[…], egal wer gewinnt, wird weniger tun für den Zustand der schwarzen Bevölkerung, wir werden allein gelassen, vorallem sobald Obama weg ist» und «Wir Schwarzen sind intelligent genug um zu verstehen, dass Hillary nicht unsere Stimme verdient! GEHT NICHT WÄHLEN!» (Parham, 2018, eigene Übersetzung) und (DiResta et al., 2019).

Alle drei Aktionen, welche der russischen Regierung zugeschrieben werden, hatten das Ziel, soziale Spannungen innerhalb der USA zu bewirken, um so das politische System zu destabilisieren. Es ist nicht klar, wie stark die sozialen Spannungen in den USA dadurch zunahmen, indem Russland diese durch Online-Werbung gezielt förderte. Die Analyse darüber, würde ausserhalb des Fokus von meiner Arbeit liegen. Der hier genannte Fall soll jedoch als weiteres Beispiel dienen, um aufzuzeigen, dass verschiedene Staaten wohl ein Interesse daran haben, Menschen mittels gezielter Online-Werbung zu beeinflussen. An dieser Stelle möchte ich die Aussage von David Caroll, einem amerikanischen Pro-fessor, welcher ebenfalls in den Fall um Cambridge Analytica involviert war, zitieren: «Keiner will sich eingestehen, dass Propaganda funktioniert. Denn dann würde man die eigene Beeinflussbarkeit, der erschreckende Mangel an Privatsphäre, sowie die enorme Abhängigkeit von Online-Plattformen eingestehen, die unsere Demokratie zerstört» (Noujaim & Amer, 2019, min. 26:03 -26:10).

Microtargeting als Waffe

Der Datenkapitalismus

Soziale Medien sind nicht die Einzigen, welche akribisch Daten über Internet-Benutzer sammeln und auswerten. Auch Firmen wie Alphabet Inc., das Mutterunternehmen von Google, haben sich auf die massenhafte Sammlung und Auswertung von Benutzerda-ten spezialisiert. Ein Grossteil aller heutigen Websites verwenden Programmteile von Google. Diese dienen einerseits zur Ausführung von Funktionen in Websites, andererseits überwa-chen sie detailliert das Verhalten der Benutzer im Internet. Auch das meistverwendete mobile Betriebssystem Android wurde von Google entwickelt und sendet ununterbrochen Daten des Benutzers an Google. So weiss der Konzern durch das Verwenden von Android äusserst detailliert, welche Websites zu welcher Tageszeit besucht wer-den, was den Benutzeranspricht und was nicht. Kombiniert werden die Daten dabei mit stetigen Standort-Informationen über GPS, um welche Uhrzeit der Benutzer wo war und mit wem er wann, wie lange telefoniert hat. Die Masse an Informationen welche Google so erhält, birgt ein riesiges Potenzial für dessen Missbrauch. Darauf wies auch Dirk Helbling, Dozent an der ETH Zürich, hin: «Die alltägliche Datensammelwut von Digitalkonzernen und vom Staat ist eine Ge-fahr für die Demokratie geworden. Internetgiganten wie Google und Facebookkönnten ein totalitäres Netzwerk schaffen, wie es sich George Orwell und Aldous Huxley nicht besser hätten ausmalen können.» (Helbing, 2018)

Die Möglichkeiten, welche die riesigen Mengen an Personendaten bieten, sind gewaltig. So besteht beispielsweise durch die stetige Überwachung der Bevölkerung die Möglichkeit, zukünftiges Verhalten vorherzusagen. In einer Studie, welche im Auftrag der österreichischen Bundesarbeitskammer zum Thema «Erfassung, Verknüpfung und Verwertung persönlicher Daten im Zeitalter von Big Data» durchgeführt wurde, konnten erstaunliche Erkenntnisse zusammengetragen werden. So liess sich durch das Auswerten des Einkaufsverhalten schwangerer Frauen, der Geburtstermin vorhersagen. Durch das Auswerten vergangener GPS-Daten konnten zukünftige Aufenthaltsorte vorhergesagt werden. Mittels Auswertung der Tastenanschlags-Dynamik auf der Tastatur, konnte man ausserdem, mit grosser Genauigkeit auf Emotionen wie Zuversicht, Unschlüssigkeit, Trauer und Nervosität schliessen (Christl, 2014b). Das Daten-Unternehmen Axciom besitzt gemäss der genannten Studie Daten von etwa 700 Millionen Benutzern weltweit und verkauft diese an interessierte Unternehmen wie Versicherungen weiter, welche darüber mitunter das Risiko eines Versicherten errechnen.

Es ist anzunehmen, dass durch die so erstellten Risikoprofile gewisse Personen von Versicherungsdienstleistungen ausgeschlossen werden und dadurch auch Zugang zu einer wichtigen Versicherung verlieren könnten.

Die Gefahren auf die politische Agenda bringen

Ich möchte hier darauf eingehen, was Gründe dafür sein könnten, dass die Thematik um die beschriebenen Gefahren noch nicht stärker in der Politik und Gesellschaft an-gekommen sind. Dies sind erste Vermutungen. Eine genaue Erforschung der Gründe, erachteich als dringend notwendig und hoffe, dass sie zukünftig wissenschaftlich weiter vertieft werden.
Eine Ursache dafür sehe ich in der technischen Komplexität. Wie erwähnt, ist auf den ersten Blick schwierig zu fassen, welche enormen Gefahrenpotenziale hinter der Auswertung von Online-Daten stecken. Was soll schon falsch daran sein, dass ich mit Facebook mein ganzes Leben teile? Was soll schlimm daran sein, dass Google Schritt für Schritt überwachen kann, wo ich mich gerade befinde?

Auch auf der Website www.jugendundmedien.ch, dem Informationsportal zur Förderung von Online-Medienkompetenz der schweizerischen Eidgenossenschaft, sucht man vergebens nach Artikeln, welchen einen über die Gefahren wie beispielsweise der Beeinflussbarkeit der Bevölkerung durch Microtargeting informieren. Dies zeigt auf, dass das Bewusstsein über die Risiken auch in der Politik noch nicht genügend präsent ist. Es liegt in der Natur der Sache, dass Themen, welche schwer greifbar sind, nicht leicht auf gesellschaftliches und politisches Interesse stossen. Die ICT als Ganzes, schafft hochkomplex vernetzte Systeme. Diese Systeme und ihre Möglichkeiten zu verstehen, ist äusserst anspruchsvoll. Herbert Saurugg, Präsident der Österreichischen Gesellschaft für Krisenvorsorge weist in einem Blogbeitrag auf die daraus resul-tierenden Problematiken hin:

«Gleichzeitig müssen wir akzeptieren, dass das was komplex ist, das menschliche Gehirn überfordert, egal ob es mehr oder weniger komplex ist. Zum anderen gibt es die Erkenntnis, dass uns in vielen Bereichen noch die Werkzeuge und Sprache fehlen, um mit Komplexität erfolgreich umzugehen bzw. diese in einer passenden Weise zu beschreiben.»

Eine grosse Problematik besteht also darin, dass die Möglichkeiten der ICT und deren Gefahren, schwer zu vermitteln sind. Selbst wenn der Skandal um Cambridge Analytica über längere Zeit medial präsent war und aufgezeigt werden konnte, welchen gesellschaftlichen Bedrohungen wir ge-genüberstehen, wird noch immer viel zu wenig darüber diskutiert, wie mit solchen Gefahren umgegangen werden soll. Diskussionen und Debatten darüber finden weder medial noch in der Politik genügend statt. Dies kann angesichts der möglichen Auswirkungen auf unsere Gesellschaft verheerend sein.
Ich erachte es als äusserst wichtig, in der Gesellschaft und der Politikein grösseres Bewusstsein dafür zu schaffen, dass im Internet erhobene Daten auch missbräuchlich verwendet werden können. Nur mit diesem Bewusstsein wird es möglich sein, Diskussionen darüber zu führen, wie wir uns als Gesellschaft vor diesen Gefahren schützen können.

Empfehlungen und abschliessende Gedanken

In den letzten zwei Blog-Posts wurde beleuchtet, dass mittels BigData-Analyse Psychogramme erstellt werden können und dass diese dafür benutzt werden, um mittels «Microtargeted» Werbung Menschen zu beeinflussen. Es wurde aufgezeigt, wie Firmen und Regierungsorganisationen diese in der Vergangenheit dafür einsetzten, politische Wahlen zu beeinflussen oder fremde Länder zu destabilisieren. Anschliessend wurde behandelt, dass diese Methoden eine Gefahr für unsere Gesellschaft und Demokratie darstellen. Im Folgenden möchte ich Empfehlungen definieren, welche sowohl von der Wissenschaft als auch von der Politik und der Gesellschaft umgesetzt werden sollten, um den bestehenden Gefahren begegnen zu können.

Es besteht dringender Bedarf dafür, weitere Forschung in den Themenfeldern zu betreiben, welche in meiner Arbeit behandelt wurden. Bedarf sehe ich darin, zusätzliche Studien durchzuführen, was mit BigData-Analysen alles möglich ist. Dadurch kann besser ergründet werden, welchen Gefahren der Zugang zu riesigen Massen an Benutzerdaten birgt. Es soll zudem weiter erforscht werden, wie effizient Verhaltensmanipulation durch Microtarge-ting funktioniert und welche politischen Akteure es einsetzen. Des Weiteren sehe ich eine dringende Notwendigkeit, die Risiken welchen wir als Ge-sellschaft gegenüberstehen, stärker auf die mediale und politische Agenda zu bringen. In Verbindung mit einer fundierten Forschungslage könnte ein äusserst wichtiger Diskurs darüber geführt werden, wie die Gesellschaft sich vor den Gefahren der missbräuchlichen Verwendung von Benutzerdaten schützen kann.

Verschiedene Unternehmen und Regierungen verfügen über eine unvorstellbare Menge an Daten von Menschen auf der ganzen Welt. Es scheint ein weit verbreitetes Vertrauen in diese Firmen und Regierungen zu geben, dass sie wohl schon „nichts Böses“ mit den Daten anstellen werden. Die Geschichte lehrt uns jedoch, dass stabile, politische Systeme immer wieder kippen können. Eine Regierung welche heute noch als solide, demokratische Organisation angesehen wird, kann sich innert kurzer Zeit in einen diktatorischen Kontrollstaat verwandeln. Die Geschichte lehrt uns auch, dass der Besitz von Daten und die damit einhergehende Überwachung ein wichtiges Instrument diktatorischer Regierungen zur Kontrolle der Bürger ist(Wensierski & Jahn, 2005).

Ich rate jedem Leser abschliessend, sich Bewusstsein darüber zu schaffen, dass Daten auch missbräuchlich verwendet werden können und ein allzu grosses Vertrauen in die Hüter dieser Daten hinterfragt werden sollte.

Manuel Walder
Erarbeitet im Studiengang: B. Sc. in Information & Cyber Security – Hochschule Luzern (Lucerne University of Applied Sciences and Arts)

Quellenverzeichnis und weiterführende Links

Allen, J. (2018, März 20). Cambridge Analytica’s effectiveness called into question despite alleged Facebook data harvesting. NBC News. https://www.nbcnews.com/politics/politics-news/cambridge-analytica-s-effectiveness-called-question-despite-alleged-facebook-data-n858256

Assheuer, T. (2018, Juli 29). Stephen Bannon: Die AfD ist interessiert. Die Zeit. https://www.zeit.de/2018/31/stephen-bannon-populismus-nationalismus-europa

Breitbart News Network. (2020). In Wikipedia. https://de.wikipedia.org/w/index.php?title=Breitbart_News_Network&oldid=195992909

Byers, D. O. and D. (2017, September 28). Exclusive: Fake black activist social media accounts linked to Russian government. CNNMoney. https://money.cnn.com/2017/09/28/media/blacktivist-russia-facebook-twitter/index.html

Cadwalladr, C. (2017, Mai 7). The great British Brexit robbery: How our democracy was hijacked. The Guardian. https://www.theguardian.com/technology/2017/may/07/the-great-british-brexit-robbery-hijacked-democracy

Cadwalladr, C. (2018a, März 18). ‘I made Steve Bannon’s psychological warfare tool’: Meet the data war whistleblower. The Guardian. https://www.theguardian.com/news/2018/mar/17/data-war-whistleblower-christopher-wylie-faceook-nix-bannon-trump

Cadwalladr, C. (2018b, Dezember 19). Carole Cadwalladr on Twitter: «Cambridge Analytica email states CA is undertaking Target Audience Analysis (TAA) for LeaveEU. But there’s something else not in the story. Brittany Kaiser told parliament that TAA was ‹export controlled› by the British govt & considered ‹weapons grade communications tactics› https://t.co/F3Mu1uMfZ4» / Twitter. Twitter. https://twitter.com/carolecadwalla/status/1075416385617059841

Christl, W. (2014a, November). Durchleuchtet, analysiert und einsortiert. Cracked Labs. http://crackedlabs.org/studie-kommerzielle-ueberwachung

Christl, W. (2014b). Studie im Auftrag der Bundesarbeitskammer Wien, November 2014. 90.

Cyber Security Austria. (o. J.). Abgerufen 3. April 2020, von https://www.cybersecurityaustria.at/index.php/home/kritische-infrastrukturen

Dachwitz, I. (2018, März 21). FAQ – Was wir über den Skandal um Facebook und Cambridge Analytica wissen [UPDATE]. netzpolitik.org. https://netzpolitik.org/2018/cambridge-analytica-was-wir-ueber-das-groesste-datenleck-in-der-geschichte-von-facebook-wissen/

DiResta, R., Shaffer, D. K., Ruppel, B., Matney, R., Fox, R., Albright, D. J., Johnson, B., & Research, C. (2019). The Tactics & Tropes of the Internet Research Agency. 101.

Facebook global revenue 2019. (2020, Januar). Statista. https://www.statista.com/statistics/422035/facebooks-quarterly-global-revenue/

Grassegger, H. (2016, Dezember 3). Ich habe nur gezeigt, dass es die Bombe gibt. Das Magazin. https://www.dasmagazin.ch/2016/12/03/ich-habe-nur-gezeigt-dass-es-die-bombe-gibt/

Helbing, D. (2018, März 25). Datensammelwut gefährdet die Demokratie. Die Datensammelwut gefährdet die Demokratie. https://www.sueddeutsche.de/digital/digitale-privatsphaere-datensammelwut-gefaehrdet-die-demokratie

Hern, A. (2018, Mai 6). Cambridge Analytica: How did it turn clicks into votes? The Guardian. https://www.theguardian.com/news/2018/may/06/cambridge-analytica-how-turn-clicks-into-votes-christopher-wylie

Kit Smith. (2019, Februar 12). 53 interessante Statistiken und Zahlen rund um Facebook. Brandwatch. https://www.brandwatch.com/de/blog/facebook-statistiken/

Kosinski, M., Stillwell, D., & Graepel, T. (2013). Private traits and attributes are predictable from digital records of human behavior. Proceedings of the National Academy of Sciences, 110(15), 5802–5805. https://doi.org/10.1073/pnas.1218772110

Noujaim, J., & Amer, K. (2019, Januar 26). Cambridge Analyticas großer Hack [Dokumentation]. Netflix. https://www.netflix.com/de/title/80117542

Parham, J. (2018, Dezember 17). Targeting Black Americans, Russia’s IRA Exploited Racial Wounds. Wired. https://www.wired.com/story/russia-ira-target-black-americans/

Peitz, C. (2019, Juli 22). Mikrotargeting zersetzt die Demokratie. https://www.tagesspiegel.de/kultur/ki-forscher-toby-walsh-mikrotargeting-zersetzt-die-demokratie/24679352.html

Rabe, L. (2019, August 2). Themenseite: Online-Werbung. de.statista.com. https://de.statista.com/themen/113/online-werbung/

Saurugg, H. (2014, Oktober 26). Vernetzung & Komplexität und Systemische Betrachtungen. Herbert Saurugg – Experte für Blackout-Vorsorge. https://www.saurugg.net/hintergrundthemen/vernetzung-komplexitaet

Schmitt, U. (2017, Februar 24). Trumps Chefberater: Bannons Bekenntnis zur Zerstörung des Staates. DIE WELT. https://www.welt.de/debatte/kommentare/article162351992/Bannons-Bekenntnis-zur-Zerstoerung-des-Staates.html

SCL Group. (2019). In Wikipedia. https://de.wikipedia.org/w/index.php?title=SCL_Group&oldid=191046544

Shane, S., & Frenkel, S. (2018, Dezember 17). Russian 2016 Influence Operation Targeted African-Americans on Social Media. The New York Times. https://www.nytimes.com/2018/12/17/us/politics/russia-2016-influence-campaign.html

Shasha Issenberg. (2015, November 12). Cruz-Connected Data Miner Aims to Get Inside U.S. Voters’ Heads. Bloomberg.Com. https://www.bloomberg.com/news/features/2015-11-12/is-the-republican-party-s-killer-data-app-for-real-

Shaw, T. (2018, März 21). The New Military-Industrial Complex of Big Data Psy-Ops. The New York Review of Books. https://www.nybooks.com/daily/2018/03/21/the-digital-military-industrial-complex/

Smith, D. (2018, Oktober 17). Weapons of Micro Destruction: How Our ‘Likes’ Hijacked Democracy. https://towardsdatascience.com/weapons-of-micro-destruction-how-our-likes-hijacked-democracy-c9ab6fcd3d02

Wensierski, P., & Jahn, R. (2005). Alles unter Kontrolle? | bpb. bpb.de. https://www.bpb.de/mediathek/442/alles-unter-kontrolle