HERE GOES INVISIBLE HEADER

Forum 1: Marc Hauer: Müssen wir uns vor Algorithmen und Social Bots fürchten?

Forum 1 Hier finden Sie eine Zusammenfassung des Forums „Social Bots und Algorithmen – die technische Seite der Manipulation und wie man sie entlarvt“ vom Safer Internet Day 2020. | Foto: Christian Reinhold

Algorithmen lösen mathematische Probleme

Algorithmen und Social Bots zählen zu den Phänomenen, die uns täglich im Netz begegnen – und häufig nehmen wir sie gar nicht wahr. Nach Großereignissen wie den US-Wahlen 2016 oder dem sogenannten „Brexit“ wurden Fragen nach dem politischen Einfluss entsprechender Phänomene laut. Marc Hauer von der Technischen Universität Kaiserslautern erklärt, was dahintersteckt und wieso wir uns trotz des technischen Fortschritts nicht vor diesen Phänomenen fürchten müssen.

Algorithmen sind Handlungsvorschriften zur Lösung eines bestimmten (mathematischen) Problems. Hierbei führt eine bestimmte Eingabe zu einer bestimmten Ausgabe. Ein Alltagsbeispiel für einen Algorithmus ist die Anzeige der Google Suchergebnisse. Hierbei geben die Nutzerinnen und Nutzer Suchbegriffe ein (Input), während ein Algorithmus diese Suchbegriffe verarbeitet und eine Auswahl und Reihenfolge an Ergebnissen anzeigt (Output). Entsprechend können Algorithmen komplexe Anfragen verarbeiten und schnell Ergebnisse liefern. Eine Grenze jener Prozesse sieht Hauer allerdings in der Interpretation der Ergebnisse. Algorithmen können Daten zwar nach bestimmten mathematischen Kriterien verarbeiten, jedoch keine inhaltliche Interpretation der Ergebnisse vornehmen. Am Beispiel der Google Suchergebnisse zählen beispielsweise die genaue Suchanfrage, der Standort der Nutzer/-innen, aber auch bestimmte Eigenschaften der potentiellen Ergebnisseiten zu den herangezogenen Kriterien. Ob die Suchergebnisse auch inhaltlich perfekt zur Suchanfrage passen, das weiß Google selbst nicht. Das System und schlussendlich auch die Nutzer/-innen verlassen sich hierfür auf jene Algorithmen, die Google für die Ergebnissuche einsetzt.

Social Bots als Meinungsmacher im Netz

Social Bots sind Programme, die überwiegend in sozialen Netzwerken menschliche Verhaltensweisen nachahmen und in Form von regulären Nutzerprofilen auftreten. Social Bots führen automatisiert bestimmte Aufgaben aus, beispielsweise das Kommentieren von Beiträgen. Die Herausforderung bei Social Bots liegt vor allem darin, sie zu identifizieren. Denn in größeren Mengen eingesetzt können sie durchaus das öffentliche Meinungsbild verzerren. Social Bots werden deshalb häufig von extremistischen Gruppierungen eingesetzt, um ihr eigenes politisches Weltbild zu streuen. Hierdurch besteht die Gefahr, dass ungefestigte Nutzer/-innen dieses Weltbild als allgemeingültig wahrnehmen. Doch eine entsprechende Manipulation kann auch andersherum stattfinden: So wurden bereits Projekte durchgeführt, bei denen antidemokratische Nutzer/-innen erfolgreich von demokratisch agierenden Bots beeinflusst wurden. Laut Hauer sind die Social Bots inzwischen teils so gut gemacht, dass manche sich kaum noch von echten Nutzerprofilen unterscheiden lassen. Ein großer Teil der Bots sei jedoch relativ einfach zu identifizieren, meint Hauer. Indizien für Social Bots sind zum Beispiel längere Zahlenkombinationen am Ende des Nutzernamens oder ein aktives Profil mit verhältnismäßig wenig eigenen Beiträgen und Followern. Trotz der technischen Möglichkeiten der Social Bots rät Hauer dazu, Ruhe zu bewahren. Auch wenn sie in erster Linie durch die Quantität ihrer Beiträge auffallen: Beim Beginn einer echten Konversation wird aufgrund der pauschalen Antwortfloskeln relativ schnell klar, dass hier kein echter Mensch dahintersteckt.

Text: Sascha Schmidt

Kontakt

Medienpädagogische Beratungsstelle

Tel.: 0711 2850-777
E-Mail senden

Öffnungszeiten
Mo–Do: 9:00–16:00 Uhr
Fr: 9:00–12:00 Uhr