Ethische Fragen müssten bei der Entwicklung von informationstechnischen Anwendungen von vornherein mitgedacht werden. Die gesellschaftlichen Herausforderungen unserer Zeit erfordern interdisziplinäre Arbeit zwischen Ingenieurs- und Sozialwissenschaften. Das waren die Hauptthesen, die bei der Podiumsdiskussion bei der zentralen Veranstaltung zum Safer Internet Day im Raum standen. Verbunden wurden sie mit der Hoffnung darauf, dass die kommende EU-Datenschutz-Grundverordnung ein erster Schritt zu mehr Ethik in der von Big Data und Algorithmen geprägten Gesellschaft ist.

Beteiligt waren Dr. Stefan Selke, Professor für Soziologie und gesellschaftlichen Wandel an der Hochschule für Angewandte Wissenschaften Furtwangen, Dr. Petra Grimm, Professorin an der Hochschule der Medien Stuttgart, Dr. Dirk Helbing, Professor für Computational Social Science an der Eidgenössischen Technischen Hochschule Zürich, Philipp Franke, Leiter des Referats für Medienpolitik, Medienrecht, Rundfunkwesen am Staatsministerium Baden-Württemberg sowie Dr. Stefan Ullrich, promovierter Diplom-Informatiker und Magister-Philosoph. Moderiert wurde die Runde von Constantin Schnell vom Landesmedienzentrum Baden-Württemberg (LMZ).

Dass Algorithmen nicht unbedingt einem gesellschaftlichen Konsens entsprechend handeln, wurde am Beispiel des Dokumentarfilms „Pre-Crime“ offensichtlich, das Constantin Schnell anführte. Der Film zeigt das sogenannte Predictive Policing, bei dem mithilfe von gesammelten Daten versucht wird, potenzielle Straftäter präventiv zu erkennen. Dabei wird deutlich, wie normale Bürger/-innen ins Visier geraten können, weil sie bestimmte, als verdächtig eingestufte Eigenschaften oder Kontakte aufweisen. Für Dirk Helbing sind solche Praktiken nicht kompatibel mit unserem Rechtssystem, es handle sich um „Verdächtigungsalgorithmen“. Sie kehrten das Prinzip der Unschuldsvermutung um. Es gelte auch einen „Entschuldigungsalgorithmus“ zu entwickeln und nicht nur einen „Beschuldigungsalgorithmus“, dann wären wir unserer Rechtsstaatsphilosophie näher.

Stefan Selke: „Aufholen gegen diejenigen, die die Standards setzen“

Sei es angesichts der zahlreichen Unternehmen und Institutionen, die sich Big Data zunutze machen, nicht schon zu spät, hier noch eine Entwicklung im Sinne des Datenschutzes zu steuern, fragte Schnell?

Der Soziologe Selke geht davon nicht aus. Seiner Ansicht nach befindet sich unsere Gesellschaft derzeit in einer Phase des schleichenden Wandels, was etwa den Bezugsrahmen für Werte wie Privatheit angehe. Dieser Wandel dauere wohl etwa eine Generation, vielleicht auch nur zehn Jahre, aber man habe durchaus Zeit, sich damit auseinanderzusetzen und die gesellschaftlichen Standards anzupassen. Allerdings müsse sich die Gesellschaft dennoch beeilen, „aufzuholen gegen diejenigen, die die Standards setzen“, so Selke. Er habe mit zahlreichen Experten über Phänomene wie Big Data gesprochen und fast alle sprächen darüber in Metaphern wie „Meer“, „Ozean“ oder auch „Raub“. Das zeige ihm, dass wir es selbst noch nicht ganz verstehen, was da vor sich geht.

Selke beobachtet unter Experten, die sich mit der Ethik in der digitalen Gesellschaft befassen, drei Gruppen. Die erste, kleine Gruppe versuche, bisherige, gewachsene Wertestandards ins digitale Zeitalter „hinüberzuretten“. Die zweite und zahlenmäßig größte Gruppe plädiere dafür, Werte in der Praxis situativ laufend neu auszuhandeln, während die dritte der Ansicht sei, man bewege sich auf eine dystopisch anmutende „ethische Freihandelszone“ zu, in der Effizienz wichtiger werde als alles was mit Ethik und Menschenwürde zu tun habe. Daher sei gerade die Bildung gefordert, die nächste Generation darauf vorzubereiten, diese ethischen Werte mit auszuhandeln.

Mit dem Blick auf die Schule und die häufig artikulierte Forderung nach mehr informatischer Bildung fragte Schnell: „Müssen alle Schülerinnen und Schüler programmieren lernen?“ Philipp Franke hielt dies nicht für nötig. Die Lösungen gesellschaftlicher Aufgaben seien nicht auf IT-Kenntnisse beschränkt, es bedürfe beispielsweise auch der Ethik, der Ökologie, Philosophie und der Rechtswissenschaft. Vielmehr sei ein grundlegendes Verständnis informationstechnischer Zusammenhänge nötig. Angesichts der zunehmenden Verfügbarkeit von Wissen würden außerdem Kreativität und Empathie immer wichtigere Faktoren in der Bildung.

Dirk Helbing: Ethik in IT-Entwicklungsprozesse einbinden

Der Informatiker Ullrich kritisierte, dass derzeit häufig „kostenlose Word-Schulungen“ als Informatikunterricht verkauft würden, während echter Informatikunterricht nur an wenigen Schulen umgesetzt werde. Die informationstechnische Bildung ziele in der Regel viel zu starr auf berufliche Verwertbarkeit ab. Die Informatik gehöre auch in die politische Bildung, denn IT sei nur ein Teil der Informatik. Es gehe auch um Problemlöse- und Analysekompetenzen, Modelle zu entwickeln, zu überprüfen und zu hinterfragen. Für einen guten Informatikunterricht brauche man noch nicht einmal unbedingt einen PC.

Was Franke für die Schule wünschte, nämlich einen fächerübergreifenden, interdisziplinären Zugang zur digitalen Gesellschaft und ihren Phänomenen wie „Echokammern, Filterblasen, Mobbing“, das wünschte sich Helbing für die Entwicklung von IT-Produkten. Nötig sei ein systemischer, interdisziplinärer Ansatz von Anfang an. Bislang laufe es häufig so, dass die Informatik etwas entwickle und die Ethik dem fertigen Produkt ein „Stoppschild“ aufstelle. Besser sei es, die Ethik von Anfang an in den Entwicklungsprozess einzubinden. In dieser Hinsicht hätten sowohl die Politik, die Wissenschaft und die Medien sehr lange geschlafen. „Wenn wir nicht vor einigen Jahren aufgewacht wären, hätte es durchaus passieren können, dass wir in ein technologiegetriebenes System hineingeraten wären, in dem wir nicht wirklich hätten leben wollen“, so Helbing. Heute setze sich aber doch beinahe jeder mit Fragen wie Datensensibilität auseinander, was durchaus erfreulich sei.

Dem fügte Selke hinzu, dass in der Gesellschaft häufig die Vorstellung herrsche, soziale und ethische Probleme seien eher trivial, technische dagegen nicht trivial. Ohne die Leistung von Ingenieuren abwerten zu wollen betonte er jedoch, dass es eben – verglichen mit dem Bau einer Raumstation – nicht trivial sei, Gerechtigkeit in der Gesellschaft zu schaffen. Er kritisierte die häufig vertretene Vorstellung, die spezifische Förderung von MINT-Fächern in der Pädagogik sei ein Allheilmittel. Hier sei ein Umdenken nötig.

Petra Grimm: Unternehmen werden nervös angesichts der EU-Datenschutz-Grundverordnung

Eine gewisse Hoffnung verknüpften mehrere Teilnehmer/-innen mit der neuen EU-Datenschutz-Grundverordnung, welche ab Mai anzuwenden ist. Zwar sei vieles daraus zuvor bereits im deutschen Recht verankert gewesen, doch erhalte Europa durch die hohen Standards möglicherweise eine Vorbildfunktion. Petra Grimm hob die darin verankerte Dokumentationspflicht positiv hervor. Viele Unternehmen, aber auch staatliche Institutionen würden „nervös“ angesichts des Grundsatzes, dass die Datenverarbeitungstechnik zukünftig von vorneherein darauf ausgerichtet sein muss, dem Datenschutz gerecht zu werden. Die Nutzer/-innen von Social-Media-Dienstleistungen seien häufig überfordert mit den Datenschutzbestimmungen, daher sei eine „progressive Rechtsordnung“ wichtig, die eben eine andere Werteordnung in das Rechtssystem implementiere wie das beispielsweise in Ländern wie den USA oder China der Fall sei. Helbing fügte hinzu, er hoffe, dass es auch eine entsprechende Handhabe gegen Firmen geben werde, die sich nicht an diese Grundsätze hielten. Dabei meine er bei weitem nicht nur Google und Facebook sondern auch viele kleine Unternehmen.

Selke wiederum sah eine Gefahr darin, dass die zunehmende Erfassung von biografischen Daten Heranwachsender sowie die Objektivierbarkeit und Quantifizierbarkeit dieser Daten dazu führen, dass es keine Lücken mehr gebe. Um eine Identität zu entwickeln brauche es jedoch gerade Lücken. Der Mensch sei ein irrationales und lückenhaftes Wesen, junge Menschen müssten sich immer wieder neu entwerfen. Das werde jedoch immer mehr unterbunden dadurch, dass alles digital dokumentiert wird, was wir tun. Die plastische Erzählweise des eigenen Lebens werde durch die Quantifizierbarkeit bedroht. Das, so Selke, sei ein wichtiges Thema, das schon mit Heranwachsenden beleuchtet werden müsse.

Auch im Trend der sogenannten Learning Analytics wurde ein Gefahrenpotenzial erörtert. Dabei geht es darum, aus dem Lernverhalten von Schülerinnen und Schülern durch Daten und Algorithmen Risikoschüler/-innen zu identifizieren, um ihnen besondere Förderung zukommen zu lassen. Doch müsse man sich durchaus fragen: Wie wird eine solche Software programmiert und angewandt? Man stelle sich vor, dass Unternehmen die erhobenen Daten für die Auswahl ihrer Mitarbeiterinnen und Mitarbeiter nutzen, eine Horrorvision, so Grimm.

Das Abschlusswort gab der Moderator Dirk Helbing, der noch einmal auf das Thema der digitalen Identität bzw. E-Identity einging. Er forderte, wir als Individuen bräuchten Zugang zu und Kontrolle über die „digitalen Abbilder“ von uns, die Konzerne vorhalten. Dazu sei die neue Datenschutz-Grundverordnung vielleicht ein erster Schritt. Dass trotz der zahlreichen kritischen Themen des Vormittags nicht der Optimismus abhandenkam, schloss Philipp Franke mit einem Zitat aus Hölderlins Hymne „Patmos“: „Wo aber Gefahr ist, wächst das Rettende auch.“