16.06.2017 von Anita Schüttler

Wenn man Software nach ethischen Gesichtspunkten bauen möchte, welche können das sein? Und was hat das ganze mit Big Data zu tun?

Bei neuland, wie in unzähligen anderen IT-Firmen, bauen wir jeden Tag an Software-Produkten, die von Millionen von Menschen genutzt werden. Natürlich entstehen unsere Shops nach den Wünschen und Vorgaben unserer Kunden, jedoch kommt uns dabei auch die Rolle des technisch-fachlichen Beraters zu.

Wenn Aspekte wie Funktionalität, Benutzbarkeit (Usability) und optisch ansprechende Oberflächen eine Selbstverständlichkeit sind, welche weiteren Kriterien können - oder sogar: sollten? - herangezogen werden, um eine Software für alle ihre Nutzerinnen und Nutzer zu einem wirklich runden Gesamtpaket zu machen? Und welche Verantwortung liegt dann bei uns, den Entwicklerinnen und Entwicklern, als „ausführender Instanz“?

Antworten auf diese Fragen geben kann das Ethical Design Manifesto, das von Laura Kalbag und ihrem Partner Aral Balkan bei ind.ie verfasst wurde und bereits in meinem Teil des Blogbeitrags zur dibi 2017 Erwähnung fand. An dieser Stelle möchte ich es im Detail vorstellen.
Wer sich lieber das Original von Laura Kalbag zu Gemüte führen möchte, sei gerne auf die kommentierten Folien ihres dibi-Talks, von denen ich hier und da schamlos geklaut habe, verwiesen. ;)

Das Ethical Design Manifesto ist eine pyramidenförmig aufgebaute Reihe von Attributen, die eine Software haben sollte, um ethischen Anforderungen zu genügen .

ethical-design-manifesto

Human Rights

Das Fundament bilden Eigenschaften, die grundsätzliche Menschenrechte betreffen:

dezentralisiert

Gerade Entwicklerinnen und Entwickler wissen, dass das zentrale Ablegen von Daten teuer und ärgerlich werden kann, wenn dieser single point of failure ausfällt. Beispiele dafür gibt es selbst in unserem Alltag reichlich und in der ganzen Bandbreite von „externer Bilderserver ist nicht erreichbar“ über „StackOverflow down“ bis zu „ein Bagger hat die eine Leitung von außen ins Rechenzentrum beschädigt“. Das Verteilen von Informationen auf viele Instanzen sichert deren durchgängige Zugänglichkeit.
Umgekehrt stellt das Sammeln und Speichern von sensiblen Daten an einem zentralen Punkt eine Gefahr für die Persönlichkeitsrechte der Betroffenen dar. Das ist besonders dann problematisch, wenn es sich dabei um Firmen oder Behörden handelt, deren Sitz in einem Land liegt, das noch lockerere Datenschutzbestimmungen hat als das in Europa der Fall ist - wie z.B. den USA, wo unter anderem die wichtigsten sozialen Netzwerke, Anbieter von Suchmaschinen und Big-Data-Analysetools beheimatet sind.

privat

Das Sichern der Privatsphäre unserer Nutzerinnen und Nutzer kann eine Folge von Punkt 1, Dezentralität, sein: Wenn Daten nur auf dem jeweiligen Endgerät gespeichert sind und nicht an eine zentrale Stelle geschickt werden, bleiben sie privat.

offen

Diese Eigenschaft bezieht sich darauf, dass Software „frei“ und „open source“ sein sollte. Das ermöglicht es einer großen Menge an Menschen (allen mit entsprechendem technischen Know How), die Funktionsweise der Software nachzuvollziehen und zum Wohle aller mit zu beeinflussen.

kompatibel

Bei dieser Eigenschaft muss ich - im negativen Sinne - direkt an Apple denken: seit ich ein neues MacBook habe, geht nichts mehr ohne Adapter. Die sind natürlich - wer hätte es gedacht - kostspielig und in verschiedensten Varianten vonnöten, um mit allen im Arbeitsalltag benötigten Geräten interagieren zu können.
Firmen schaffen gerne ihr eigenes Ökosystem, um ihre Kunden an sich zu binden oder wenigstens den Wechsel zur Konkurrenz so schwierig, anstrengend und teuer wie möglich zu machen.

zugänglich

Unsere Software-Produkte sollten für so viele Menschen wie möglich zugänglich sein. Das bedeutet, dass man sich auch immer wieder Gedanken machen muss über Themen wie Diversität, Kosten und ein breites Spektrum an unterschiedlichsten Bedürfnissen, die nicht zwangsläufig den eigenen entsprechen.

sicher

Gerade, aber natürlich nicht nur, für Leute, die Online-Shops bauen, ist die Sicherheit ihrer Produkte ein nicht zu unterschätzendes Thema. Dass man HTTPS für alle online-Inhalte nutzen sollte, hat sich inzwischen herumgesprochen. Damit ist es jedoch bei weitem nicht getan und auch wir hier waren etwas erstaunt, als uns die Teilnehmer des letzten neuland Labs - Thema: „Sicherheit“ - ihre Ergebnisse präsentierten und schilderten, wie einfach es ist, mit etwas krimineller Energie jede Menge Unfug zu treiben. Und wieviele Möglichkeiten, die wir mitunter noch nicht kannten, es dafür gibt.

nachhaltig

Damit die Produkte, die wir bauen, es wert sind, so viel Zeit, Geld und Energie in sie zu investieren, sollten sie in ökonomischer, ökologischer und kultureller Hinsicht nachhaltig sein. Das bedeutet, dass sie auch morgen und übermorgen noch von Wert sein sollten.
Lange Kundenbeziehungen sind ein integraler Bestandteil von neulands Geschäftsmodell. Das bringt mit sich, dass wir ein ureigenes Interesse daran haben, die Zusammenarbeit mit unseren Kunden auf eine solide Basis zu stellen - für uns Entwicklerinnen und Entwickler bedeutet das auch, dass wir alles daran setzen, unseren Code so zu schreiben, dass er auch in ein paar Jahren noch funktional, lesbar und wartbar ist.

Software-Produkte, die diesen Anforderungen genügen, respektieren und schützen die zivile Freiheit ihrer Anwenderinnen und Anwender, reduzieren Ungleichheiten und unterstützen die Demokratie.

Human Effort

Eine Ebene höher folgen Werte, die die Anstrengungen ihrer Nutzerinnen und Nutzer respektieren:

funktional

Ein Produkt soll seinen Zweck erfüllen, und zwar unter allen Bedingungen. Dazu gehört beispielsweise, dass eine Website oder ein Shop auch ohne aktiviertes JavaScript funktioniert. Für mich als Entwicklerin unterstreicht diese Eigenschaft auch die Bedeutung von (automatisierten) Tests: von Unit- über Akzeptanz-, Integrations-, Layout- und Lasttests bis hin zum manuellen Testen eines Features vor dem Livegang, um sicherzustellen, dass Änderungen am Code keine Seiteneffekte produzieren, die erst vom Endnutzer oder der Endnutzerin gefunden werden.

komfortabel

Software, die so gebaut ist, dass sie komfortabel zu benutzen ist, geht verantwortungsvoll mit der Zeit ihrer Anwenderinnen und Anwender um. Sie stellt sicher, dass die Person auch ohne besondere Vorkenntnisse und auf möglichst direktem Weg an ihr Ziel gelangt und bietet bei Problemen Hilfestellungen, die einfach zugänglich sind - auch für Menschen mit besonderen Bedürfnissen.

verlässlich

Als Nutzerin möchte ich mich darauf verlassen können, dass ein Produkt dann zur Verfügung steht und funktioniert, wenn ich es brauche - und das immer wieder von Neuem. Das gilt für Shops im Last-intensiven Weihnachts- oder Saisongeschäft genauso wie für die Notruf-Funktion eines Mobiltelefons. Anwendungen sollten daher so gebaut sein, dass sie den Ausfall einzelner Komponenten abfangen können und dabei ihre Funktionalität erhalten bleibt.

Produkte mit diesen Eigenschaften erfüllen ihren Zweck, tun dies auf eine Weise, die der sie nutzenden Person keine unnötige Mühe abverlangt und tun dies auch verlässlich immer wieder aufs Neue. Bei einem Shop können sie den Unterschied machen zwischen einem erfolgreich abgeschlossenen Kauf und einem frustrierten Abbruch.

Human Experience

Die Spitze der Pyramide stellt eine einzige Eigenschaft dar:

ein Vergnügen, es zu nutzen

Dabei geht es nicht darum, ein Produkt, das offensichtliche, grundsätzliche Probleme hat, ein bisschen hübscher oder witziger zu machen: das wäre nur der zum Scheitern verurteilte Versuch, diese Probleme zu verschleiern.
Vielmehr ist die Voraussetzung dafür, die Benutzung einer Software zu einem Vergnügen werden zu lassen, dass diese die Grundrechte und die Anstrengungen der Person respektiert. Erst dann wirken z.B. eine witzige 404-Seite oder niedliche Grafiken authentisch.

So, und was hat das alles nun mit Big Data zu tun?

Viele Software-Produkte, die heute von Millionen von Menschen weltweit genutzt werden, sind zwar funktional, komfortabel, verlässlich und in der Nutzung ein Vergnügen. Was jedoch häufig zu wünschen übrig lässt, ist das Respektieren der Grundrechte.

Dezentralisierte, private Daten? Nein: Daten werden in immer größerem Ausmaß von privaten Konzernen und öffentlichen Behörden mit oft zweifelhaftem Interesse gesammelt und ohne Aussicht auf vollständige Löschung gespeichert. Die Investitionen in Zugänglichkeit und Nachhaltigkeit auch unserer Software werden oft als Kostentreiber gesehen. Und was die Sicherheit angeht: Dass anonymisierte Daten nicht wirklich anonym und damit erst recht nicht sicher sind, wurde auch schon hinreichend aufgezeigt.

Dennoch wohnen, ach!, zwei Seelen in meiner Brust. Auch ich interessiere mich sehr für Datenanalyse und lerne als Mitglied von neulands Data Driven Gilde sehr gern immer wieder neue, spannende Sachen auf dem Gebiet. Auch finde ich es keinesfalls verwerflich, dass unsere Kunden die zur Verfügung stehenden Mittel nutzen, um die Einkaufserfahrung ihrer Shopbesucher und -besucherinnen zu optimieren, das Marketing zu automatisieren oder die Conversion Rate zu erhöhen.

Kritisch sehe ich jedoch z.B. die Nutzung externer Dienste zur Analyse der Rohdaten oder das Einbinden von Third Party Tracking Codes. Ich hoffe und wünsche mir, dass bei uns selbst wie auch bei unseren Kunden der angefangene Lernprozess in Sachen Big Data in den nächsten Jahren weitergeht und in Folge dessen z.B. mehr Datenanalyse von eigenen InHouse-Lösungen betrieben werden kann, damit die Daten nicht zu Drittanbietern gesendet werden müssen, bevor sie von Nutzen sein können.

Aus großer Macht folgt große Verantwortung!

Wir - als Firmen, aber genauso als Einzelne - die wir (Software-)Produkte beauftragen oder bauen, die täglich von vielen Menschen genutzt werden, sind in der Verpflichtung, verantwortungsvoll mit den Daten unserer Nutzerinnen und Nutzer umzugehen. Aktuell muss jeder, der sich im Netz bewegt, selbst versuchen, sich und seine Daten so gut wie möglich zu schützen. Das sollte nicht so sein, doch wie sagte Laura Kalbag? "Not worrying about your data is priviledge!"