Don't be evil!
appelliert Google in seinem informellen Slogan. Solange alle diesem Grundsatz folgen, muss sich niemand Sorgen machen. Oder?
Die Realität sieht natürlich anders aus. Informations- und Kommunikationstechnologien sind heute in allen Lebensbereichen selbstverständlich und unverzichtbar geworden, egal ob öffentlich oder privat. Sie durchdringen und beeinflussen die ganze Gesellschaft. Computer steuern unsere Autos, Künstliche Intelligenz wertet MRT-Aufnahmen aus, erkennt Gesichter, schreibt Texte und Code, sucht Dating-Partner:innen aus und entscheidet über Deine Kreditwürdigkeit.
In der Wirtschaft ist Ethik schon länger ein Thema, nicht zuletzt infolge der Wirtschaftskrise. Aber auch in der IT-Welt werden immer häufiger moralische Fragestellungen aufgeworfen. Neben neuen technischen Innovationen gibt es regelmäßig neue Fälle von massiven Sicherheitslücken und Datenskandalen. Neben massiven Sicherheitslücken und Datenskandalen befeuert die rasante Entwicklung der Künstlichen Intelligenz die Ethik-Debatte.
Wozu eine eigene digitale Ethik?
Die Kernfrage, mit der sich Computerethiker:innen beschäftigen, lautet: Wie wirken sich Computertechnologien auf die Gesellschaft aus? Natürlich sind Technologien an sich weder "good" noch "evil". Es kommt auf die Intention der Person an, die sie verwendet und die der Unternehmen, die sie entwickelt haben. KI kann diskriminieren und gleichzeitig in Überwachungssystemen eingesetzt, Leben retten.
"Die Digitale Ethik hat zum Ziel, Menschen zu befähigen, Probleme der Digitalität zu erkennen und Lösungen zu entwickeln", so definiert das deutschlandweit einzige Institut für Digitale Ethik der Stuttgarter Hochschule für Medien die Ziele einer Digitalethik.
Ziel ist es, den Zusammenhang und die Auswirkungen zwischen Computer und Individuum bzw. Gesellschaft zu verstehen und zu prüfen, wo und wie KI ethisch vertretbar eingesetzt wird und wer die Kontrolle über die Algorithmen besitzt.
Je mehr sich KI-gestützte Systeme in unserem Alltag etablieren – mit oder ohne unser Wissen, desto mehr Entscheidungen nehmen sie uns ab. Ob in Zukunft in der EU KI in juristischen Verfahren eingesetzt wird, ist fraglich. Aber an vielen anderen Stellen in der öffentlichen Verwaltung unterstützt sie schon seit Jahren z.B. bei der Verteilung von Sozialhilfen. Die spanische Regierung setzt bei der Polizeiarbeit auf die Risikoeinschätzung per KI. Zur Eindämmung von Femiziden bewertet ein Algorithmus, wie hoch die Gefahr von geschlechterspezifischer Gewalt ist. Eine der größten Gefahren: sich auf den Score des Programms zu verlassen und darauf zu vertrauen, dass der Computer keine Fehler macht.
Egal, ob es sich um Informations- oder Gesellschaftssysteme handelt, gelten überall dieselben rechtlichen und moralischen Regeln – also auch in der digitalen Welt. Das Problem ist nur, dass die Voraussetzungen oft so komplex sind, dass nur Expert:innen sie überblicken. Die Computerethik ist keine neue Ethik und sie behandelt im Kern auch keine neuen Probleme, aber neue Anwendungsbereiche und Zusammenhänge.
Womit beschäftigt sich eine Digitalethik?
Computerethik, Digitalethik, Algorithmenethik oder auch Datenethik ist eine Unterkategorie der Informationsethik. Als "Bereichsethik" nimmt die Computerethik ganz konkrete Probleme unserer digitalen Welt in den Blick.
In u.a. diesen Bereichen werden ethische Fragen relevant:
1. Automatisierung
Seit der Industrialisierung ersetzen Maschinen Menschen. Mit der Digitalisierung aber next Level. Ein gutes Beispiel ist das Autonome Fahren: Während der Mensch in brenzligen Verkehrssituationen reflexartig reagiert, trifft das Computersystem kalkulierte Entscheidungen. Entscheidet es sich für das Wohl der eigenen Insassen, auch wenn dadurch Passant:innen gefährdet werden? Welche Prioritäten haben die Entwickler:innen der Software mit auf den Weg gegeben? Und bei wem liegt die juristische und ethische Verantwortung für die Entscheidung?
2. Substitutierung von Arbeit
Bis ChatGPT und anderen Large Language Models waren die meisten Leute in Kreativjobs, seien es Journalisten, Designerinnen und ja, auch Softwareentwickler davon überzeugt, dass ihre Arbeit nicht durch Maschinen erledigt werden kann. Heute ersetzen intelligente Systeme sogar Fachkräfte und brauchen dafür ein Heer aus Clickworkern. Welchen Wert hat menschliche Arbeit? Wie werden Menschen abgesichert, wenn sie den Job durch eine KI verlieren?
3. Öffentlichkeit und Privatsphäre
Wir sind umzingelt von Fake News und Privates rückt durch Social Media längst ins Öffentliche. Dass Lügen ein schlechtes Image haben, ist kein Fall für den Ethikrat. Was, aber wenn es zunehmend schwieriger wird, zwischen Fake und real zu unterscheiden? Wann und inwieweit müssen und können staatliche Institutionen eingreifen, wenn Fake News demokratiegefährdend werden oder der Einzelne nicht selbst über seine privaten Daten verfügen kann. Droht eine Spaltung der Gesellschaft in jene, die der Technik ausgeliefert sind und jene, die sie verstehen?
Informatik und Gesellschaft stehen in einem engen Wechselverhältnis und sind einem ständigen Wandel unterworfen. Dadurch stellen sich immer wieder neue ethische Fragen und die bisherigen Fragen werden in einem neuen Kontext diskutiert. Denn so, wie sich die Computertechnologien weiterentwickeln, vergrößern sich auch die Diskussionsfelder der Computerethik. Immer wieder neu hinterfragt werden u.a. Datenschutz, Cyberkriminalität, Technikabhängigkeit, Monopolstellung, geistiges Eigentum/Urheberrecht, Privatsphäre und Anonymität.
Ein Algorithmus-TÜV oder Fair-Data-Label sind Hilfsmittel, doch bei der wachsenden Komplexität braucht es mehr als eine Stellschraube, damit die KI Co-Pilot bleibt und wir Menschen weiter im Driver Seat sitzen.
Arbeitgeber, die Dich interessieren könnten
Welche Rolle spielt Ethik im IT-Job?
Mit einigen der genannten Probleme bzw. Fragestellungen wirst Du früher oder später konfrontiert werden. Denn für angehende Entwicklerinnen und KI-Spezialisten spielt Computerethik als Berufsethik heute eine wichtige Rolle. Oliver Günther, Mitglied der Gesellschaft für Informatik, versteht moderne Informatik als Querschnittsdisziplin, die längst keine ausschließlich technisch-mathematische Wissenschaft mehr ist. Da sie viele Aspekte des Alltags beeinflusse und das gesellschaftliche Leben gravierend verändert habe, dürften sich Informatiker:innen nicht allein auf die technischen und ökonomischen Fragen ihrer Disziplin beschränken.
Hinzu kommt: In der sich rasant entwickelnden Tech-Welt muss eine Ethik vorausschauend sein. Denn alle gesetzlichen Regelungen beziehen sich immer nur auf die Anwendungsfälle, die es bereits gibt. Ein gutes Beispiel ist der EU Artificial Intelligence Act. Zwar versucht der Gesetzgeber zu antizipieren, aber wer, wenn nicht Du als IT Professional weißt, was möglich sein wird und was nicht. Und mit Deinem IT-Knowhow trägst Du Verantwortung.
Wie wendest Du digitale Ethik praktisch an?
Wenn Du als UI-Designer ein super-intuitives Dashboard gestaltest oder als Softwareentwicklerin eine App, die keine Wünsche offenlässt, beeinflusst Du mit den digitalen Produkten, die Ihr als Team gestaltet, User:innen in ihrem Verhalten und in ihrem Alltag.
Faktoren, die Du eher nicht beeinflussen kannst
In Deiner Arbeit gibt es Punkte, auf die Du direkt Einfluss nehmen kannst und welche, bei denen es schwieriger ist. Zu letzterem gehört das Geschäftsmodell, dass hinter Eurem Produkt steht. Bei den Tech-Giganten wie Meta und Bytedance geht es darum, die User:innen so lange wie möglich auf der Plattform zu halten und Daten über sie zu sammeln. Als kleines Zähnchen im großen Getriebe hast Du in der Regel wenig Einfluss auf das Geschäftsmodell Deines Arbeitgebers. Aber Du kannst Dich entscheiden, ob Du bei einem Unternehmen arbeiten möchtest, dass digitale Abhängigkeiten forciert, oder lieber bei einem Unternehmen, das ein ausgefeiltes Produkt anbietet, bei dem User:innen schnell und effizient zu ihrem Ziel kommen
Quelle: Researchgate.net
Als einzelner Developer trägst Du einen Teil der Verantwortung. Die Gesellschaft, die Organisation oder Unternehmen, die die Software entwickelt und die User:in des Programms sind ebenso verantwortlich.
Wie kannst Du Dich in Deinem IT-Projekt ethisch richtig verhalten?
Ob Du im Frontend- oder Backend programmierst, die User Experience optimierst oder als Data Analyst Datengrundlagen bereitstellst: Mach Dir im ersten Schritt bewusst, dass Du mitverantwortlich für Euer digitales Produkt bist. Darüber hinaus kannst Du mit Deinem Team überlegen, wie Ihr ethische und moralische Probleme angehen wollt und gemeinsam eine Annäherung finden. Denn "DIE" Lösung für ethische Fragen gibt es nicht. Es gibt aber Methoden, die Euch unterstützen, ein in jeder Hinsicht cleanes Produkt abzuliefern.
Digitale Ethik in der agilen Softwareentwicklung
Auch wenn die aktuelle Debatte um Ethik und KI kreist, kann sie auf Software ausgeweitet werden. Denn ob ein Stück Code nun algorithmisch oder datengetrieben implementiert wird, wirkt sich nicht auf ethische Fragestellungen aus.
Geradezu prädestiniert ethische Fragen in der Projektumsetzung von Anfang an mitzudenken, ist die agile Arbeitswelt. Setzt ein Unternehmen auf agile Arbeitsmethoden z.B. nach Scrum, bricht es mit klassischen Hierachie-Ebenen und überträgt Verantwortung. Klingelt da was? Ja, das Thema Verantwortung hatten wir gerade. Bei Scrum und Co. entscheidet das Team selbst nicht nur, welche Features im jeweiligen Sprint umgesetzt werden, sondern auch wie sie entwickelt werden. Mit dem Code Ownership übernimmt das Team auch Eigenverantwortung im Blick auf ethische Fragen. So kannst Du als Frontend-Dev oder UX-Expertin direkt Einfluss nehmen auf Euer Produkt. Du kannst als UI-Designer ablehnen, Dark Patterns zu nutzen oder als Data Analyst zurecht darauf hinweisen, dass die Datengrundlage bestimmte Menschengruppen nicht ausreichend repräsentiert.
Ethics by Design
Wie wäre es, wenn Werte von Anfang im Entstehungsprozess mitgedacht würden? Der Ansatz "Ethic by Design" versucht genau das. Ausgangspunkt ist die Annahme, dass digitale Produkte nie neutral und losgelöst von ethischen Fragen gesehen werden können. Egal ob Sprach-KI, Spurhalte-Assistent oder Bonität-App, die Anwendungen und Systeme haben immer einen Bezug zu unserer Lebenswelt. Wenn Alexa Dich nicht versteht, weil Du stotterst oder Du als nicht kreditwürdig eingestuft wirst, weil Du im falschen Stadtteil wohnst, ist bei der Entwicklung etwas schiefgelaufen.
Beim Ethic-by-Design_Ansatz spielen ethische Prinzipien und Überlegungen schon bei der Ideenfindung eine Rolle: vom ersten Entwurf bis zum Rollout begleiten ethische Fragestellungen den gesamten Entwicklungsprozess. Denn bestimmte Designs provozieren bestimmte Werte, so Wirtschaftsinformatikerin und Autorin Sarah Spiekermann. Und dieser gewinnorientierten Logik muss man nicht folgen. Orientierung bei der Entwicklung autonomer und intelligenter Systeme bietet Dir seit 2021 der Standard IEEE 7000 des Ingenieurverbands.
In dieser wertebasierten Technikentwicklung, oder value-based Engineering, beschränkt sich Dein Fokus aber nicht nur auf die spezifischen Use Cases, sondern wird ganzheitlicher gedacht:
Ethics by Design stellt die Bedürfnisse der Menschen und nicht das Programmieren einer Software in den Vordergrund. – hdm-stuttgart.de
Klar, es wird uns einfach gemacht, das Abendessen bei Lieferando zu bestellen oder von ChatGPT eine Präsentation schreiben zu lassen. Was wir bei den schicken Oberflächen und smoothen Abläufen gerne übersehen ist, dass hinter den smarten und cleanen Technologien eben doch Menschen stehen, die für einen mauen Stundenlohn durch die Großstadt radeln oder für Open AI, Google und Microsoft in Afrika und Indien (toxische) Inhalte kennzeichnen.
Digital Ethics in Unternehmen: Corporate Responsibility und KI
Auch unternehmensseitig gibt es einiges zu tun. Vor allem, wenn es um die Etablierung neuer Technologien und Geschäftsmodelle geht. Während nach einer PwC-Studie deutsche Unternehmen zufrieden mit ihrem Umgang mit Daten und dessen Schutz sind, fehlt es den meisten an einem Konzept zur digitalen Ethik. Ein verantwortungs- und werteorientierer Umgang mit Daten und digitalen Produkten vor allem, wenn sie KI-basiert sind, schafft Vertrauen und ist das Fundament für die Interaktion mit Kund:innen, der Belegschaft und Stakeholdern.
Quelle: PwC
Mehr als jedes zweite Unternehmen gibt an, dass ihm die Fachkräfte mit den entsprechenden Kompetenzen fehlen. Eine weitere Herausforderung scheint an der Basis zu bestehen: In jedem zweiten Unternehmen fehlt die Sensibilität für ethische Fragestellungen im digitalen Kontext bzw. wird sie nicht hoch genug eingeschätzt. Hier gibt es also Nachholbedarf.
Denn heute definieren sich Unternehmen immer stärker über ihre Daten und den Umgang mit ihnen. Wer diese sensiblen Informationen managt, trägt also eine entsprechend große Verantwortung. Ein Bewusstsein für die ethischen, sozialen und ggf. auch juristischen und politischen Konsequenzen Deiner Entwicklungen wird Dir und dem Unternehmen, bei dem Du arbeitest in jedem Fall helfen, dieser Verantwortung auch gerecht zu werden.
Ethische Fragestellungen bei der Softwareentwicklung mitzudenken, ist keine Kostenfrage. Genauso wenig wie Nachhaltigkeit, Barrierefreiheit und Diversität. Im Gegenteil: All diese großen Themen, die manchmal als Pflicht falsch verstanden werden, öffnen Dir und Deinem Team Gestaltungsräume. Nutz‘ Deine Kreativität, denk um die Ecke, stell‘ Fragen und verlass‘ Deine Bubble inklusive einer Effizienzlogik, die an Gewinn gekoppelt ist. Was dabei rauskommt, ist ein Produkt, dass Menschen wirklich einen Nutzen bringt und das sie gerne bedienen.
- Der Impact, den Apps und Devices haben, wird immer größer. Als IT-Profi bist Du mitverantwortlich für das digitale Produkt und dessen Einfluss auf die User:innen.
- In der agilen Softwareentwicklung kannst Du mit Deinem Team ethische Fragen in den Entwicklungsprozess integrieren. Ein anderer, holistischer Ansatz ist Ethics by Design.
- Ethische Fragestellungen bei der Softwareentwicklung mitzudenken, ist keine Kostenfrage. Genauso wenig wie Nachhaltigkeit, Barrierefreiheit und Diversität. Immer mehr Unternehmen wissen das und wollen Rückstände aufholen.
