This article can be downloaded here (pdf, 1’987 kB). You can download the full publication at Swico House View.

Reicht mangelnde ethische Kompetenz als Legitimation?

Stuart D.G. Robinson & Alan Ettlin

1^st February 2021

Kim wachte mit einem Ruck schweissgebadet auf, riss dabei auch Mika aus dem Schlaf, und musste sich zuerst orientieren… wieder zuhause im vertrauten Schlafzimmer. Seit dem 17. März war aber nichts mehr, wie es einmal war. An diesem verhängnisvollen Tag hatten sie den ersten Anruf erhalten. Die erste Morddrohung.

Dabei hatte alles so vielversprechend begonnen, als sie vor drei Jahren Synop-Sys gegründet hatten, um der Welt Klarheit zu geben – so die Vision der Firma – und allen Menschen Zugang zu leicht verständlichen Synopsen komplizierter Texte zu verschaffen. Mittels eigens entwickelter Algorithmen hatten die beiden zusammen mit ihrem Geschäftspartner begonnen, aus den immer komplexer werdenden AGBs von Onlinediensten die Schlüsselstellen zu extrahieren und diese übersichtlich zusammengefasst darzustellen. Dabei wurden die Texte mit individuell relevanten Kontextinformationen aus einer beinahe vollständigen Datenbank menschlichen Wissens angereichert.

Synop-Sys war von Anfang an ein grosser Erfolg; schon bald begann auch ein beträchtlicher Strom an Werbeeinnahmen zu fliessen. Schnell waren weitere Einsatzgebiete für die Synop-Sys-KI gefunden und über eine zahlpflichtige API konnten Geschäftskunden interne Dokumente adressatengerecht zusammenfassen lassen.

«Bringing the world clarity»

Wie naiv sie doch mit dieser Vision gewesen waren. Demokratisierung des Wissens, so dass jeder, unabhängig von Bildungsstand und digitaler Affinität sich in der zusehends komplexen Welt zurechtfinden könne.

Im Januar geschah dann das Unglück mit dem kleinen Mädchen, die ums Leben kam, weil ihre Eltern ihr das Medikament verabreichten, als ihr Fieber immer höher stieg. Der Vater hatte den Beipackzettel mit dem Handy fotografiert und auf Synop-Sys hochgeladen. In der prompt erstellten Zusammenfassung fehlte ausgerechnet der Hinweis auf ein Allergen… und das Mädchen verstarb noch auf dem Weg zum Spital.

Noch am selben Abend begann das Telefon zu klingeln… die Medien… und ein veritabler Shitstorm entlud sich. Geldmacherei, gar «Bringing the world death» hiess es – dabei hatten sie doch nichts falsch gemacht! «Wieso musste er ausgerechnet die Packungsbeilage eines tödlichen Medikaments einlesen, dafür war Synop-Sys nie entworfen worden!»

Das war aber erst der Anfang. Synop-Sys hatte sich in onlineaffinen Kreisen und bei Netzaktivisten, grosser Beliebtheit erfreut – solche Nutzer hatten auch willkommene Unterstützung zur kyrillischen Version der Software beigesteuert. Lange Zeit war nicht aufgefallen, dass zusehends politische Texte verarbeitet wurden. Vermehrt setzten Oppositionsgruppen die KI als Bot auf beliebten Telegram-Kanälen ein, um bisher apolitische Kreise dank personifizierten Botschaften zu mobilisieren. Als bei Regionalwahlen gleich mehrere Wahlkreise an die Opposition zu gehen drohten, erhielten Kim und Mika den ersten Anruf. Die erste Morddrohung.

Fiktion mit ernstem Hintergrund

Diese frei erfundene, aber nicht unplausible Geschichte illustriert deutlich, dass wir nicht in einer monoethischen Welt leben ⁽¹⁾, d.h. in einer Welt, in der überall dieselben ethischen Prämissen gelten. Oft sind wir stolz auf unsere persönliche Ethik, die unseren Motiven und Handlungen zugrunde liegt. Wie oft aber berücksichtigen wir in angemessener Weise die Ethik, die den Motiven und Handlungen anderer zugrunde liegt ⁽²⁾^,⁽³⁾? Wie oft berücksichtigen wir in angemessener Weise, dass das, was wir erschaffen – gerade im digitalen Umfeld – das Potenzial hat, Menschen aller Art und unterschiedlichster Neigungen auf der ganzen Welt innerhalb von Sekunden zu erreichen und dort Wirkungen zu entfalten, die ungeahnte Konsequenzen ausserhalb unserer Kontrolle auf andere und uns selbst haben?

Die obige Erzählung porträtiert Kim und Mika als Ingenieure mit möglicherweise altruistischen Motiven, die einen konstruktiven Beitrag zur Gesellschaft leisten und vielleicht die Lebensqualität anderer verbessern wollten. Vielleicht war das Geld gar nicht ihr primäres Ziel, sondern nur ein willkommener Nebeneffekt. Vielleicht waren sie – wie so viele – anfangs von den technologischen Herausforderungen fasziniert und im Bann des Potenzials ihrer Idee. Hat das mögliche Wachstum ihres gesellschaftlichen Ansehens, ihrer Egos und ihres Bankguthabens ihre Achtlosigkeit gegenüber der Tragweite dessen, was andere mit ihrem Werk tun könnten, potenziert? Haben sie sich je gefragt, ob es legitim sei, ihre Schöpfung in der Gesellschaft zu entfesseln?

Tipps für die Praxis

Wir, die Autoren, regen an, dass jede Person, die direkt oder indirekt an der Schaffung und Vermarktung digitaler Errungenschaften beteiligt ist, die Wahl hat, sich folgenden Entscheidungsoptionen zu stellen:

die Legitimität ihrer Handlungen in Frage zu stellen – oder nicht;
sich der Ausprägung ihres persönlichen ethischen Profils und ihrer moralischen Reife und Integrität bewusst zu werden – oder nicht;
sich über die unterschiedlichen Ethiken und die moralische Reife und Integrität derjenigen, die mit ihren Errungenschaften in Kontakt kommen können, Gedanken zu machen – oder nicht.

Gleichzeitig haben Organisationen die Wahl, sich folgenden Entscheidungsoptionen zu stellen:

eine Produktstrategie zusammen mit einer kontextgerechten Ethik zu etablieren, die zur Kultur und Vision der Organisation passen;
ihre Stakeholder bei obenstehenden Entscheidungsoptionen mittels eines adäquat antizipatorischen Ethikkodizes zu unterstützen;
die Entwicklung der ethischen Kompetenz in der Organisation zu fördern;
einen twicklung der ethischen Kompetenz in der Organisation zu fördern;
einen Chief Ethics Officer zum Schutz aller Stakeholder inklusive Klienten und Partnern sowie eine Ethik-Ombudsperson zum Schutz der Organisationsmitglieder einzusetzen

oder nicht.

References

Stuart D.G. Robinson (2017) If You Are Rethinking Your Ethics – In Line With Developments In Digitalisation, Artificial Intelligence, Superintelligence And Singularity (back)
Stuart D.G. Robinson (2017) Ethik macht krank – die medizinischen Folgen ethischer Konflikte am Arbeitsplatz (back)
Stuart D.G. Robinson & Alan Ettlin (2020) Persönliche und unternehmerische Integrität – Reflexionen über einen grob missverstandenen Erbauer und Zerstörer von Welten (back)