ZUM AUTOR

Prof. Dr. Markus Gabriel, Inhaber des Lehrstuhls für Erkenntnistheorie, Philosophie der Neuzeit und der Gegenwart an der Universität Bonn. Er leitet das Internationale Zentrum für Philosophie NRW und das Center for Science and Thought.

ASPEKTE DER KI-ETHIK – ETHICS IN AND BY DESIGN

/0702

Sowohl in dem von der Bundesregierung (Stand: November 2018) herausgegebenen Papier „Strategie Künstliche Intelligenz der Bundesregierung“1 als auch auf europäischer Ebene der High Level Expert Group on AI2 wird darauf hingewiesen, dass eine nachhaltige und sozial akzeptable KI-Strategie ethisch begleitet werden muss. Dies entspricht der internationalen Forschungslandschaft sowohl in der KI-Forschung als auch im Bereich der philosophischen Ethik der KI und disruptiver Informationstechnologien im Allgemeinen.3 Forschungsarbeiten in Berkeley und am Stanford Institute for Human Centered Artificial Intelligence4 haben gezeigt, dass die Umsetzung einer KI-Strategie ohne „ethics in and by design“ nicht vorankommt. Dafür möchte ich einige Gründe anführen, die für jede erfolgsversprechende KI-Architektur berücksichtigt werden sollten.

Eine Forschungshypothese, mit der ich selbst arbeite und die ich in meinem Buch „Der Sinn des Denkens“ vorgetragen habe, lautet, dass es sich bei KI-Systemen, die zur Anwendung kommen, um Denkmodelle handelt.5 Was diese Systeme modellieren, ihr Zielsystem, ist Intelligenz. Das Wort „Intelligenz“ ist mit einer umfangreichen Ideengeschichte verbunden und hat viele Bedeutungen. Im Sinne der KI-Forschung geht es darum, Intelligenz als das Vermögen zu modellieren, gegebene Probleme in einer endlichen Zeit zu lösen. Dieses Vermögen lässt sich mittels psychometrischer Verfahren (IQ-Tests usw.) messen und erforschen. Insbesondere ist es möglich, Lösungsstrategien in Schritten einzuteilen, denen man Algorithmen zuweisen kann. Auf diese Weise gelingt es der KI-Forschung, Problemlösungssysteme zu entwickeln, die messbar effizienter als menschliche Performanzen sind. Ein gegebenes System S1 ist messbar intelligenter (effizienter), wenn es dasselbe Problem schneller als ein konkurrierendes System S2 löst. Unter „Lernen“

1 Die Bundesregierung. (2018). Strategie Künstliche Intelligenz der Bundesregierung. Verfügbar unter https://www.bmbf.de/files/Nationale_KI-Strategie.pdf. [06.2020]2 Die High Level Expert Group on AI (AI HLEG) hat als allgemeines Ziel, die Umsetzung der europäischen Strategie für künstliche Intelligenz zu unterstützen. Verfügbar unter https://ec.europa.eu/digital-single-market/en/high-level-expert-group-artificial- intelligence.3 Vgl. einführend neuerdings Coeckelberg, Mark. (2020). AI Ethics. Cambridge, MA: The MIT Press; sowie das grundlegende Werk eines der führenden KI-Forscher Russell, Stuart. (2019). Human Compatible: AI and the Problem of Control. London: Allen Lane.4 Das Stanford Institute for Human-Centered Artificial Intelligence fördert KI-Forschung, Bildung, Richtlinien mit dem Ziel die menschliche Befinden zu verbessern. Verfügbar unter https://hai.stanford.edu. [06.2020]5 Gabriel, Markus. (2018) Der Sinn des Denkens. Berlin: Ullstein.

ASPEKTE DER KI-ETHIK

E THICS IN AND BY DESIGN

ASPEKTE DER KI-ETHIK – ETHICS IN AND BY DESIGN

03 /07

kann man die Ersetzung eines Problems durch ein anderes verstehen, wodurch man den Problemlösungsraum verschiebt und effizientere neue Lösungen anstreben kann.

Die jüngsten Durchbrüche des maschinellen Lernens, der neuronalen Netze, des neuromorphen Computings usw. beruhen auf mathematischen Fortschritten der Informatik, die an technologische Durchbrüche in der Herstellung effizientere Hardware gekoppelt sind. Doch all dies ändert nichts daran, dass KI-Systeme, die zur Anwendung kommen, von Menschen programmiert und produziert werden, die sich auf Denkmodelle stützen, die menschliche Denk- und Wahrnehmungstätigkeiten zur Grundlage haben. Der Mensch baut auf diese Weise in der KI-Forschung an Bildern seines eigenen Geistes.

An dieser Stelle kommt die Ethik ins Spiel. Im Allgemeinen beschäftigt sich die Ethik als Teildisziplin der Philosophie mit der Frage, welche Handlungen aus moralischen Gründen erlaubt, welche verboten und welche geboten sind. Die Ethik beruht dabei auf der Anthropologie insofern, als der Mensch sein eigenes moralisches Nachdenken erforscht und korrigieren kann angesichts neuartiger Herausforderungen. Dazu gehört neben dem Klimawandel insbesondere die Hochtechnologie, die gegenwärtig in der Form der KI sozio-ökonomische Herausforderungen und sogar existentielle Risiken für den Fortbestand der Menschheit in sich birgt.6 Dies ist mit zentralen Fragen der Cybersecurity verbunden, da digitale Strukturen in Unternehmen sowie in der öffentlichen Verwaltung von KI-Systemen angreifbar sind, was teils kostspielige Sicherheitsvorkehrungen erfordert.

Ein Hauptproblem der Ethik der KI dreht sich um Bias, d.h. um Vorurteile und Fehlschlüsse, die in unseren kognitiven, menschlichen Apparat eingebaut sind. Sofern wir diese nicht durchschauen, gehen sie in unsere Daten als Signaturen ein, die von einer KI als Muster erkannt und weiterverwendet werden, ohne dass wir dies bemerken. Auf diese Weise kann sich ein KI-System gegen unsere Interessen wenden, ohne dass uns dies zuvor sichtbar wurde. Das wirft konkrete Schwierigkeiten im Einsatz von KI auf, weil überraschende Fehler auftreten können, die erst durch umfangreichen Einsatz in Erscheinung treten. KI-Systeme können sich nicht durch ethische Fortentwicklung und Anpassung an neue historische Umstände selbst korrigieren, weil sie nicht an der menschlichen Lebensform teilnehmen. Deswegen bedürfen sie stets eines ethischen Updates, was besonders in Sektoren der Waffenindustrie, des Bankwesens und der Gesundheit eine zentrale Rolle spielt, wie die derzeitige

6 Vgl. das vieldiskutierte Grundlagenwerk von Bostrom, Nick. (2013) Superintelligence. Paths, Dangers, Strategies. Oxford: Oxford University Press.

ASPEKTE DER KI-ETHIK – ETHICS IN AND BY DESIGN

04 /07

Diskussion um die Einführung von Gesundheitsapps zum Contact-Tracing der Coronavirus-Verbreitung zeigt (siehe meinen Artikel in „Die Welt“ vom 23.4.2020 sowie mein Interview mit dem „Handelsblatt“ vom 8.4.2020).

Eine ethisch durchdachte KI-Strategie ist auch ökonomisch sinnvoll. Denn moralisches Nachdenken aus guten Gründen zielt automatisch auf Nachhaltigkeit, sodass eine ethisch tragfähige KI-Strategie sich gerade im Wiederaufbau der Wirtschaft im Zuge der Corona-Krise lohnen wird. Hierbei gilt der Slogan der „Wertekommission“: Werte schaffen Werte.7 Moralisch transparente Werte generieren ökonomischen Mehrwert, weil Vertrauen und Transparenz in KI-Systemen entscheidend für ihre nachhaltige Implementierung ist. Diese ist bei der Corona-App derzeit nicht gegeben, was zu ihrem derzeitigen Scheitern beiträgt und damit Kosten verursacht, die sich durch „ethics in and by design“ vermeiden ließen.

Ein konkretes Beispiel: Man stelle sich vor, man könne ein Device (nach dem Modell eines Pager etwa) auf den Markt bringen, das mittels Bluetooth ein Contact-Tracing entwickelt und die Wahrscheinlichkeit anzeigt, dass man auf eine infizierte Person gestoßen ist. Infizierte würden gebeten, das Device zu verwenden, doch dies wäre freiwillig. Aus moralischer Einsicht werden hinreichend viele Infizierte das Device tragen und hinreichend viele Gesunde sich ebenfalls ein Device zulegen. Die generierten Daten könnte man wiederum Krankenkassen zur Verfügung stellen, die jedem einen Rabatt anbieten, der das Device verwendet. Da dieses nicht auf leicht überwachbaren Smartphones mit Anbindung an US-amerikanische oder chinesische Betriebssysteme/Sicherheitsarchitekturen verbunden wäre, würde es dem europäischen Wertepaket von Datensicherheit und Ethik und einer europäischen KI-Strategie entsprechen. Ein solches Device mit einer entsprechenden Software (keiner App) wäre ethisch vertretbar und könnte ökonomisch vorteilhaft umgesetzt werden. Die damit verbundenen Cybersicherheitsrisiken wären erheblich geringer als der alltägliche Gebrauch von Smartphones. Insbesondere könnte ein entsprechendes Produkt an die derzeitige spürbare Solidarität anknüpfen und mit moralischem Fortschritt verbunden werden, sodass ein sinnvoller und ethisch vertretbarer Gebrauch von KI-Infrastruktur vorzeigbar wäre.8

Das Projekt einer begleitenden „ethics in and by design“ für KI wird in einem Forschungsprojekt verfolgt, das u.a. mit der Beteiligung meines Teams im

7 Die Wertekommission ist eine Initiative für Führungskräfte in Deutschland, die es sich zum Ziel gemacht hat, über alle Hierarchien hinweg Bewusstsein zu schaffen, dass Werte Wert schaffen. Verfügbar unter https://www.wertekommission.de. [06.2020]8 Vgl. dazu die Überlegungen in Gabriel, Markus. (2020). Moralischer Forschritt in dunklen Zeiten. Universale Werte für das 21. Jahrhundert. Berlin: Ullstein. (Erscheint im November).

ASPEKTE DER KI-ETHIK – ETHICS IN AND BY DESIGN

05 /07

Auftrag des Wirtschaftsministeriums des Landes NRW durchgeführt wird, um eine KI-Zertifizierungsstelle einzurichten.9 Dabei kommen Erkenntnisse der Philosophie und Ethik der KI in transdisziplinären Forschungsteams zum Einsatz, um die juristische und technische Umsetzbarkeit zu prüfen. Leitend ist dabei die Annahme, dass es „human-centered AI“ geben kann und muss, weil nur so der Ontologie, d.h. der Seinsweise von KI-Systemen als menschlichen Artefakten und Denkmodellen Rechnung getragen werden kann.

9 Fraunhofer-Institut für Intelligente Analyse- und Informationssysteme IAIS. (2020). KI-Zertifizierung: Zertifizierung zur Sicherstellung einer vertrauenswürdigen KI - Eine Initiative der Kompetenzplattform KI.NRW. Verfügbar unter https://www.iais.fraunhofer.de/de/kompetenzplattform-ki-nrw/ki-zertifizierung. html. [06.2020]

ASPEKTE DER KI-ETHIK – ETHICS IN AND BY DESIGN

06 /07

07 /07

KI REPORT: NLP | KI PARK DEUTSCHLAND

© 2020 KI Park Deutschland GbR