„Neue Technologien sind nie nur gut oder nur schlecht“

Wie kann man mit Risiken gut und sinnvoll umgehen? Mit dieser Frage beschäftigt sich Rafaela Hillerbrand, Professorin für Technikethik und Wissenschaftsphilosophie am Institut für Technikfolgenabschätzung des Karlsruher Instituts für Technologie (KIT). Im Gespräch erklärt sie, wie Normen und Werte Risiko-Entscheidungen leiten.

Frau Hillerbrand, Sie sind Physikerin und Philosophin. Bedeutet Risiko für Sie als Naturwissenschaftlerin eigentlich etwas anderes als für Sie als Philosophin?

Ich brauche beide Perspektiven, wenn ich Risiken sinnvoll beurteilen will. Als Naturwissenschaftlerin kann ich etwas über die Unsicherheiten sagen, die bestimmte Ereignisse mit sich bringen – idealerweise in Form von Wahrscheinlichkeiten. Eine sehr einfache Definition von Risiko in diesem Sinne ist der sogenannte gemittelte Schaden. Das entspricht im Prinzip einer einfachen Rechnung: Schaden mal Eintrittswahrscheinlichkeit gleich Risiko. Ich muss allerdings auch entscheiden, was eigentlich einen Schaden darstellt und warum. Das ist eine ethische Aufgabe, für die ich aus Sicht der Philosophin normative Annahmen treffe. Kurz gesagt bedeutet das: Es ist die Kombination aus der geisteswissenschaftlichen und der naturwissenschaftlichen Perspektive, die mir ein gutes Verständnis von Risiko gibt.

Warum ist es so wichtig, ethische Aspekte in Risiko-Entscheidungen einzubeziehen? 

Man kann zum Beispiel anhand von aufwändigen und komplexen mathematischen Modellierungen abschätzen, welche – positiven oder negativen – Auswirkungen der Einsatz einer bestimmten Technologie für, sagen wir einmal, den Klimawandel hat. Dazu muss ich allerdings vorher festlegen, welche Auswirkungen des Klimawandels im ethischen Sinne relevant sind. Geht es mir um die Auswirkungen auf das Klima? Oder geht es eher um die Frage, wie sich zum Beispiel die Temperaturänderungen auf unsere Lebensbedingungen auswirken? Sorgen extreme Wetterereignisse für viele Tote? Wirken sich Klimaveränderungen auf Märkte aus? Hinter der Frage, wie wir mit Risiken umgehen, steht immer die Frage: Wie verstehen wir gutes Leben? Was ist uns wichtig, was wollen wir schützen? Welche Schäden wollen wir vermeiden? Das alles sind normative Vorannahmen, die unumgänglicher Bestandteil von Risikoanalysen sind. Meist trifft man diese allerdings weder explizit noch bewusst. Es ist Aufgabe der Technikethik, diese Annahmen zu benennen, und sie zu begründen. Damit ändert sich gegebenenfalls die Risikoanalyse selbst. 

Wie bringen Sie beide Perspektiven in der Technikethik zusammen? 

Wir unterscheiden in der Technikfolgen-Forschung zwischen drei Begriffen: Risiko, Unsicherheit und Ungewissheit. Für Risiko im engeren Sinn können wir die Wahrscheinlichkeit angeben, mit der ein Schaden auftritt, etwa: Mit welcher Wahrscheinlichkeit bricht in einem Kraftwerk ein bestimmtes Ventil? Unsicherheit beschreibt die Tatsache, dass wir Wahrscheinlichkeiten nur unzureichend bestimmen können. So lässt sich die Stabilität einer Gesteinsformation, die etwa für ein nukleares Endlager genutzt werden soll, nicht für Millionen Jahre in Wahrscheinlichkeiten beziffern. Bei Ungewissheiten kennt man noch nicht einmal alle möglichen Auswirkungen einer Handlung. So hatte etwa die ozonschädigende Wirkung der Fluorchlorkohlenwasserstoffe (FCKWs) niemand vorhergesagt. Der erste Schritt bei einer Technikfolgenabschätzung ist immer, zu fragen: In welchem dieser drei Bereiche befinden wir uns? Um es einfach zu sagen: Die Naturwissenschaft sagt mir, was ich über die Risiken einer Entscheidung wissen kann. Die Philosophie sagt mir, was ich nicht wissen kann. Wenn wir von technischen Risiken reden, geht es immer auch um die Grenzen unseres Wissens. Unsicherheiten und Ungewissheiten lassen sich bei vielen technologischen Entwicklungen nicht ausschließen.

Unsicherheiten beschäftigen viele Menschen mit Blick auf Risiken und Chancen digitaler Technologien wie Künstlicher Intelligenz, Clouds oder Blockchains. Woran liegt das?

Ich denke, das liegt daran, dass die Digitalisierung eine gesteigerte Dynamik mit sich bringt. Technische Neuerungen gestalten unser Leben um, das Tempo der Veränderung nimmt zu. Welche Risiken eine neue Technologie mit sich bringt, ist nie eine rein technische Frage, sondern auch abhängig von dem institutionellen und gesellschaftlichen Rahmen, in den sie eingebettet ist – wir sprechen von einem soziotechnischen System. Die meisten Techniken sind nicht grundsätzlich schlecht oder grundsätzlich gut. Man muss sich für jede Anwendung den Einzelfall anschauen. Dabei ist neben den technischen Aspekten auch die folgende Frage wichtig: Haben wir Rahmenbedingungen wie rechtsstaatliche oder politische Strukturen, mit denen wir sicherstellen, dass eine Technologie sicher angewendet werden kann?

Wie lässt sich denn sicherstellen, dass solche ethischen und gesellschaftlichen Aspekte bei risikobehafteten Entscheidungen in Wirtschaft, Politik und Wissenschaft einfließen?

Für Entscheider ist zum einen wichtig, dass sie sich ihrer eigenen Wertebasis bewusst werden und diese transparent machen. Zum anderen ist es essentiell notwendig, sich der Grenzen des Wissens bewusst zu werden. Die liegen zum Beispiel in Annahmen oder Unsicherheiten in den Modellen und Rechnungen. Meines Erachtens müssen wir solche ethischen und erkenntnistheoretischen Fragen auch in die Ausbildung von Ingenieuren und Managern einfließen lassen.

Warum wäre das hilfreich?

Wir schauen heute in der Technikethik bewusst nicht mehr nur auf Risiken, sondern ebenso auch auf die Chancen neuer Technologien. Das gelingt am besten, wenn wir ethische Aspekte frühzeitig und konstruktiv einbringen und offen diskutieren, und zwar schon bei der Entwicklung neuer Technologien und bei der Frage nach den Rahmenbedingungen, unter denen diese eingesetzt werden. Die Entwickler neuer Techniken selbst sind es, die oft am besten absehen können, welche Folgen und Nebenfolgen eine Technik haben kann. Um nicht nur deren Risiken, sondern auch die damit einhergehenden Chancen zu benennen und zu beurteilen, brauchen Ingenieure auch philosophisches Handwerkszeug.