Existenzielle Risiken & Wahrscheinlichkeit

Ein Asteroid kollidiert mit der Erde und löscht die Menschheit aus. Ein Virus entkommt aus einem Biowaffenlabor und stürzt ganze Länder in den Tod.

Diese Events – sogenannte existenzielle Risiken – sind zugegebenermaßen sehr unwahrscheinlich. In diversen Risikoberichten wird die Wahrscheinlichkeit eines solchen Events auf 1 Milliardstel eingestuft.

Doch diese Risikoberichte haben ein gravierendes Problem: Die Chance einen Fehler zu machen, ist um Größenordnungen höher als das existenzielle Risiko selbst.

Stabilisierung der „Labilen Welt“

Nick Bostrom legt in seinem Paper „The vulnerable world hypothesis.“ nicht nur die Gefahr einer schwarzen Kugel dar, sondern bietet auch einige Präventivmaßnahmen.

In Anbetracht einer Technologie, die unweigerlich zur Extinktion der Menschheit führt, ist das eigentliche Ziel technologischer Rückschritt. Doch wie im ersten Artikel schon erläutert, sind wir Menschen bisher unschlagbar darin, Kugeln aus der Urne zu ziehen, aber nicht in der Lage, unerwünschte Kugeln wieder zurückzulegen.

„For example, even if it were ordained that all technologies that can be developed will be developed, it can still matter when they are developed.” – Nick Bostrom in seinem Paper „The vulnerable world hypothesis.“

Formen der „Labilen Welt“

Es gibt verschiedene Arten von schwarzen Kugeln, die unter aktuellen Umständen das Ende der Menschheit bedeuten würden. Nick Bostrom spricht in seinem Paper „The vulnerable world hypothesis.“ von vier Formen derartiger Kugeln.

Typ 1 wurde mit dem Gedankenspiel der Atombomben bereits illustriert. Damit ist eine Technologie gemeint, die ein enormes destruktives Potential hat und gleichzeitig einfach zu konstruieren ist. Wenn also eine Atombombe von jedem Physikstudenten gebaut werden könnte, hätten wir es mit einer schwarzen Kugel von Typ 1 zu tun.

Dabei gibt es einen inversen Zusammenhang zwischen der Einfachheit dieser Technologie und ihrer Wirkung. Eine Technologie, die so einfach ist, dass jeder Krimineller sie verwenden kann, stellt auch bei einem moderaten Level an Destruktionspotential eine schwarze Kugel dar. Denn selbst wenn diese Technologie bei ihrer Anwendung nur eine einzige Stadt zerstören kann, werden sich genügend Anwender finden, um die meisten Städte der Erde zu vernichten.

noah leidingerMay 27, 2020Labile Welt, Ethik, Moral, Philosophie, Künstliche Intelligenz, KI, AI, Biowaffen, Atombomben, Technologie, Technik, Entwicklung

Hypothese der „Labilen Welt“

Eine Atombombe zu bauen, ist theoretisch nicht sonderlich kompliziert. Praktisch gesehen stellt sich das ganz anders dar: Schon am Rohstoff – einige Kilogramm an Uran oder Plutonium – werden die meisten Bauversuche scheitern. Für die Menschheit ist das ein glücklicher Zufall.

Ein glücklicher Zufall!

1933 kam Leó Szilárd auf die Idee der nuklearen Kettenreaktion. Im Nachhinein stellte sich heraus, dass diese Kettenreaktion nur mit erheblicher technischer Expertise zu erreichen ist. Was aber, wenn sich das Gegenteil herausgestellt hätte? Nehmen wir an, man hätte diese Kettenreaktion mit zwei Scheiben Metall und etwas elektrischen Strom erzeugen können. Jede kleine Terrormiliz hätte eine Atombombe bauen können. Die Menschheit wäre binnen weniger Monate vom Erdboden verschwunden und der Erdboden mit ihr.

Vorstellungskraft - Gefahr für Sicherheit

Im Zuge des Kalten Krieges hat eine ganz neue Art des Denkens Einzug in die Sicherheitspolitik erhalten. Das Denken in Szenarien wurde damals populär, denn klassische Experimente kann man in einem Nuklearkrieg nicht durchführen. Schon die wichtige Eigenschaft der Wiederholbarkeit eines Experiments ist nicht gegeben, wenn ein einziger Fehlversuch das Ende der Menschheit bedeuten kann.

Was damals begonnen hat zieht sich bis heute durch und wird immer populärer, wie die Philosophin Jutta Weber in ihrem Paper „Wild Cards. Imagination als Katastrophenprävention.“ beschreibt.

Wild Cards sind Bedrohungen, die zwar enorm unrealistisch sind, bei ihrem Eintreten aber drastische Konsequenzen haben würden. Also beispielsweise Roboterinsekten, die ganze Städte ausrotten, oder die Erpressung von Menschen auf Basis ihrer DNA-Daten.

Doch anders als in Zeiten des Kalten Krieges, wo sich die Szenarien immerhin auf ein konkretes Themengebiet beschränkten, greift das Szenariendenken heute in alle Lebensbereiche über. Genau hier liegt auch der Kritikpunkt von Jutta Weber.

noah leidingerApril 27, 2020Psychologie, Soziologie, Philosophie, Überwachung, Privatsphäre, Daten, Datenzentren, Politik, Policy, Gefahr, Kalter Krieg, Biowaffen, Drohnen

text