Existenzielle Risiken & Wahrscheinlichkeit

Ein Asteroid kollidiert mit der Erde und löscht die Menschheit aus. Ein Virus entkommt aus einem Biowaffenlabor und stürzt ganze Länder in den Tod.

Diese Events – sogenannte existenzielle Risiken – sind zugegebenermaßen sehr unwahrscheinlich. In diversen Risikoberichten wird die Wahrscheinlichkeit eines solchen Events auf 1 Milliardstel eingestuft.

Doch diese Risikoberichte haben ein gravierendes Problem: Die Chance einen Fehler zu machen, ist um Größenordnungen höher als das existenzielle Risiko selbst.[i]

Nur weil der Risikobericht angibt, dass die Wahrscheinlichkeit des Risikos 1 Milliardstel beträgt, ist das noch nicht automatisch korrekt. Diese Wahrscheinlichkeit ist nur korrekt, wenn der Bericht keine argumentativen Fehler enthält.

So ein Fehler kann sich in komplexen Berechnungen einschleichen. Die Wissenschaftler verwenden eventuell falsche Theorien oder unpassende Modelle.

Die Wahrscheinlichkeit des existenziellen Risikos setzt sich schlussendlich aus zwei Komponenten zusammen:

1.       Die Wahrscheinlichkeit laut Risikobericht, insofern der Risikobericht korrekt ist.

2.       Die Wahrscheinlichkeit, falls der Risikobericht falsch ist.

Das Problem: Bei einer sehr niedrigen Wahrscheinlichkeit des Risikos, nimmt die erste Komponente einen sehr kleinen Wert an. Ergo: In vielen Fällen haben die Fehlerquellen der Wissenschaftler eine höhere Einflusskraft auf die Einschätzung als die eigentliche Schätzung.

Dazu ein Beispiel:

Ein Bericht beziffert die Wahrscheinlichkeit eines katastrophalen Asteroideneinschlages auf 1 Milliardstel. Aufgrund von Rechenfehlern, Fehlern in der Hardware oder Fehlern in der Logik ist die Einschätzung mit einer Wahrscheinlichkeit von 1% fehlerbehaftet.[ii]

Falls der Bericht falsch ist, handelt es sich immer noch um ein sehr seltenes Event. Wir nehmen in diesem Fall an, dass es mit einer Wahrscheinlichkeit von einem Millionstel eintreten würde.

Daraus folgt: Die Wahrscheinlichkeit, dass das Event eintritt, wenn der Bericht falsch ist, ist circa 10 Mal größer als die ursprüngliche Wahrscheinlichkeit.[iii]

Die entscheidende Schlussfolgerung: Wenn es um die Einschätzung existenzieller Risiken geht, dürfen wir uns nicht auf ein einziges Argument oder gar einen einzigen Bericht stützen. Je mehr unterschiedliche Argumentationsketten auf eine sehr niedrige Wahrscheinlichkeit hindeuten, desto geringer das Risiko von Rechenfehlern, die unsere Existenz gefährden.

Zum Weiterlesen:

https://arxiv.org/ftp/arxiv/papers/0810/0810.5515.pdf

[i] Diese Gedanken stammen aus dem Paper „Probing the improbable: Methodological challenges for

risks with low probabilities and high stakes” von Toby Ord, Rafaela Hillerbrand und Anders Sandberg.

[ii] Was bedeutet, dass von 100 Berichten nur einer einen gravierenden Fehler hat. Es handelt sich hier also noch um einen eher konservativen Wert.

[iii] 10^-9 * 0.99 = 9.9 * 10^-10; 10^-6 * 0.01 = 10^-8