Beweiserhaltungssatz

Der Energieerhaltungssatz besagt, dass die Gesamtenergie in einem abgeschlossenen System über die Zeit konstant bleibt.

Wie der KI-Forscher und Denker Eliezer Yudkowsky erklärt, gibt es ein ähnliches Gesetz auch für unsere Denkprozesse: Das Gesetz der Beweiserhaltung.

„If you expect a strong probability of seeing weak evidence in one direction, it must be balanced by a weak expectation of seeing strong evidence in the other direction.” - Eliezer Yudkowsky in seinem Buch „Map and Territory”.

noah leidingerSeptember 28, 2020Beweis, Beweise, Thesen, Hypothese, Denken, Rationalität, Irrationalität, Erwartung, Wahrscheinlichkeit, Rechnen, Mathematik

Hypothesen & Passwörter

«Lehrer: Was ist Licht?

Schüler: Licht hat sowohl Wellen- als auch Teilcheneigenschaften. Man spricht vom Welle-Teilchen-Dualismus.»

In unserem Bildungssystem bekommt der Schüler mit dieser Antwort alle Punkte. In der Realität ist seine Antwort meist wertlos – so die These von Eliezer Yudkowsky.

noah leidingerSeptember 24, 2020Rationalität, Irrationalität, Hypothese, Beweis, Beweise, Evidenz, Passwort, Schule, Schulsystem, Bildung, Bildungssystem, Ausbildung, Denken, Erwartung

KI-Nanny & Prävention

Technologische Entwicklungen sind in vielen Fällen ein Segen für die Menschheit – sie bescheren uns Wohlstand, verlängern unsere Lebensdauer oder machen die Zukunft spannend. Allerdings reicht ein Blick auf Atombomben und Waffensysteme, um die Schattenseiten von Technologie zu erblicken.

Bisher hat die Menschheit noch alle technologischen Entwicklungen überlebt. Je komplexer die Systeme allerdings werden, desto höher auch die Chance einer negativen Überraschung, die zur Extinktion der Menschheit führt.

Besonders brisant in diesem Zusammenhang ist die Künstliche Intelligenz.

Stabilisierung der „Labilen Welt“

Nick Bostrom legt in seinem Paper „The vulnerable world hypothesis.“ nicht nur die Gefahr einer schwarzen Kugel dar, sondern bietet auch einige Präventivmaßnahmen.

In Anbetracht einer Technologie, die unweigerlich zur Extinktion der Menschheit führt, ist das eigentliche Ziel technologischer Rückschritt. Doch wie im ersten Artikel schon erläutert, sind wir Menschen bisher unschlagbar darin, Kugeln aus der Urne zu ziehen, aber nicht in der Lage, unerwünschte Kugeln wieder zurückzulegen.

„For example, even if it were ordained that all technologies that can be developed will be developed, it can still matter when they are developed.” – Nick Bostrom in seinem Paper „The vulnerable world hypothesis.“

Hypothese der „Labilen Welt“

Eine Atombombe zu bauen, ist theoretisch nicht sonderlich kompliziert. Praktisch gesehen stellt sich das ganz anders dar: Schon am Rohstoff – einige Kilogramm an Uran oder Plutonium – werden die meisten Bauversuche scheitern. Für die Menschheit ist das ein glücklicher Zufall.

Ein glücklicher Zufall!

1933 kam Leó Szilárd auf die Idee der nuklearen Kettenreaktion. Im Nachhinein stellte sich heraus, dass diese Kettenreaktion nur mit erheblicher technischer Expertise zu erreichen ist. Was aber, wenn sich das Gegenteil herausgestellt hätte? Nehmen wir an, man hätte diese Kettenreaktion mit zwei Scheiben Metall und etwas elektrischen Strom erzeugen können. Jede kleine Terrormiliz hätte eine Atombombe bauen können. Die Menschheit wäre binnen weniger Monate vom Erdboden verschwunden und der Erdboden mit ihr.

text