noah leidinger

View Original

Matrix & Sicherheit Künstlicher Intelligenz

Vorab eine kleine Warnung: dieser Artikel mutet sehr futuristisch an und fällt aus heutiger Sicht wahrscheinlich in die Kategorie der Science-Fiction. Im Grunde beinhaltet er aber lediglich Annahmen, die bei gewissen technologischen Entwicklungen gar nicht so unrealistisch scheinen.

Nimmst du die rote Pille, um die Wahrheit zu erfahren? Oder wählst du die blaue Pille und verharrst in deiner fiktiven Realität?

Die meisten von uns würden ganz instinktiv die rote Pille nehmen. Niemand will in einer fiktiven Welt leben - wir wollen die Realität. Genau daraus ergibt sich die Faszination von Filmen wie „The Matrix“.

Die Grundannahme ist dabei immer die Gleiche: Es gibt eine Künstliche Intelligenz, die den Menschen weit überlegen ist. Um die Menschen zu kontrollieren, schließt die KI unsere Gehirne an einen Computer an. Wir leben fortan in einer simulierten Welt, aber merken es nicht. Währenddessen kann die KI in der realen Welt tun und lassen was sie will. Soweit die verbreiteten Science-Fiction-Theorien.

Was aber, wenn derartige Simulationen der optimale Weg zu einer sicheren Künstlichen Intelligenz sind, von der alle Menschen profitieren? Was, wenn die Matrix nicht das Ziel der KI, sondern das Ziel der Menschheit ist?

Genau diese These vertritt der KI-Forscher Roman Yampolskiy in seinem Paper „Personal universes: A solution to the multi-agent value alignment problem“

Begeben wir uns einige Jahre in die Zukunft. Wir haben eine Künstliche Intelligenz entwickelt, die uns Menschen weit überlegen ist. Wir wollen, dass alle Menschen von dieser KI profitieren.

Nun haben wir aber ein Problem: Nach welchen Zielen, Werten und Normen soll sich unsere KI richten?

Klar, die meisten von uns treten beispielsweise für die Menschenrechte ein. Es gibt aber auch Personen, die es mit solchen Rechten nicht so eng nehmen und lieber ein globales Kalifat errichten wollen.

Die KI kann es uns nicht allen recht machen, weil sich manche unserer Werte gegenseitig ausschließen.

Die Lösung: Jeder Mensch bekommt seine eigene Simulation.

Der eine lebt in einem friedlichen Universum, ohne Leid und Schmerz. Der andere in einem Universum, das harte Arbeit belohnt und immer wieder die ein oder andere Hürde in den Lebensweg stellt.

Zugegebenermaßen besteht hier ein großer Unterschied zur Matrix: Die Matrix bietet eine Simulation für alle. In unserem Beispiel bietet die KI jedem Menschen seine eigene Simulation – sein eigenes Universum.

Wie gesagt, dieses Konzept mutet enorm futuristisch an. Rein logisch gedacht bietet es aber eine enorm simple Lösung für ein sonst nahezu unüberwindbares Problem.

Doch die Lösung hat einen Haken: Sie wirkt auf die meisten von uns äußerst abstoßend. Wir wollen einfach in keiner Simulation leben, sondern in der Realität.[i]

Zum Weiterlesen:

https://arxiv.org/abs/1901.01851

[i] Der kritische Leser wird anmerken: Woher weißt du, dass du nicht schon jetzt in einer Simulation lebst?