Offenheit und Künstliche Intelligenz

“I think the best defense against the misuse of AI is to empower as many people as possible to have AI. If everyone has AI powers, then there’s not any one person or a small set of individuals who can have AI superpower.” – Elon Musk in einem Interview mit Steven Levy.

Elon Musk hält Offenheit für einen essentiellen Aspekt bei der Entwicklung Künstlicher Intelligenz. Und er ist damit nicht allein, denn seine Grundidee ist einfach und leuchtet ein: Wenn Künstliche Intelligenz ein Level erreicht, das die menschliche Intelligenz weit übertrifft, darf es kein Unternehmen, keinen Staat und keine Einzelperson geben, die diese Technologie allein kontrolliert. Indem man fordert, dass KI-Entwickler auf der ganzen Welt ihre technologischen Entwicklungen offenlegen, kann man verhindern, dass ein überlegenes Monopol entsteht.

Das Problem ist gelöst.

Allerdings kommt Offenheit nicht ohne erhebliche Kosten – wie der Philosoph Nick Bostrom in seinem Paper „Strategic implications of openness in ai development“ betont.

Wenn jeder seine Entwicklungen offenlegt, sind die verschiedenen Forschungsgruppen stets auf einem recht ähnlichen Stand des Fortschrittes. Zwischen dem führenden und dem schwächsten Player besteht also ein eher geringer Unterschied.

Das führt zu einem harschen Wettbewerbsumfeld. Denn anfangs ist das Team mit den besten Entwicklungen natürlich im Vorteil. Selbst wenn es die eigenen Fortschritte offenlegen muss, wird es eine Weile dauern, bis die anderen Teams diese Entwicklungen bei sich implementiert haben.

Wer also vorne dabei sein will, muss mit einem rasanten Tempo immer neue Innovationen vorbringen.

Nur gehen schneller Fortschritt und Sicherheit nicht immer Hand in Hand. In vielen Fällen führt ein Mehr an Sicherheit zu einem anfänglichen Effizienzverlust. In einem brutalen Wettbewerbsumfeld kann sich niemand solche Effizienzverluste leisten.

Niemand kann also Technologien auf ihre Sicherheit testen – das würde zu viel Zeit beanspruchen. An die Implementierung von Entwicklungen, die Sicherheit erhöhen und Effizienz senken, braucht man erst gar nicht zu denken.

In Sachen der Sicherheit von KI-Systemen ist vollkommene Offenheit also ein Schuss ins Knie.[i]

Neben der Künstlichen Intelligenz selbst ist es entscheidend, wer die KI kontrolliert. Dabei begünstigt die vollkommene Offenheit der Innovationen vor allem die aktuell mächtigen Institutionen – sprich wirtschaftliche starke Staaten und Unternehmen.

Wenn nämlich die Entwicklungen der Algorithmen frei zugänglich sind, so liegen die großen Wettbewerbsvorteile im Bereich der Hardware. Wer sich also riesige Rechenzentren leisten kann, ist klar im Vorteil.

Das muss nicht unbedingt schlecht sein, stellt aber eine ganz grundlegende Frage: Sollen die bestehenden Machthaber auch die Machthaber auf dem Bereich der KI sein oder wollen wir eine neue Elite auf dem Bereich der KI.

In Absenz von Offenheit gehen wir eher den zweiten Weg. Erfolgreiche Unternehmen auf dem Gebiet der KI haben also ohne Offenheit mehr Chancen auf eine Dominanz als e.g. reiche Staaten, die zwar Geld aber kein Know-How besitzen.

Aber natürlich haben Elon Musk und andere Offenheitsbefürworter nicht ganz Unrecht. Offenheit hat durchaus Vorteile – die Frage ist aber vor allem, wo man offen ist und wo geschlossen.

Eine Offenheit dahingehend, welchen Level an Fähigkeiten die eigenen KI-Systeme erreicht haben, scheint beispielsweise durchaus positiv. Dadurch bekommt die Gesellschaft einen Eindruck des Forschungsstandes und kann sich über mögliche Regulierungsmaßnahmen Gedanken machen.

Auch in Sachen der KI-Sicherheit spielt Offenheit eine durchaus positive Rolle. Während innerhalb von Forschungsgruppen der Fokus auf dem Fortschritt liegt, können sich Außenstehende viel eher kritische Gedanken machen und die Sicherheitsaspekte betonen.

Neben diesen pragmatischen Betrachtungen bietet die Offenheit noch ein anderes Potential: Wenn die Offenheit nämlich zur Norm der KI-Forschung wird. Wenn sich also die verschiedensten Forschungsgruppen weniger auf den eigenen Fortschritt und mehr auf die kollektive Zusammenarbeit fokussieren, dann kann die anfangs besprochene Wettbewerbsdynamik unterbunden werden.

Allerdings handelt es sich bei diesem Potential der Offenheitsnorm eher um eine weit hergeholte Hoffnung als eine realistische Annahme.

Zum Weiterlesen:

https://www.nickbostrom.com/papers/openness.pdf

https://www.wired.com/2015/12/how-elon-musk-and-y-combinator-plan-to-stop-computers-from-taking-over/

[i] Insofern die These stimmt, dass durch Offenheit ein harsches Wettbewerbsumfeld entsteht.