Rache der Technologie

Technologie ist vor allem auch dazu da, unsere Probleme zu lösen und uns das Leben zu vereinfachen.[i]

Allerdings agieren viele unserer Technologien in komplexen Systemen. Und wie es komplexe Systeme nun einmal so an sich haben, ist die Lösung von Problemen alles andere als offensichtlich. Zwar ist es oft nicht schwer, das primäre Problem zu lösen – wer in ein komplexes System eingreift muss aber mit einer breiten Bandbreite an unerwarteten Konsequenzen rechnen.

Edward Tenner spricht in diesem Zusammenhang von den Rache-Effekten der Technologie. Während wir also noch mehr oder weniger weit von der Science-Fiction-Realität bösartiger Maschinen entfernt sind, schlagen viele Technologien bereits heute negativ zurück.

noah leidingerSeptember 29, 2020Komplexität, Rache, Technologie, Probleme, Problemlösung, Effekte, Kompliziertheit, Systeme, System, Konsequenzen

Bias-Varianz-Dilemma

Mit besser werdender Rechenleistung und größeren Datenzentren erhalten auch Modelle immer mehr Einzug in die Entscheidungsprozesse von Unternehmen und Einzelpersonen. Gerade sehr komplexe Situationen benötigen auch komplizierte und ausgeklügelte Modelle – so die weitläufige These.

Der Fehler dieser weitläufigen These: Sie missachtet das Bias-Varianz-Dilemma.

Denn schlussendlich geht es nur darum, dass die Modelle möglichst wenige Fehler machen.

Ein einfaches Modell macht in komplizierten Situationen unweigerlich Fehler. Denn ein einfaches Modell kann bei Weitem nicht alle Faktoren miteinbeziehen, die in der komplizierten Entscheidungssituation eine Rolle spielen.

Sicherheitsillusion – Risiko & Unsicherheit

Auf eine Diagnose vom Arzt reagiert man mit Enttäuschung, Schock oder Freude – kaum jemand reagiert mit Zweifel über die Diagnoseverfahren. Wir halten die Ergebnisse von medizinischen Tests wie Röntgenverfahren und Co. in der Regel für sehr sicher und das trotz teilweise nicht unbeachtlicher Fehlerraten.

Der Psychologie-Professor Gerd Gigerenzer bezeichnet dieses Phänomen als die erste von zwei Sicherheitsillusionen – die Nullrisiko-Illusion.

Wir verwechseln risikoreiche Situationen mit Situationen, in denen es keine Risiken gibt. In Situationen, wo man also mit Logik und statistischem Denken agieren sollte, agieren wir ohne Denken.

Risiko VS. Unsicherheit

Der intuitive Umgang mit Risiko und Unsicherheit zählt nicht gerade zu den Stärken des menschlichen Denkapparats. Besonders deutlich wird das in Krisenzeiten - der falsche Umgang mit diesen Thematiken ist aber ein alltägliches Phänomen, das uns ständig begleitet.

Der erste Fehler besteht darin, Risiko und Unsicherheit nicht ordentlich zu unterscheiden.

Risiko: Wenn man die möglichen Gefahren und Bruchstellen kennt, spricht man von Risiken. Gute Entscheidungen in einem risikoreichen Umfeld erfordern Logik und statistisches Denken.

Ökonomische Komplexität & Wachstum

Ein gut ausgebildeter, technisch versierter Arbeiter verdient im Regelfall um Größenordnungen mehr als ein Lehrling im ersten Lehrjahr. Der Unterschied zwischen den beiden liegt vor allem in ihrem Wissen – ihrem Knowhow und Knowledge.

Genau das gleiche Phänomen kann man auch bei Volkswirtschaften beobachten. Je mehr Knowledge und Knowhow die Arbeiter in einem Land besitzen, umso reicher ist dieses Land tendenziell. Die Menge an Knowledge und Knowhow in einem Staat sollte also ein sehr akkurater Indikator für dessen wirtschaftliche Gegenwart und Zukunft sein.

Phänotyp der Wirtschaft

Bis vor einigen Jahrzehnten war die Funktionsweise pflanzlicher und tierischer Genetik eine absolute Black-Box. Allerdings gab es bereits im 19. Jahrhundert Genetiker, die Fortschritte auf dem Gebiet der Genetik zu Stande brachten und unser Wissen über Erbmechanismen vorantrieben.

Grund dafür ist das genetische Konzept des Phänotyps. Der Phänotyp ist die Menge aller beobachtbaren Merkmale, die ein Lebewesen aufweist. Selbst wenn man also gar nichts über die genetischen Mechanismen an sich weiß, kann man von der Korrelation unterschiedlicher Phänotypen gewisse Regelmäßigkeiten ableiten und so zu Erkenntnis gelangen.

Frozen Accidents

Die Aufnahmeverfahren an den meisten Universitäten sind von Zufall und menschlichen Präferenzen geprägt. Nehmen wir an, durch Zufall wäre die Bewerbung des jungen Adolf Hitler in die Hände des richtigen Kunstprofessors geraten. Man hätte Hitler aufgenommen, und er eine erfolgreiche Karriere als Maler gemacht.

Kein Zweiter Weltkrieg, kein Holocaust, kein Führer.[i]

Wenn Jeff Bezos vor der Gründung Amazons seine große Liebe in Europa gefunden hätte, wäre er aus den USA ausgewandert und würde noch heute in irgendeiner Investmentfirma arbeiten.

Kein Amazon, kein Kindle, kein AWS.

Personbyte & Firmbyte

Information ist der elementarste Bestandteil unseres Lebens und damit auch der elementarste Aspekt der Wirtschaft. Denn schlussendlich sind die Produkte, die wir produzieren, vor allem Information - die konkreten Atome sind mehr als nebensächlich.

Dementsprechend ist der wichtigste Faktor im Produktionsprozess das nötige Wissen in Form von Humankapital. Bei einfachen Produkten passt dieses Wissen in den Kopf eines einzigen Menschen. Wenn es aber um den Bau eines Autos oder Computers geht, reicht die kognitive Kapazität einer Einzelperson bei Weitem nicht aus.

Der Physiker César Hidalgo beschreibt dieses Phänomen mit dem Begriff des Personbyte. Ein Personbyte ist die Menge an Knowledge und Knowhow, die ein einziger Mensch speichern kann.

Raketenbau und Künstliche Intelligenz

Raketenwissenschaft ist nicht umsonst eine Raketenwissenschaft. Viel komplizierter als die Raketenwissenschaft selbst ist aber der tatsächliche Bau von Raketen.

Elon Musk vergleicht die Konstruktion von Weltraumfahrzeugen mit dem Schreiben einer enorm komplexen Software. Nur kann man die Software in ihrer Gesamtheit nie testen und wenn man sie zum ersten Mal testet, darf sie keine Fehler mehr haben.

Doch jeder der schon einmal ein Stück Software programmiert hat, weiß: Eine Software zu entwickeln, die man nie testen darf und die dennoch von Beginn an ohne Bugs läuft, ist ein Ding der Unmöglichkeit.

Zentralplanung als Overfitting

Vor allem in der Politik erleben wir immer wieder, dass komplexen Problemen mit noch komplexeren Lösungen begegnet wird. In der Regel funktioniert das reichlich schlecht.

Genau darin liegt auch ein entscheidendes Problem von zentraler Planung und zentralen Entscheidungsmechanismen.

Doch dieser Kritikpunkt betrifft nicht zentrale Entscheidungen per se. So kritisieren viele ganz simple Ideen wie das Bedingungslose Grundeinkommen, weil sie zentrale Eingriffe in der Wirtschaft für unsinnig halten.

Schockrisiken als Signale

Beim Autofahren passieren viel mehr Unfälle als beim Fliegen. Zigaretten bringen weitaus mehr Menschen um als Terroristen.

Diese Aussagen versuchen Wissenschaftler und Statistiker immer wieder in unsere Gedanken einzupflanzen. Schlussendlich versetzt uns ein Anschlag von Terroristen dennoch in einen Angstzustand und das Abheben des Flugzeuges ist von einem nervöseren Gefühl begleitet als das Starten eines Autos.

Der große Unterschied zwischen uns und den Statistikern: Wir nehmen das Risiko auf einer sehr qualitativen Ebene wahr. Experten hingegen orientieren sich bei ihren Risikoeinschätzungen vor allem an der Anzahl der Todesopfer pro Jahr.

Marktmechanismen der Wissenschaft

Je komplexer wissenschaftliche Probleme, je offener die Zusammenarbeit unter Wissenschaftlern und je unzähliger die Anzahl an technologischen Hilfsmitteln – desto mehr wird Wissenschaft von Marktmechanismen beherrscht.

Es ist erstaunlich, was Märkte in der Wirtschaft zu Stande bringen. Sie regeln Preise, sorgen für die Übereinstimmung von Angebot und Nachfrage, bringen Innovationen hervor.

Märkte schaffen das alles ohne einen zentralen Kontrolleur.

noah leidingerJune 30, 2020Wissenschaft, Wissen, Forschung, Zukunft, Entwicklung, Technologie, Netzwerke, Markt, Märkte, Mechanismen, Resilienz, Komplexität

Zur Hölle mit Nuancen

Der Ideenraum ist voll mit falschen Theorien reichend vom Distributed Idea Supression Complex über Kayfabes bis hin zum Goodharts Gesetz.

All diese Theorien sind überaus interessant, bieten einen hilfreichen Denkrahmen und vereinen verschiedene Phänomene in einem einzigen Konzept. Doch natürlich wird niemand Schwierigkeiten haben, auf die vielen fehlenden Details aufmerksam zu machen. Ein einziges und prägnantes Konzept kann der realen Welt nie gerecht werden.

Doch genau darum geht es auch gar nicht. Diese Theorien haben ja gerade das Ziel, eine gewisse Abstrahierung vorzunehmen. Das Ziel ist also mehrere Phänomene zusammenzufassen, die Gemeinsamkeiten zu erkennen und Details auszulassen.

noah leidingerJune 29, 2020Nuancen, Modelle, Details, Spieltheorie, Soziologie, Psychologie, Motivation, Anreize, Komplexität, Einfachheit, Theorien, Konzepte, Denken

Urbanisierung der Komplexität

Die 10 innovativsten Städte der USA sorgen für 48% der Patente des Landes, obwohl sich lediglich 23% der Bevölkerung dort aufhalten. Nicht nur Menschen, sondern auch Ideen und Innovationen zeigen eine starke Tendenz zur Urbanisierung.

Dass diese Tendenz immer weiter ansteigt überrascht – sollten moderne Transportmittel und digitale Kommunikationswege doch eigentlich zu einer stärkeren Verbreitung von Innovation führen. In der Praxis ist genau das Gegenteil der Fall.

Und noch ein Trend sticht sofort ins Auge: Die Größe der Bevölkerung einer Stadt und ihr ökonomischer Output stehen in einem superlinearen Zusammenhang. Sprich: Je mehr Bewohner, desto höher der Output pro Bewohner.

Modularität als Entscheidungstool

Die Fähigkeit, sich in großen Gruppen zu organisieren und gemeinsame Entscheidungen zu treffen, gilt als eine der größten Stärken unserer Spezies. Natürlich habe auch diverse andere Lebewesen die Macht von Gruppen erkannt. Denn Entscheidungen des Individuums sind den Entscheidungen von größeren Organisationen oft weitaus unterlegen.

Dieser Zusammenhang lässt sich auch mathematisch sehr anschaulich darstellen. Beispielweise mit dem Condorcet-Jury-Theorem. Wenn jedes Individuum mit einer Wahrscheinlichkeit von mehr als 50% die richtige Entscheidung trifft, dann trifft eine große Gruppe – gemäß dem Gesetz der großen Zahlen – bei einer Mehrheitsabstimmung mit ziemlicher Sicherheit auch die richtige Entscheidung.

Nach diesem Theorem führt also jedes Individuum zu einem Anstieg der Entscheidungskraft.

Wilde Probleme – Zahme Probleme

Wieso übernehmen in der Politik nicht endlich die Wissenschaftler? Die Sozialwissenschaften haben in den letzten Jahrzehnten einen rasanten Aufstieg erlebt – wieso werden unsere gesellschaftlichen Probleme nicht wissenschaftlich und endgültig gelöst?

Man sollte die Probleme unserer Gesellschaft endlich so angehen, wie man auch Probleme im Ingenieurswesen und den Naturwissenschaften angeht. Die Situation analysieren, nachdenken, Hypothesen aufstellen, Experimente durchführen und Lösungen finden.

Klingt einfach, ist aber unmöglich. In ihrem viel zu wenig beachteten Paper „Dilemmas in a General Theory of Planning“ stellten Horst Rittel und Melvin Webber schon 1973 fest, dass klassische Problemlösungsmethoden bei den komplexen Problemstellungen von Wirtschaft, Politik und Umwelt versagen.

Mut zum Ungefähr

Doch das Problem, dass wir nur die Fakten oder im besten Fall spezifische Regeln und Gesetze lernen, ist nicht nur auf die Struktur unseres Denkapparats zurückzuführen. Abstrakt denken ist immer unangenehmer und anstrengender, als spezifische Regeln zu lernen oder ganz klare Fakten.

Unsere natürliche Tendenz der Faulheit führt uns dazu, dass wir uns tendenziell eher keine Gedanken um Metaregeln oder abstrakte Zusammenhänge machen. Auch evolutionär war es nie wichtig, die großen Zusammenhänge zu verstehen, wenn ein Raubtier kommt dann läuft man weg und wenn man Hunger hat jagt man – mit sehr spezifischen Regeln konnte man immer gut überleben.

Als-Ob-Modelle

Jedem ist klar, dass der professionelle Billard-Spieler sich keine Gedanken um physikalische Zusammenhänge macht, wenn er seine Stöße durchführt. Allerdings kann man sein Verhalten und das Verhalten des Balles perfekt mit physikalischen Modellen erklären. Diese Modelle sind also zur Beschreibung des Verhaltens des Spielers geeignet, auch wenn er die Rechnungen nicht tatsächlich anstellt, sondern nur so tut als ob.

Einige Ökonomen, allen voran Milton Friedman, haben nun versucht dieses Als-Ob-Argument auf die Wirtschaftswissenschaften zu übertragen.

Denkennoah leidingerFebruary 10, 2020Modelle, Wirtschaft, Wirtschaftspolitik, Filter, Komplexität, Mathematik, Spieltheorie, Wissenschaft

Gott würfelt und wir sollten auch

In der Politik sind es Parteien, bei denen man mit konträren Ideen keine Chance hat. In den Medien sollte man sich bei manchen Publikationen nicht positiv über den Kapitalismus und bei anderen nicht negativ über den Nationalismus äußern. In der Wissenschaft braucht niemand mitzureden, der keine akademische Laufbahn durchgemacht hat.

Wenn wir es also ernst meinen mit unserer Toleranz und Offenheit, dann sollten wir dem Zufall viel öfter die Chance geben, für tolerante und vollkommen unbefangene Entscheidungen zu sorgen.

Umgang mit Komplexität – die Gefahr der Generalität

Es gibt verschiedene Wege der Komplexität zu entkommen und dennoch das Gefühl zu haben, die Dinge zu verstehen. Manche wenden den Blick ganz auf Einzelfälle, andere finden einfache Erklärungen die für alle komplexen Themen benutzt werden. Beides ist gefährlich, die einfachen Erklärungen aber sind die größere Gefahr.

Denkennoah leidingerJanuary 2, 2020Komplexität, Brave New World

text