Faszinierende Fakten

Faszination ist eine Kernaufgabe der Medien – denn mit faszinierenden Fakten, Geschichten und Thesen bekommt man Aufmerksamkeit.

Für die Konsumenten ist das nicht immer von Vorteil, denn oft entspricht das Faszinierende mehr schlecht als recht der Realität. Und dabei geht es gar nicht um Fake-News - selbst korrekte Fakten kann man ganz unterschiedlich präsentieren.

„When I see a lonely number in a news report, it always triggers an alarm: What should this lonely number be compared to?” – Hans Rosling in seinem Buch „Factfulness: Ten reasons we’re wrong about the world – and why things are better than you think.”

noah leidingerOctober 19, 2020Medien, Faszination, Fakten, Factfulness, Denken, Kritisch, Kritik, Daten, Zahlen, Mathematik

Vergessliche KI-Systeme

In den letzten Jahren gab es auf dem Gebiet der Künstlichen Intelligenz einige herausragende Durchbrüche. In vielen Fällen beziehen sich diese Durchbrüche aber auf einzelne Aufgaben. KI-Systeme werden also immer besser darin, spezifische Aufgaben möglichst optimal durchzuführen.

In Bezug auf das Erinnerungsvermögen sind KI-Systeme der tierischen Intelligenz aber oft noch weit unterlegen. Wenn ein KI-System zuerst die Aufgabe A und dann die Aufgabe B lernt, kommt es bei vielen Systemen zu katastrophalem Vergessen. Die Modelle stellen sich also so genau auf die neue Aufgabe B ein, dass sie die alte Aufgabe A nicht mehr durchführen können.

noah leidingerSeptember 13, 2020Künstliche Intelligenz, KI, Artificial Intelligence, AI, Daten, Neurologie, Vergessen, Denken, Psychologie, Synapsen

Netzwerkeffekt der Daten

Von den Profitabilitätskennzahlen der Software-Branche können viele andere Wirtschaftssektoren nur träumen. Neben dem geringen Bedarf an Kapital sind auch Netzwerkeffekte ein entscheidender Treiber der hohen Profitabilität von Softwareunternehmen.

So wird das Netzwerk von Facebook oder Instagram mit jedem neuen Nutzer wertvoller. Je mehr meiner Freunde auf Facebook aktiv sind, desto attraktiver ist Facebook für mich als Nutzer.

Denselben Effekt erwarten auch viele Unternehmer und Investoren auf dem Gebiet der künstlichen Intelligenz.

3 Regeln der Heuristiken

In Anbetracht einer diffizilen Entscheidung tendieren viele professionelle Entscheider zu komplexen Modellen, Datenerhebung und Berechnungen. Allerdings zeigt sich immer wieder, dass derartig komplexe Entscheidungsmechanismen oft gleich gute oder sogar schlechtere Ergebnisse liefern als simple Problemlösungsmethoden.

Denn bis heute beachten nur wenige die drei Regeln der Heuristiken:[i]

1. Je unsicherer die Situation, desto einfacher der Entscheidungsmechanismus.

2. Je mehr Optionen und verschiedene Alternativen, desto einfacher der Entscheidungsmechanismus.

3. Je kleiner die Datenbasis, desto einfacher der Entscheidungsmechanismus.

noah leidingerAugust 25, 2020Heuristik, Intuition, Bauchgefühl, Entscheidungen, Entscheidungsmechanismus, Sicherheit, Unsicherheit, Risiko, Modelle, Daten, Bias

Zensur der Existenz

Traditionellerweise orientieren sich Wissenschaftler bei der Einschätzung von Naturkatastrophen stark an historischen Daten.

Um zu ermitteln, wie hoch die Wahrscheinlichkeit einer bedrohlichen Asteroiden-Kollision ist, sieht man sich die Größe früherer Einschlagkrater an.

Viele halten die möglichen Risiken von Teilchenbeschleunigern für vollkommen unbedenklich, weil im Umfeld der Erde schon immer hoch energetische Teilchenkollisionen stattgefunden haben und die Erde davon nie zerstört wurde.

Goodharts Gesetz & Metriken

Die vielen Schlangen Indiens waren den Briten in der Kolonialzeit ein Dorn im Auge. Also begannen sie, Prämien für leblose Schlangenkörper auszuzahlen. Das Ergebnis: Schlaue Inder begannen, Schlangen zu züchten, um sie dann zu ermorden und Prämien abzukassieren.

Ein derartiges Versagen von Metriken ist kein Einzelfall und wird – in Anlehnung an den britischen Ökonomen Charles Goodhart – als Goodharts Gesetz bezeichnet.

Etwas drastisch formuliert besagt dieses Gesetz: Sobald ein statistischer Zusammenhang für Kontrollzwecke verwendet wird, kollabiert der statistische Zusammenhang.

Allerdings umfasst dieses Gesetz derartig viele Phänomene, dass eine etwas genauere Differenzierung nötig ist. Eine derartige Unterscheidung liefert Scott Garrabrant in seinem Artikel „Goodhart Taxonomy.“

Überwachungs-Apatheia

Eine der herausragenden Erkenntnisse aus der Affäre rund um den Whistleblower Edward Snowden ist das erstaunliche Desinteresse der gemeinen Bevölkerung. Überwachung, Privatsphäre, Sicherheit – alles Themen, die uns tagtäglich betreffen, uns aber großteils ziemlich unberührt lassen.

Auf dieses Thema reagieren die meisten Menschen mit einer von zwei Einstellungen. Die einen meinen, man brauche keine Angst haben, wenn man nichts zu verbergen hat. Die Gegenposition spricht von einem Überwachungsstaat, gegen den man sich aber ohnehin nicht mehr wehren kann.

Obwohl diese beiden Positionen recht gegensätzlich sind, haben diverse Studien und Befragungen zu dieser Thematik gezeigt, dass viele Menschen je nach Fragestellung mit beiden Seiten sympathisieren. Diese Studien haben auch gezeigt, dass unabhängig von der konkreten Position meist eine sehr hohe Distanziertheit besteht. Vielen ist also bewusst, dass es hier ein Problem oder eine mögliche Gefahr gibt – die wenigsten machen sich aber ernsthafte Gedanken oder handeln, um sich zu schützen.

noah leidingerApril 29, 2020Psychologie, Corona, Covid-19, Überwachung, Daten, Datenschutz, Privatsphäre, Cybersicherheit, Computer, IT, Hacker, Kontrolle, Staat, Regierung, Politik

Vorstellungskraft - Gefahr für Sicherheit

Im Zuge des Kalten Krieges hat eine ganz neue Art des Denkens Einzug in die Sicherheitspolitik erhalten. Das Denken in Szenarien wurde damals populär, denn klassische Experimente kann man in einem Nuklearkrieg nicht durchführen. Schon die wichtige Eigenschaft der Wiederholbarkeit eines Experiments ist nicht gegeben, wenn ein einziger Fehlversuch das Ende der Menschheit bedeuten kann.

Was damals begonnen hat zieht sich bis heute durch und wird immer populärer, wie die Philosophin Jutta Weber in ihrem Paper „Wild Cards. Imagination als Katastrophenprävention.“ beschreibt.

Wild Cards sind Bedrohungen, die zwar enorm unrealistisch sind, bei ihrem Eintreten aber drastische Konsequenzen haben würden. Also beispielsweise Roboterinsekten, die ganze Städte ausrotten, oder die Erpressung von Menschen auf Basis ihrer DNA-Daten.

Doch anders als in Zeiten des Kalten Krieges, wo sich die Szenarien immerhin auf ein konkretes Themengebiet beschränkten, greift das Szenariendenken heute in alle Lebensbereiche über. Genau hier liegt auch der Kritikpunkt von Jutta Weber.

noah leidingerApril 27, 2020Psychologie, Soziologie, Philosophie, Überwachung, Privatsphäre, Daten, Datenzentren, Politik, Policy, Gefahr, Kalter Krieg, Biowaffen, Drohnen

Die intellektuelle Schuldenblase

1897 entdeckte man erstmals die positiven Effekte von Aspirin. Eine Erklärung für die Funktionsweise folgte 98 Jahre später im Jahr 1995.

Diese Spanne zwischen dem, was funktioniert, und unserem Verständnis der Funktionsweise, bezeichnet man als Intellektuelle Schulden.

Intellektuelle Schulden waren bisher vor allem ein Thema der Medizinbranche. Medikamente werden nicht zugelassen, weil man den genauen Wirkmechanismus erklären kann. Medikamente werden zugelassen, weil sie in klinischen Studien positive Effekte zeigen. Korrelation statt Kausalität ist die Devise.

Das muss nicht unbedingt schlecht sein, stellt aber eine Gefahr dar. Eine Gefahr in Bezug auf die langfristige Innovationsgeschwindigkeit sowie in Bezug auf unerwünschte Kettenreaktionen.

Wenn der Algorithmus investiert

Big Data. Data Science. Deep Learning. Algorithmisches Investieren. Kein Jahr vergeht ohne das ein neues Buzzword rund um das Thema der computergetriebenen Entscheidungsfindung in die Köpfe von Investoren, Managern und Politikern implantiert wird.

Nun schreibt genau einer der Vorreiter im Bereich des algorithmischen Investierens, Ray Dalio, dass Entscheidungsmechanismen, die auf Machine Learning basieren gefährlich und nicht wirklich hilfreich sind. Er schreibt das, obwohl Algorithmen ihn zum Milliardär und sein Unternehmen Bridgewater zu einem der wichtigsten Investmentkonzerne der Welt gemacht haben. Er schreibt das, obwohl Machine Learning der heißeste Trend ist, wenn es um computergesteuerte Entscheidungen geht.

Aus diesem Grund darf man beim Investieren Methoden zur Datenanalyse immer nur dazu anwenden, irgendwelche Muster zu erkennen. Dann gilt es diese Muster zu verstehen. Auf Basis von diesem Verständnis kann man schlussendlich investieren, denn dann wird man auch sehen, ob sich die zugrundeliegenden Faktoren verändern und das bisherige Verständnis obsolet wird.

text