Posts tagged Kausalität

Goodharts Gesetz & Metriken

Die vielen Schlangen Indiens waren den Briten in der Kolonialzeit ein Dorn im Auge. Also begannen sie, Prämien für leblose Schlangenkörper auszuzahlen. Das Ergebnis: Schlaue Inder begannen, Schlangen zu züchten, um sie dann zu ermorden und Prämien abzukassieren.

Ein derartiges Versagen von Metriken ist kein Einzelfall und wird – in Anlehnung an den britischen Ökonomen Charles Goodhart – als Goodharts Gesetz bezeichnet.

Etwas drastisch formuliert besagt dieses Gesetz: Sobald ein statistischer Zusammenhang für Kontrollzwecke verwendet wird, kollabiert der statistische Zusammenhang.

Allerdings umfasst dieses Gesetz derartig viele Phänomene, dass eine etwas genauere Differenzierung nötig ist. Eine derartige Unterscheidung liefert Scott Garrabrant in seinem Artikel „Goodhart Taxonomy.“

noah leidingerMay 18, 2020Goodhart, Bias, Denken, Verstand, Entscheidungen, Entscheidungsmechanismus, Statistik, Korrelation, Kausalität, Daten, Metriken, Kontrolle

Die intellektuelle Schuldenblase

1897 entdeckte man erstmals die positiven Effekte von Aspirin. Eine Erklärung für die Funktionsweise folgte 98 Jahre später im Jahr 1995.

Diese Spanne zwischen dem, was funktioniert, und unserem Verständnis der Funktionsweise, bezeichnet man als Intellektuelle Schulden.

Intellektuelle Schulden waren bisher vor allem ein Thema der Medizinbranche. Medikamente werden nicht zugelassen, weil man den genauen Wirkmechanismus erklären kann. Medikamente werden zugelassen, weil sie in klinischen Studien positive Effekte zeigen. Korrelation statt Kausalität ist die Devise.

Das muss nicht unbedingt schlecht sein, stellt aber eine Gefahr dar. Eine Gefahr in Bezug auf die langfristige Innovationsgeschwindigkeit sowie in Bezug auf unerwünschte Kettenreaktionen.

text