Die zwei Kisten: Newcombs Paradox und der Streit um rationale Entscheidungen

Der Aufhänger: Ein Spiel, das kluge Menschen in zwei Lager spaltet

Stell dir vor, ein außerirdisches Wesen – nenn es das Orakel – landet auf der Erde. Es behauptet, menschliches Verhalten mit nahezu perfekter Treffsicherheit vorhersagen zu können, und es hat bereits Tausende von Malen recht behalten. Nun stellt es dich vor eine Wahl. Vor dir stehen zwei Kisten. Kiste A ist durchsichtig und enthält sichtbar 1.000 Euro. Kiste B ist undurchsichtig; sie enthält entweder eine Million Euro oder gar nichts.

Die Regeln sind einfach. Du darfst entweder nur Kiste B nehmen, oder beide Kisten. Der Haken: Das Orakel hat den Inhalt von Kiste B bereits gestern festgelegt, auf Grundlage seiner Vorhersage darüber, was du heute tun wirst. Hat es vorhergesagt, dass du nur Kiste B nimmst, dann hat es die Million hineingelegt. Hat es vorhergesagt, dass du beide Kisten nimmst, dann hat es Kiste B leer gelassen. Die Vorhersage ist gefallen, das Geld liegt bereits fest an seinem Platz, und das Orakel ist längst wieder abgereist. Nichts, was du jetzt tust, kann den Inhalt der Kisten noch verändern.

Was tust du?

Diese scheinbar harmlose Frage ist eines der berühmtesten und hartnäckigsten Paradoxa der modernen Philosophie. Sie heißt Newcombs Paradox, und ihr Reiz liegt darin, dass zwei völlig legitime, jahrhundertealte Prinzipien rationalen Entscheidens hier direkt aufeinanderprallen und zu entgegengesetzten Antworten führen. Kluge, nachdenkliche Menschen spalten sich an ihr in zwei Lager – und beide Lager halten die jeweils andere Seite für offensichtlich verwirrt. Der Philosoph Robert Nozick, der das Problem berühmt machte, bemerkte trocken: „Fast jeder hält vollkommen klar, welche Wahl die richtige ist. Die Schwierigkeit ist nur, dass diese Menschen sich in zwei etwa gleich große Gruppen teilen – und ein großer Teil derer, die die andere Seite für offensichtlich falsch halten, hält auch die eigene Seite für offensichtlich richtig."

Warum sollte dich das jenseits des intellektuellen Reizes interessieren? Weil Newcombs Paradox der Ursprung einer ganzen wissenschaftlichen Disziplin ist – der modernen Entscheidungstheorie – und weil dieselbe Frage heute im Zentrum eines sehr praktischen Feldes steht: Wie baut man eine künstliche Intelligenz, die gute Entscheidungen trifft? Sobald ein Agent weiß, dass andere sein Verhalten vorhersagen, modellieren oder gar kopieren können, ist er in einer Newcomb-artigen Situation. Das Gedankenexperiment ist damit kein Kuriosum mehr, sondern eine der schärfsten Sonden, die wir haben, um den Begriff „rationale Entscheidung" überhaupt zu verstehen.

Dieser Artikel nimmt dich auf die ganze Strecke mit: von der Entstehungsgeschichte des Problems über die beiden konkurrierenden Argumente und die Geburt der kausalen Entscheidungstheorie bis zu den modernen Varianten und der überraschenden Relevanz für die KI-Sicherheit.

Teil 1: Woher das Problem kommt

Ein Physiker, der über das Gefangenendilemma nachdachte

Das Paradox trägt den Namen seines Erfinders, aber der hat es nie selbst veröffentlicht. William Newcomb war ein theoretischer Physiker am Lawrence Livermore National Laboratory in Kalifornien – ein Großneffe übrigens des Astronomen Simon Newcomb. Um das Jahr 1960 grübelte er über das damals bereits bekannte Gefangenendilemma und über die Frage, wie man sich verhalten sollte, wenn der andere Spieler die eigene Wahl perfekt antizipiert. Aus dieser Grübelei destillierte er die klare, zugespitzte Form mit den zwei Kisten und dem allwissenden Vorhersager.

Newcomb erzählte das Rätsel Freunden weiter, und über den Philosophen Robert Nozick gelangte es in die akademische Welt. Nozick veröffentlichte 1969 den Aufsatz Newcomb's Problem and Two Principles of Choice und gab dem Problem darin seine kanonische Gestalt. Er machte darin explizit, was den eigentlichen Skandal ausmacht: Hier stehen sich nicht ein richtiges und ein falsches Argument gegenüber, sondern zwei geradezu heilige Prinzipien der Rationalität, die beide für sich genommen vollkommen einleuchten – und die einander widersprechen.

Der Sprung in die Öffentlichkeit

Berühmt wurde das Problem einer breiteren Öffentlichkeit durch Martin Gardner, den legendären Kolumnisten der Rubrik Mathematical Games im Scientific American. Gardner stellte Newcombs Paradox 1973 vor (die ausführliche Behandlung mit Nozicks Nachwort erschien im März 1974) und löste damit eine Lawine an Leserpost aus. Die eingehenden Zuschriften bevorzugten die Lösung, nur eine Kiste zu nehmen, im Verhältnis von etwa fünf zu zwei. Interessant ist die persönliche Aufstellung der Beteiligten: William Newcomb selbst, der Erfinder, war ein überzeugter „Ein-Kisten-Wähler". Nozick hingegen bekannte sich als lauwarmer „Zwei-Kisten-Wähler", obwohl die Entscheidungstheoretikerinnen Maya Bar-Hillel und Avishai Margalit ihn drängten, doch dem „Millionärsclub" der Ein-Kisten-Wähler beizutreten.

Dass sich selbst die klügsten Köpfe nicht einigen konnten – und bis heute nicht können –, ist kein Zeichen mangelnder Sorgfalt. Es ist ein Symptom dafür, dass hier ein echter Riss in unseren Begriffen sichtbar wird.

Teil 2: Die zwei Argumente

Der ganze Zauber des Paradoxons liegt darin, dass sich für beide Antworten ein bündiges, fast unwiderlegbares Argument formulieren lässt. Schauen wir sie uns einzeln an.

Das Dominanzargument: Nimm beide Kisten!

Das erste Argument stützt sich auf ein Prinzip, das so grundlegend ist, dass es fast wie eine Definition von Vernunft klingt: das Dominanzprinzip. Es besagt: Wenn eine Handlung dir in jedem möglichen Zustand der Welt ein mindestens ebenso gutes und in wenigstens einem Zustand ein besseres Ergebnis liefert als eine andere Handlung, dann wähle die erste. Eine dominante Option zu verschmähen wäre schlicht irrational.

Wende das auf die Kisten an. Der Inhalt von Kiste B steht bereits fest. Es gibt nur zwei Möglichkeiten:

Erstens: In Kiste B liegt die Million. Nimmst du nur B, bekommst du 1.000.000 Euro. Nimmst du beide, bekommst du 1.001.000 Euro. Beide Kisten zu nehmen ist um 1.000 Euro besser.

Zweitens: Kiste B ist leer. Nimmst du nur B, bekommst du 0 Euro. Nimmst du beide, bekommst du 1.000 Euro. Wieder ist es um 1.000 Euro besser, beide zu nehmen.

Das Ergebnis ist verblüffend eindeutig: Egal, was in Kiste B liegt, du fährst mit beiden Kisten immer um genau 1.000 Euro besser. Die 1.000 Euro in der durchsichtigen Kiste sind ein reines Geschenk – warum solltest du sie liegen lassen? Der Inhalt von B ändert sich nicht mehr, gleichgültig, wofür du dich entscheidest. Also: Nimm beide. Wer nur eine Kiste nimmt, lässt sehenden Auges 1.000 Euro auf dem Tisch liegen.

Das Erwartungsnutzenargument: Nimm nur eine Kiste!

Das zweite Argument stützt sich auf ein ebenso ehrwürdiges Prinzip: die Maximierung des Erwartungsnutzens. Berechne für jede Handlung den mit den Wahrscheinlichkeiten gewichteten durchschnittlichen Nutzen und wähle die Handlung mit dem höchsten Wert. Genau dieses Prinzip ist das Fundament aller Statistik, Versicherungsmathematik und rationalen Wette.

Wende es auf die Kisten an – und beziehe die entscheidende Tatsache ein, dass das Orakel ein nahezu perfekter Vorhersager ist. Nehmen wir eine Trefferquote von 99 Prozent an.

Wenn du beide Kisten nimmst, wird das Orakel dies mit 99-prozentiger Wahrscheinlichkeit vorhergesagt und B leer gelassen haben. Dein Erwartungswert: 0,99 × 1.000 + 0,01 × 1.001.000 = rund 11.000 Euro.

Wenn du nur Kiste B nimmst, wird das Orakel dies mit 99-prozentiger Wahrscheinlichkeit vorhergesagt und die Million hineingelegt haben. Dein Erwartungswert: 0,99 × 1.000.000 + 0,01 × 0 = 990.000 Euro.

Der Unterschied ist gewaltig: rund 990.000 gegen 11.000 Euro. Das Argument ist bestechend einfach: Die Menschen, die nur eine Kiste nehmen, werden fast alle Millionäre. Die Menschen, die beide Kisten nehmen, gehen fast alle mit lächerlichen 1.000 Euro nach Hause. Wenn Rationalität irgendetwas mit Gewinnen zu tun hat, dann sieht man doch mit bloßem Auge, wer hier gewinnt. Also: Nimm nur eine Kiste.

Die Zange

Jetzt sitzt die Falle zu. Beide Argumente sind gültig. Beide stützen sich auf ein Prinzip, das du in nahezu jeder anderen Situation deines Lebens bedenkenlos anwenden würdest. Und doch führen sie zu entgegengesetzten Handlungen. Genau das ist das Paradox: nicht die Schwierigkeit, die richtige Antwort zu finden, sondern die Tatsache, dass zwei Säulen der Vernunft hier auseinanderbrechen.

Ein oft zitierter Aufhänger bringt es auf den Punkt: Wenn du so schlau bist, warum bist du dann nicht reich? – so ätzen die Ein-Kisten-Wähler gegen die Zwei-Kisten-Wähler. Und die kontern: Wenn du so schlau bist, warum lässt du dann sehenden Auges 1.000 Euro liegen, an denen deine Wahl nichts mehr ändern kann?

Teil 3: Die Geburt der kausalen Entscheidungstheorie

Newcombs Paradox war kein bloßes Denkspiel. Es zwang die Philosophie, eine Unterscheidung zu treffen, die zuvor im Nebel gelegen hatte: den Unterschied zwischen Korrelation und Kausalität im Herzen des Entscheidens. Aus diesem Zwang entstand ein neuer Zweig der Theorie.

Evidenzielle Entscheidungstheorie

Die ältere, ursprünglich von Richard Jeffrey ausgearbeitete Sichtweise heißt evidenzielle Entscheidungstheorie (EDT). Ihr Leitgedanke: Bewerte eine Handlung danach, welche Nachrichten sie über den Zustand der Welt liefert. Formal berechnet die EDT den Erwartungsnutzen einer Handlung mithilfe der bedingten Wahrscheinlichkeiten – also der Wahrscheinlichkeit eines Weltzustands, gegeben dass du diese Handlung ausführst.

Für Newcombs Problem ist die EDT eindeutig: Dass du nur eine Kiste nimmst, ist ein starkes Indiz dafür, dass das Orakel dies vorhergesagt und die Million hineingelegt hat. Die Handlung „nur eine Kiste" ist eine gute Nachricht über deinen Reichtum. Also: Nimm nur eine Kiste. Die EDT ist eine Ein-Kisten-Theorie.

Der Einwand gegen die EDT ist ebenso alt wie berühmt und läuft unter dem Stichwort der „Schaukelfälle": Angenommen, ein Gen verursacht sowohl den Wunsch zu rauchen als auch Krebs, wobei das Rauchen selbst harmlos ist. Nach der naiven EDT solltest du nicht rauchen, weil die Wahl zu rauchen eine schlechte Nachricht über dein Gen ist – obwohl das Rauchen den Krebs kausal überhaupt nicht beeinflusst. Das erscheint absurd: Warum sollte ich mir ein Vergnügen versagen, das mir nachweislich nicht schadet, nur weil die Wahl statistisch mit etwas Schlimmem korreliert? Dieser Einwand legt den Finger auf die wunde Stelle der EDT: Sie verwechselt, so die Kritik, das Verkünden guter Nachrichten mit dem Bewirken guter Ergebnisse.

Kausale Entscheidungstheorie

Als Antwort auf genau diese Schwäche formulierten in den späten 1970er-Jahren Allan Gibbard und William Harper (1978), aufbauend auf Vorarbeiten von Robert Stalnaker, die kausale Entscheidungstheorie (CDT). Ihr Leitgedanke: Bewerte eine Handlung nicht danach, was sie anzeigt, sondern danach, was sie bewirkt. Formal ersetzt die CDT die bedingten Wahrscheinlichkeiten durch die Wahrscheinlichkeiten von subjunktivischen Konditionalen – von Aussagen der Form „Würde ich X tun, dann würde Y eintreten". Entscheidend ist der kausale Einfluss der Handlung, nicht ihre bloße Korrelation mit dem Ergebnis.

Für Newcombs Problem ist die CDT ebenso eindeutig – nur in die andere Richtung: Deine Wahl jetzt hat keinen kausalen Einfluss mehr auf den Inhalt von Kiste B, der gestern festgelegt wurde. Würde die Million darin liegen, bekämst du mit beiden Kisten mehr; wäre sie leer, ebenfalls. Also: Nimm beide. Die CDT ist eine Zwei-Kisten-Theorie. Beim Raucher-Gen liefert die CDT das intuitiv richtige Ergebnis: Rauche ruhig, denn deine Wahl verursacht keinen Krebs.

Die Grundfrage dahinter

Damit ist der eigentliche Kern des Paradoxons freigelegt. Newcombs Problem ist ein Streit darüber, was rationales Entscheiden überhaupt bedeutet:

Bedeutet es, die Handlung zu wählen, die – gegeben alles, was ich über die Welt weiß – mit den besten Ergebnissen einhergeht (EDT, Ein-Kisten)? Oder bedeutet es, die Handlung zu wählen, die die besten Ergebnisse herbeiführt, gegeben den bereits feststehenden, von mir kausal unabhängigen Zustand der Welt (CDT, Zwei-Kisten)?

Beide Auffassungen sind ehrbar. Und genau deshalb ist das Problem so hartnäckig.

Teil 4: Ausflüchte, Varianten und die Standhaftigkeit des Problems

Wer dem Paradox zum ersten Mal begegnet, sucht instinktiv nach einem Ausweg, der die ganze Zwickmühle als Scheinproblem entlarvt. Fast alle diese Auswege sind schon durchgespielt worden – und keiner hält ganz.

„Ein perfekter Vorhersager ist unmöglich"

Der häufigste erste Reflex: So ein Orakel kann es gar nicht geben, also ist die Frage müßig. Doch das Paradox braucht keine metaphysische Perfektion. Es genügt ein Vorhersager, der deutlich besser als der Zufall liegt – 90 Prozent Trefferquote reichen völlig, damit der Erwartungsnutzen der Ein-Kisten-Wahl den der Zwei-Kisten-Wahl übersteigt. Und empirisch sind Menschen in vielerlei Hinsicht durchaus vorhersagbar. Der Konflikt zwischen den beiden Prinzipien bleibt bestehen, solange die Vorhersage besser ist als ein Münzwurf.

„Das Ganze ist eine verkappte Zeitreise oder Rückwärtskausalität"

Nein. Nichts an dem Szenario verlangt, dass deine heutige Wahl gestern die Kiste befüllt. Das Orakel liest keine Zukunft; es modelliert dich. Es kennt (in der starken Fassung) deinen Charakter, deine Denkweise, vielleicht sogar deinen physischen Zustand so genau, dass es zuverlässig vorhersagen kann, wie du dich entscheiden wirst – so wie ein guter Schachcomputer den nächsten Zug eines Gegners vorwegnimmt, ohne in die Zukunft zu reisen. Die gemeinsame Ursache von Vorhersage und Wahl ist du selbst: dein Entscheidungsprozess. Genau das macht die Sache so subtil.

Das transparente Newcomb-Problem

Eine besonders scharfe Variante verschärft die Zange bis zum Anschlag. Stell dir vor, beide Kisten sind durchsichtig. Du siehst die Million bereits in Kiste B liegen. Was tust du? Die Zwei-Kisten-Logik scheint jetzt vollends unwiderstehlich: Das Geld ist da, es liegt vor dir, nimm einfach beide Kisten und geh mit 1.001.000 Euro heim. Doch der Vorhersager hat die Million nur deshalb hineingelegt, weil er vorhergesehen hat, dass du sie nicht zusätzlich noch die durchsichtigen 1.000 mitnimmst. Ein Agent, der in dieser Lage stur beide Kisten greift, ist genau der Agententyp, bei dem der Vorhersager die Kiste von vornherein leer gelassen hätte. Die Ein-Kisten-Wähler sehen die Million; die Zwei-Kisten-Wähler sehen eine leere Kiste. Die transparente Variante zeigt: Der Vorteil liegt nicht bei der cleveren Einzelhandlung, sondern beim richtigen Charaktertyp.

Parfits Anhalter

Eine verwandte Zuspitzung stammt von Derek Parfit. Du bist nachts in der Wüste liegengeblieben, dem Verdursten nahe. Ein Fahrer hält an. Er wird dich nur in die Stadt mitnehmen, wenn er glaubt, dass du ihm nach der Ankunft die vereinbarten 1.000 Euro auszahlst – und er ist ein perfekter Menschenkenner, der Lügen sofort durchschaut. In der Stadt angekommen, in Sicherheit, hast du keinen kausalen Grund mehr zu zahlen; das Geld nützt dir mehr als dem Fahrer, und er kann dich nicht mehr zurücklassen. Ein reiner CDT-Agent würde in diesem Moment nicht zahlen wollen – aber genau deshalb hätte der Menschenkenner ihn gar nicht erst mitgenommen, und er wäre verdurstet. Hier versagen sowohl CDT als auch die naive EDT: Wer überlebt, ist der Agent, der sich glaubhaft im Voraus binden kann, das Versprechen zu halten.

Teil 5: Von der Philosophie zur Maschine

Genau an dieser Stelle wird das jahrzehntealte Denkspiel praktisch. Denn Parfits Anhalter und das transparente Newcomb-Problem haben eine gemeinsame Moral: Der Agent, der am Ende gewinnt, ist nicht der, der in jedem einzelnen Moment die kausal dominante Handlung greift, sondern der, dessen Entscheidungsverfahren – dessen Charakter, dessen Bindungsfähigkeit – von vornherein die besten Ergebnisse produziert. Und das ist eine Frage, die man einer Maschine buchstäblich einprogrammieren muss.

Warum KI-Forscher sich für Kistchen interessieren

Das Ziel eines KI-Agenten ist es, instrumentell rationale Entscheidungen zu treffen. Sobald ein solcher Agent in einer Welt operiert, in der andere Akteure – oder gar Kopien seiner selbst – seinen Quellcode einsehen, simulieren oder vorhersagen können, befindet er sich in einer Newcomb-artigen Lage. Zwei Agenten mit identischem, kopierbarem Quellcode, die ein Gefangenendilemma spielen, sind das klarste Beispiel: Jeder weiß, dass der andere exakt so entscheiden wird wie er selbst. Ein reiner CDT-Agent würde defektieren („meine Wahl beeinflusst die des anderen kausal nicht") und damit gegen seine Kopie verlieren. Ein Agent, der begreift, dass er und seine Kopie dieselbe Berechnung ausführen, kooperiert – und gewinnt.

Funktionale Entscheidungstheorie

Aus diesen Überlegungen entwickelten Eliezer Yudkowsky und Nate Soares am Machine Intelligence Research Institute eine dritte Theorie, die sie 2017 unter dem Namen funktionale Entscheidungstheorie (FDT) ausarbeiteten. Ihr Kerngedanke lautet: Ein Agent soll so entscheiden, als bestimme er nicht bloß seine einzelne Handlung, sondern die Ausgabe der abstrakten Berechnung, die er verkörpert – und die möglicherweise an mehreren Orten der Welt zugleich instanziiert ist (im Agenten selbst, im Modell des Vorhersagers, in einer Kopie).

Die FDT fragt also nicht „Welche Handlung bewirkt jetzt das Beste?" (CDT) und nicht „Welche Handlung ist die beste Nachricht?" (EDT), sondern: „Welche Entscheidungsregel hätte, konsequent angewandt, über alle Instanzen hinweg die besten Ergebnisse?" Auf Newcomb angewandt, nimmt die FDT nur eine Kiste – denn die Regel „nimm nur eine Kiste" ist genau die, die den Vorhersager veranlasst, die Million hineinzulegen. Bei Parfits Anhalter zahlt sie – denn die Regel „halte dein Versprechen" ist die, die dich überhaupt erst in die Stadt bringt. Yudkowsky und Soares führen drei Argumente für die FDT ins Feld: ein Argument aus der Selbstbindung, eines aus dem Informationswert und eines aus dem schlichten Ergebnis – dem erzielten Nutzen.

Wichtig für Svens Präferenz nach wissenschaftlich gesicherter Aussage: Die FDT ist kein etablierter Konsens. Sie ist innerhalb der akademischen Philosophie umstritten; Kritiker wie der Philosoph Wolfgang Schwarz haben ernsthafte Einwände formuliert (etwa dass die FDT in bestimmten konstruierten Fällen selbst zu unplausiblen Ergebnissen führe). Sie ist am ehesten als ein aktives Forschungsprogramm an der Schnittstelle von Philosophie und KI-Sicherheit zu verstehen, nicht als gelöste Wahrheit.

Wo stehen die Fachleute?

Wie steht die Zunft heute zu der Ausgangsfrage? Die große PhilPapers-Umfrage von 2020 unter rund zweitausend Berufsphilosophinnen und -philosophen ergab: etwa 39 Prozent neigen zum Zwei-Kisten-Wählen, etwa 31 Prozent zum Ein-Kisten-Wählen, der Rest ist unentschieden, hält beide Antworten für vertretbar oder lehnt die Frage in der gestellten Form ab. Sechzig Jahre nach Newcombs erstem Grübeln ist die Menschheit ihrer eigenen Vernunft also noch immer nicht ganz auf die Schliche gekommen. Die Kluft von etwa fünf zu zwei aus Gardners Leserpost hat sich, wenn überhaupt, nur leicht in Richtung der Zwei-Kisten-Fraktion verschoben – bei den Fachleuten.

Erkenntnis zum Mitnehmen

Newcombs Paradox lehrt eine Lektion, die weit über das Gedankenspiel hinausreicht: Rationalität ist nicht ein einziger, monolithischer Begriff, sondern mindestens zwei verschiedene Dinge, die im Alltag glücklicherweise fast immer zusammenfallen – aber eben nicht immer. Meistens fällt die Handlung, die das beste Ergebnis bewirkt, mit der Handlung zusammen, die die beste Nachricht über die Welt liefert. Newcomb konstruiert den seltenen Fall, in dem beide auseinandertreten, und zwingt uns, uns zu entscheiden, was wir eigentlich meinen.

Für deine tägliche Arbeit ist der praktische Kern dieser: Achte darauf, ob du eine Handlung wählst, weil sie ein gutes Ergebnis herbeiführt, oder nur, weil sie ein gutes Ergebnis signalisiert oder mit ihm korreliert. Diese Verwechslung – Korrelation mit Kausalität, Anzeichen mit Ursache – ist die häufigste Denkfalle in Datenanalyse, A/B-Tests, Kennzahlensteuerung und Risikobewertung. Ein Team, das eine Metrik optimiert, weil sie mit Erfolg korreliert (statt ihn zu verursachen), begeht denselben Fehler wie ein naiver EDT-Agent beim Raucher-Gen: Es verwechselt das Ablesen einer guten Nachricht mit dem Bewirken eines guten Ergebnisses.

Und für jeden, der Systeme baut, die Entscheidungen treffen – von Handelsalgorithmen bis zu autonomen KI-Agenten –, gilt die tiefere Lehre von Parfits Anhalter: Manchmal ist der klügste Agent nicht der, der in jedem einzelnen Moment das kausal Beste greift, sondern der, dessen Entscheidungsverfahren als Ganzes sich glaubwürdig binden kann. Die Fähigkeit, sich im Voraus festzulegen und dann dabei zu bleiben, ist keine Schwäche der Vernunft. Sie kann ihre höchste Form sein.

Querverweise im Vault

Newcombs Paradox schlägt Brücken zu mehreren bereits behandelten Themen:

• Wie das Gettier-Problem ist Newcombs Paradox ein Fall, in dem ein einziges, scheinbar simples Gedankenexperiment eine ganze philosophische Disziplin ins Wanken bringt – dort die Erkenntnistheorie, hier die Entscheidungstheorie.
• Die Verwechslung von Korrelation und Kausalität, die im Herzen des EDT-CDT-Streits sitzt, ist dieselbe Falle, vor der die Wissenschaft des Lernens warnt: In Wünschenswerte Schwierigkeiten verwechselt das Gehirn flüssiges Wiedererkennen (ein Anzeichen) mit echtem Können (der Ursache).
• Die Anwendung auf vorhersagbare, kopierbare Agenten verbindet das Problem unmittelbar mit der KI-Forschung, wie sie in Der Geist in der Maschine behandelt wird.
• Und die Frage, wie eine Maschine „gute" Entscheidungen treffen soll, berührt direkt die regulatorischen Anforderungen an KI-Systeme aus Die Pyramide des Risikos.

Reflexionsfrage zum Schluss

Stell dir vor, du stündest tatsächlich vor den beiden Kisten und wüsstest, dass das Orakel dich noch nie falsch eingeschätzt hat. Würdest du beide Kisten nehmen – im festen Bewusstsein, dass der Inhalt bereits feststeht und du nichts mehr verlieren kannst? Oder nur eine – im Wissen, dass fast alle, die so entscheiden wie du, als Millionäre nach Hause gehen? Und, vielleicht die unbequemere Frage: Verrät deine Antwort mehr darüber, was rational ist – oder darüber, welche Art von Mensch du im Innersten schon bist, lange bevor du vor den Kisten stehst?

Quellen

• Stanford Encyclopedia of Philosophy: Causal Decision Theory – https://plato.stanford.edu/entries/decision-causal/
• Wikipedia: Newcomb's paradox – https://en.wikipedia.org/wiki/Newcomb%27s_problem
• Robert Nozick über Newcombs Problem (Slate, 2002) – https://slate.com/culture/2002/02/robert-nozick-and-newcomb-s-problem.html
• Yudkowsky & Soares: Functional Decision Theory: A New Theory of Instrumental Rationality (arXiv, 2017) – https://arxiv.org/abs/1710.05060
• Machine Intelligence Research Institute: New paper: „Functional Decision Theory" – https://intelligence.org/2017/10/22/fdt/
• Wolfgang Schwarz: On Functional Decision Theory – https://www.umsu.de/blog/2018/688

← All articles