Ich bin in ein Lesswrong-Rabbit-Hole gefallen, nachdem ich Paul Christianos "Was Misserfolg aussieht" erneut gelesen habe (es kam bei der Kurve auf und ich kämpfe damit, "Kontrollverlust"-Szenarien zu verstehen) und Mann, all die Entscheidungstheorie-Sachen laufen sofort auf das Halteproblem hinaus.
Die Bestimmung, ob ein gegebenes Programm für bestimmte Eingaben ein bestimmtes Symbol ausgibt, ist semi-entscheidbar und daher äquivalent zum Halteproblem. Jede auf dem "Lesen des Quellcodes des anderen Agenten" basierende Entscheidungstheorie zerfällt aufgrund dieser Tatsache.
Tatsächlich zerfällt jede *reflektierende* Entscheidungstheorie aufgrund dieser Tatsache. TDT usw. funktionieren nur in Situationen, in denen Agenten nicht turing-vollständig sind. Nicht sehr nützlich.
Die logischen Unsicherheitsdinge halten sich jedoch ziemlich gut.
@azsantosk tatsächlich, hier ist eine wilde und unbegründete Meinung; die Hinzufügung von Wahrscheinlichkeit bringt uns von einem diskreten zu einem kontinuierlichen Setting und das beseitigt die Undecidability
das wäre ein so schöner Satz.
@azsantosk also sind wir entweder über oder unter Turing
@azsantosk entweder hat Omega Hyperberechnung (ist ein Zauberer) oder unsere Agenten sind nicht sehr interessant
@azsantosk sicherlich bin ich dann nicht in der Lage zur Selbstmodifikation und vielen anderen Dingen, die von den verschiedenen Entscheidungstheorien auf lesswrong.com vorausgesetzt werden.
8.237
22
Der Inhalt dieser Seite wird von Drittparteien bereitgestellt. Sofern nicht anders angegeben, ist OKX nicht der Autor der zitierten Artikel und erhebt keinen Anspruch auf das Urheberrecht an den Materialien. Die Inhalte dienen ausschließlich zu Informationszwecken und spiegeln nicht die Ansichten von OKX wider. Sie stellen keine Form der Empfehlung dar und sind weder als Anlageberatung noch als Aufforderung zum Kauf oder Verkauf digitaler Assets zu verstehen. Soweit generative KI zur Bereitstellung von Zusammenfassungen oder anderen Informationen eingesetzt wird, kann der dadurch erzeugte Inhalt ungenau oder widersprüchlich sein. Mehr Infos findest du im verlinkten Artikel. OKX haftet nicht für Inhalte, die auf Drittpartei-Websites gehostet werden. Digitale Assets, einschließlich Stablecoins und NFT, bergen ein hohes Risiko und können stark schwanken. Du solltest sorgfältig überlegen, ob der Handel mit oder das Halten von digitalen Assets angesichts deiner finanziellen Situation für dich geeignet ist.