ADD / XOR / ROL：应对信息混乱的自我指南
过去十年来，社交媒体对“真相”和“讨论”的腐蚀性影响已变得 painfully evident。原因多种多样——许多尚未明确——但一些因素包括：
- 对于任何观点，无论多么离奇，都能轻易找到持有相似信念的社区。
- 几乎所有信息的可发现性，加上注意力 span 的缩短，使得持有奇怪信念的人能够搜索信息——即使只瞥了15秒——也可能被解读为证实他们的奇怪信念。
- 最大化参与度的算法也最大化愤怒——如果算法向我展示内容，吸引我陷入无益的时间消耗讨论，它们就“赢了”（根据评估它们的指标）。
- 社交媒体平台偏爱“即时反馈”而非花时间深思熟虑。社交媒体讨论 often devolve into 辱骂或 rapid-fire 引用可疑研究， without any qualitative understanding——人们引用他们从未批判性评估的论文和来源。
除此之外，制造虚假但能产生参与度的内容已成为一个 veritable industry。注意力可以 monetized，因此通过编造对某些人群看似可信的谎言可以赚取可观收入。主流报道的质量也陷入了这种 downward spiral。
结果是“假新闻”和“现实共识的死亡”；奇怪的阴谋论；以及 generally 许多许多小时的浪费。这个问题跨越阶级和教育层次；说“只有未受教育者”才会 fall prey to 互联网虚假信息 simply not true。
personally，我害怕相信不真实的事物。我不太确定为什么；但为了缓解误导自己的恐惧，我养成了一些习惯来检验自己的信念。
总的来说，我发现它们非常有用。
在这篇博客文章中，我打算分享我对人们如何误导自己的思考，以及我决定应用于自己信念的检验方法。我并不总是成功，但这是我试图衡量自己的标准。我希望这对他人有帮助；或许它可以帮助 somewhere 拒绝错误信念。
所以让我们从一个 underlying assumption 开始：
人们倾向于相信对他们有益的事物。
年轻时，我相信人们会尝试理解情况，然后基于此形成信念。但这不是我在生活中观察到的。我的观察是，人们选择信念和信念体系来为他们 fulfill a function。
我父亲出生于30年代的德国，作为 pre-teen 和 early teen，他亲眼目睹所有成年人在他面前 perform an ideological 180-degree turn。“人们如何调整信念”的问题在我与他的讨论中 always been important。
我的结论是，人们非常擅长识别他们想要什么，什么对他们有益。他们也喜欢对自己和所做的事情感觉良好。 given these constraints，人们倾向于选择信念和信念体系，这些信念…
- …允许他们做他们想做的事。
- …允许他们 reap benefits。
- …同时允许他们对自己感觉良好。
我在 disclosure Rashomon 帖子中暗示了这一点，说“每个人都想成为自己故事中的英雄”。
意识到信念体系对相信者具有功能性角色至关重要。这就是为什么“说服”任何人他们的信念体系不正确如此困难：你要求这个人放弃的不仅仅是一个错误信念—— often，你要求这个人调整他们对自己的看法，使其不如他们喜欢相信的那么 benign，或者你要求这个人以会 cast doubt on 他们获得其他利益的能力的方式调整观点。
当我上面写“人们”时，这包括你和我。
因此，在调查自己的信念时，意识到信念的功能性角色很重要（更多 later）。试图相信让我们感觉良好的事物是最基本的认知偏见。
那么我试图做什么来 counter that bias？以下是我的7个习惯列表：
- 澄清你的信念
- 询问你的信念的好处
- 寻找原始来源
- 检查你的信念和竞争假设的证据
- 什么新信息会改变你的信念？
- 提供投注赔率
- 为 enlightenment 讨论，而不是“赢”
习惯1：澄清信念
可能听起来奇怪，但需要 conscious effort 将日常 diffuse “信念”转化为实际清晰阐述的陈述。对我来说，没有什么比写下它们更能澄清思想—— often 在我脑海中显得清晰和有说服力的事物，当我试图把它们写在纸上时，结果却相当混乱和无结构。
问自己“我对某个主题的信念是什么”，并试图连贯地写下来， surprisingly powerful。它迫使 deliberate effort 确定一个人实际相信什么，并在书面中 commit to that belief（至少对自己）。
习惯2：询问你的信念的好处——“我是坏人吗？”
在检查自己的信念时，意识到信念的功能性角色很重要。Feynman famously said about science that “the first principle is that you must not fool yourself and you are the easiest person to fool”。
在检查自己的信念时，我试图问自己：这个信念赋予我什么好处？这个信念允许我做什么？这个信念如何让我对自己感觉良好？
actively 尝试检查 alternate narratives，其中一个人把自己描绘成坏人， often helpful。试图维持我们对自己的积极形象是一个强烈的偏见；有意识地努力检查 alternate、unflattering narratives 可能有所帮助。
我和我妻子 sometimes jokingly play “mock custody battle”——一个游戏，我们开玩笑地试图把对方描绘成某种可怕的人，并重新解释对方的整个传记作为恶棍——这相当 enlightening。
习惯3：寻找原始来源，不信任二手报道
对于总统辩论和科学论文等事物，二手报道 often quite incorrect。在政治辩论中，辩论如何进行和发生了什么 often much less relevant——只有一小部分人口会目睹事件。真正重要的是围绕所发生事件的 narrative。
你可以在美国选举季节观察到这一点，辩论一结束，各方都会试图用他们的“narrative”淹没所有脱口秀和新闻广播（这些 narrative often been pre-determined prior to the debate happening——“He is a flip-flopper. He flipflops.”或类似的话）。
同样，科学论文在流行报道中 often grossly misrepresented，但也由只 superficially 阅读论文的人 misrepresented。报道 often grossly inaccurate，如果你是一个主题的专家，你会注意到在你的专业领域，报道 often wrong；同时，我们 somehow forget about this 并假设在我们不是专家的主题上更准确（著名的“Gell-Mann amnesia”）。
我的一个朋友（ himself a scientist）最近转发给我一份估计 COVID-19 IFR 的论文列表；其中一份报告 IFR 为0%。 closer examination of the contents of the paper revealed that they examined blood from blood donors for antibodies；没有人死于 COVID-19 后两周去献血，所以 clearly 在他们的队列中没有 fatalities。
尽管如此，该论文被引用为“evidence that the IFR is lower than people think”。
另一个朋友发送给我一份“科学论文”，声称显示证据破伤风疫苗被掺入一种药物导致不孕。检查论文，它不过是 assembling a bunch of hearsay；没有实验设置，没有控制，没有替代假设等。检查作者的主页 revealed they were all strange cranks, peddling various strange beliefs。它被“发表”在一个“we accept everything”期刊中。
养成阅读原始来源的习惯 fascinating——有满书架的书被广泛引用， mostly by people who have never read them（孙武、克劳塞维茨和圣经可能是最常见的）。它也有用：养成阅读原始论文的习惯有助于 cut out the middle-man 并开始直接判断结果；它也是学习一些统计的好 motivator。
习惯4：检查你的信念的证据，分析竞争假设
一旦自己的信念在书面中澄清，并且查看了原始来源，就可以 gather evidence for one’s belief。
在这样做时，一个人也应该 deliberate effort gather and entertain competing hypotheses：对于讨论的现象，存在哪些其他解释？其他人提出了哪些假设？
given one’s own beliefs, and alternate hypotheses，一个人可以仔细查看支持每个假设的证据。
两个原则帮助我在这个阶段 discount less-credible hypotheses（包括我自己的）：
- Occam’s Razor： often，更简单的解释是更可能的解释
- Structural malice：恶意个体相当罕见，但如果存在一种激励结构，其中个体可以从恶意中受益 while explaining it away， tendency is for that to happen。
无能比有能力的恶意更常见。彼得原理和帕金森定律适用于人类组织。
after this step，我最终形成意见——查看各种竞争假设，我重新检查哪个我认为最可信。 often，但不总是，它是我最初声明的信念，但 with reasonable frequency 我不得不 after this step adjust my beliefs。
习惯5：什么新信息会改变我的意见？
John Maynard Keynes is often quoted with “When the facts change, I change my mind; what do you do, Sir?”。值得提前检查改变信念需要什么。
given my belief on a subject right now，什么新信息需要披露给我才能改变我的想法？
这非常有助于区分“ quasi-religious”信念和可改变的信念。
习惯6：提供投注赔率
这可能最奇怪，但最终是我更有用的点之一。过去几年，我读了一些关于概率哲学的书；特别是 De Finetti 的“Philosophical Lectures on Probability”。
当我们谈论“概率”时，我们实际上意味着两件不同的事情：如果我们可以多次重复实验，给定结果的分数（抛硬币等），以及在实验无法重复的情况下，给定事物为真或将要发生的信念强度。
这些是非常不同的事物——前者有客观真理，后者 fundamentally subjective。
同时，如果我对现实的主观观点准确，我将为不同事件分配良好的概率值（在第二种意义上）。（“良好”这里意味着如果应用适当的评分规则，我会做得好）。
信念 carry little cost, and little accountability。投注提供错误的成本，和关于错误的问责。
这意味着如果我真正相信我的信念正确，我应该愿意投注；通过我提供的投注赔率，我可以量化我的信念强度。
对我来说，进行强迫自己提供投注赔率的练习 extremely enlightening：它迫使我回答“我实际上有多强烈相信这个？”的问题。
在一个具体例子中：大多数当前可用的 COVID-19 数据暗示 IFR 在0.49%和1%之间（来源）p-value < 0.001。我的个人信念是 IFR almost certainly >= 0.5%。我愿意为声明“到2022年底，当 COVID-19 的尘埃落定，COVID-19 的经验 IFR 将大于0.5%”提供3:1的投注赔率（意味着如果你投注反对我，你获得3倍 payout）。
这表达了对声明的强烈信念（ much better than even odds），但对论文中的估计有一些不确定性（p-value 会证明更激进的投注赔率）。
（注意这些投注赔率仅在接下来4天内有效，因为我的意见可能改变）。
总结：提供投注赔率是强迫自己面对自己信念强度的好方法。如果我相信某事，但不愿意投注，为什么会这样？如果我相信某事，但不愿意提供有利于该信念的强赔率，为什么会这样？如果我不愿意投注，我真的相信这些事吗？
习惯7：为 enlightenment 讨论，而不是“赢”
年轻时，我父亲教我讨论的目的从来不是赢，甚至不是说服。讨论的目的是理解——讨论的主题，或另一方的立场，或两者的组合。这在现代社交媒体“辩论”中 often gets lost。
社交媒体鼓励参与讨论和 argue a side without ever carefully thinking about one’s view on a topic。媒体的 memoryless and repetitive nature 允许一个人花费无数小时 re-hashing the same arguments over and over， without making any advance，并忽略任何可能已书面提出的深思熟虑的论点。
在“Rashomon of Disclosure”帖子几周后，一场关于披露的 Twitter 讨论爆发；我 upset a few participants by more or less saying：“你知道，我花时间写下了我对这个主题的想法和论点，我非常愿意与任何愿意花时间写下他们想法和论点的人交流，但我不愿意参与 Twitter yelling matches，在那里我们忽略所有细微差别，只是 whip up tribal sentiment。”
这并非 universally well-received，但拒绝参与社交媒体 yelling matches 和 immediacy of the experience 产生的多巴胺冲动，是如果我们想理解主题或辩论中其他参与者的重要一步。
总结
这是一个非常冗长的帖子。感谢您读到这里。我希望这篇帖子会有帮助——或许一些习惯对他人有用。如果没有，这篇博客文章至少可以解释为什么我有时会退出社交媒体讨论，并坚持使用长文写作作为交流手段。它也应该有助于减少困惑，如果我在令人惊讶的情况下提供投注赔率。