20世纪60年代末，美国宇航局需要作出一个决定，这可能决定人类的命运。阿波罗11号登月后，三名宇航员漂浮在太平洋上的太空舱里等待被接走，他们很热，很不舒服。美国国家航空航天局的官员决定为这三位国家英雄做些好事。但缺点呢？有些许可能在地球上释放致命外星微生物。几十年前，一群科学家和军方官员也面临类似的转折点。他们等待观看第一次原子武器试验，这时意识到潜在的灾难性后果。这个实验有可能意外点燃大气层，摧毁地球上的所有生命。
在上个世纪的几个瞬间，很少很少的人掌握着世界的命运，他们有可能造成巨大灾难。尽管可能性很小，但却是真实存在的。这不仅意味着他们自己生命的终结，而是一切的终结。那么，是什么导致了这些决定？这些经历告诉我们，当面临今天的风险和危机时，应该采取什么态度呢？
当人类在20世纪中期首次制定向太空发射探测器和人类计划时，污染问题就出现了。首先，人们担心“前方”污染——地球上的生命可能会意外搭上便车进入宇宙。航天器在发射前需要消毒和仔细包装。如果有微生物潜入飞船，将会使探测外星生命的尝试陷入混乱。如果有外星生物存在，我们可能会无意间用地球上的细菌或病毒杀死它们，就像世界大战结束时外星人的命运一样。这些担忧在今天和太空竞赛时代一样重要。
第二个担忧是“后方”污染。该理论认为，宇航员、火箭或探测器返回地球后可能带回生命，这些生命可能带来灾难性后果，要么打败地球上的生物，要么消耗掉我们所有的氧气。反污染是美国宇航局在阿波罗登月计划期间需要认真考虑的问题。如果宇航员带回了危险的东西怎么办？这种可能在当时并不高，几乎没有人认为月球可能孕育生命。但这种情况仍然需要探索，因为后果十分严重。当时一位颇有影响力的科学家说：“也许有99%的人可以肯定，阿波罗11号不会带回月球生物，但就连这1%的不确定性也太大了，不能满足于此。”
美国宇航局采取了几项隔离措施——在某些情况下做得有点不情愿。美国公共卫生服务部门的相关官员主张采取比原计划更严格的措施，并指出，他们有权拒绝受污染的宇航员入境，从而向航天局施压。在国会听证会后，美国宇航局同意在船上安装昂贵的隔离设施，将这些人从太平洋上中接回来。双方还同意，月球探险者将被隔离三周，然后才能与家人拥抱，或与总统握手。
但杜克大学(Duke University)的法律学者乔纳森·维纳(Jonathan Wiener)表示，隔离程序存在重大漏洞。他在一篇关于对灾难性风险的误解的论文中提到了这一事件。当宇航员从太平洋上个溅落下来时，最初的协议规定他们待在宇宙飞船内。但是，当宇航员在闷热的太空中等待，受到海浪冲击时，他们的健康受到关注，美国宇航局重新考虑了这一问题。官员们决定打开门，用筏子和直升飞机把这些人救出来(见本文上方的图片)。他们穿着生物污染防护服进入船上的隔离设施，但在海上，胶囊一打开，里面的空气就被淹没了。幸运的是，阿波罗11号任务没有把致命的外星生命带回地球。但如果发生了这种情况，将船员的短期舒适放在首位的决定，可能会在短暂开窗时将外星生命释放到海里。
核毁灭
24年前，美国政府的科学家和官员们站在另一个转折点，涉及一个微小但潜在的灾难性风险。在1945年第一次原子弹试验之前，曼哈顿计划的科学家们进行了计算，指出一种令人寒心的可能性。在他们描绘的场景中，裂变爆炸产生的热量非常巨大，可能引发失控的核聚变。换句话说，该测试可能会意外地点燃大气层，烧毁海洋，摧毁地球上的大部分生命。随后的研究表明，这不太可能的。但就在测试当天，科学家们反复检查了他们的分析。“三位一体”测试的日子终于到了，官员们决定继续进行测试。
当闪电比预期时间更长、更亮时，至少一名观察小组成员认为最坏的情况已经发生了。其中一位是哈佛大学校长，他最初感到敬畏，但很快变成了恐惧。“(他)不仅对爆炸没有信心，而且即使爆炸成功，他还相信将产生灾难性后果”。他说，他正在目睹“世界的尽头”，他的孙女杰尼特·柯南特(Jennet Conant)在写了一本关于该项目的科学家后告诉《华盛顿邮报》。
对牛津大学的哲学家托比·奥德(Toby Ord)来说，那一刻是人类历史上的重要时刻。他确定“三位一体”试验的具体时间和日期——1945年7月16日05:29——是人类新时代的开始，标志着人类毁灭地球的能力逐步改变。奥德在他的《悬崖》(The Precipice)一书中写道：“突然之间，我们释放了如此多的能量，创造了地球历史上前所未有的温度。”他指出，尽管曼哈顿的科学家们十分严谨，但这些计算从未受到非关联党派同行的评议，也没有证据表明有民选代表被告知其中的风险，更不用说其他政府了。科学家和军事领导人索性自行采取了行动。奥德还强调，1954年，科学家们在另一次核试验中的计算结果出现了惊人错误：他们得到的不是预期600兆吨的爆炸，而是15兆吨。“在那年夏天进行的两项主要的热核计算中……他们得到了一对一错。由此得出的主观风险高达50%的结论是错误的。但这肯定不是能让人类未来冒险的可靠水平。”
脆弱的世界
从我们在21世纪的开明立场来看，很容易精准评判这些决定以及他们的时代。关于太阳系污染和生命的科学知识要先进得多，盟军和纳粹之间的战争也早已过去。现在没人会再冒这样的风险了，对吧？遗憾的是，无论是偶然还是其他原因，现在发生灾难的可能性比过去更大。
诚然，外星人带来的灭绝并不是世界面临的最大风险。不过，尽管可能会有“行星保护”政策和实验室来防止外星人污染，但这些规定和程序在如何适用于访问太阳系其他行星和卫星的私人企业方面仍是悬而未决的问题。(除了外星灾难带来的威胁外，向银河系广播人类存在可能会有与外星人相遇的潜在危险，尤其是当他们比人类还要先进。历史表明，糟糕的事往往发生在那些技术更娴熟的文化的人身上——看看土著居民遇到欧洲定居者的命运就知道了。)
更令人担忧的是核武器威胁。大气燃烧或许不可能，但类似于导致恐龙灭绝的带来气候变化的核冬天却情况不同了。在第二次世界大战中，核武库的数量和威力都不足以引发这场灾难，但现在已经足够了。奥德估计，20世纪人类灭绝的风险约为百分之一。但他认为现在风险更高了。他说，除了一直存在的自然风险外，人为死亡的可能性在过去几十年显着上升。除了核威胁，人工智能的前景已经出现，碳排放飙升，我们现在可以干预病毒的生物学，使它们更具致命性。
正如新冠肺炎大流行所显示的，全球互联互通、错误信息和政治不妥协也使我们更加脆弱。“根据我所知道，本世纪的风险约为六分之一，”他写道。他说：“如果我们不采取行动，如果人类继续让实力增长超过智慧增长，可以预期，下个世纪以及接下来的每一个世纪，这种风险会更高。”风险研究人员还有另一种方式描述这种迅速发展的风险，想象从一个巨大的瓮里捡球。每个球代表一项新技术、发现或发明。这些球绝大多数是白色或灰色。白球代表人类进步，比如肥皂的发现。灰球像社交媒体一样，代表好坏参半。但在瓮里还有黑球。黑球非常罕见，但只要挑出一个，人类就毁灭了。
这被称为“脆弱世界假说”，关于为未来非常罕见、非常危险的事件做准备。到目前为止，我们还没有找到一个黑球，但这很有可能是因为它们太罕见了——当我们把手伸进瓮里，已经碰到了一两个。简而言之，我们很幸运。有很多技术或发现可能是黑球。有些我们已经知道了，但还没有实施，比如核武器或生物工程病毒。还有一些是已知的未知数，比如机器学习或基因组技术。还有一些是未知的未知：我们甚至不知道它们是危险的，因为还没有被构思出来。
不平凡的悲剧
为什么我们不能严肃的对待这些灾难性风险呢？维纳有一些建议。他将人们对极端灾难性风险的误解描述为“非公有悲剧”(tragedy of the uncommons)。你可能听说过“公地悲剧”(tragedy of the commons)：它表示自私自利的个人对公共资源管理不善的方式。每个人都做对自己最有利的事，但最终每个人都在受苦。这是气候变化、森林砍伐或过度捕捞的根源。
维纳解释，非公有悲剧是不同的。与其说人们对共享资源管理不善，不如说人们误解了罕见的灾难性风险。他提出以下三个原因。第一个是罕见灾难的“不可获得性”。最近发生的重大事件比从未发生过的事件更容易让人忆起。大脑倾向于将过去的记忆拼贴在一起来构建未来。如果新闻报道了一种风险——比如恐怖主义——公众担忧就会增加，政客就会采取行动，科技就会发明出来，等等。然而，预见非公有悲剧的困难在于，我们不可能从经验中学习。它们不会出现在头条新闻上。但一旦发生，游戏就结束了。
第二个原因是，我们误解了罕见灾难，即大规模灾难的”麻木”效应。心理学家观察到，人们的担忧并不随着灾难的严重程度线性增长。或者更直白地说，如果你问大家，有多关心地球上所有人死亡，他们的关心程度不会比关心一个人死亡的程度高。他们也不考虑失去后代的生命。大量证据表明，人们对个人悲剧的关注会下降。在BBC Future最近一篇关于麻木心理的文章中，记者蒂芬妮·文(Tiffanie Wen)引用了特蕾莎修女的话：“如果我看着弥撒，就永远不会行动起来。如果我只看那个人，我就会采取行动。”
最后，维纳描述了一种“威慑不足”效应，即鼓励那些承担风险的人采取放任态度，因为没有责任可担。如果世界因你的决定而毁灭，那么你就不会因为疏忽而被起诉。法律和规则没有力量阻止终结物种的鲁莽行为。也许最令人不安的事情是，非公有悲剧可能偶然发生——无论是由于傲慢、愚蠢还是疏忽。
“在其他条件都相同的情况下，没有多少人愿意毁灭世界。即使是不知名的公司、爱管闲事的政府、鲁莽的科学家和其他末日代理人，也需要一个世界来实现他们的利润、秩序、任期或其他邪恶目标，”人工智能研究员埃利泽·尤多科夫斯基(Eliezer Yudkowsky)曾经写道。“如果我们的灭绝进程缓慢到足以让人们惊恐地意识到这一点，做事的人可能就会停一停……如果地球被毁灭了，很可能因错误而毁灭。”
我们应该感谢，阿波罗11号的官员和曼哈顿科学家不是那些被吓坏的人。但在未来的某一天，有人会到达另一个转折点，届时物种的命运将由他们来决定。或者，也许他们已经在这条路上，闭着眼睛奔向灾难。当时机到来时，希望他们能为了人类的利益做出正确的选择。(转载自BBC中文网)
