Book III: The Machine in the Ghost LMN 131-180

13space commented 7 years ago

占楼

13space commented 7 years ago

Irene6161 commented 7 years ago

An Alien God 外星的神：达尔文没有发现神，而是发现了“进化论”，这个和神学很接近，但是本质完全不同。进化论是残酷而真实的，自然选择是残酷的，它让不同物种之间相互竞争，然后再根据竞争的情况选择适者生存。

例子：

在达尔文之前，这种“目的性”对于人们来说是一个巨大的难题，于是有人说这是“上帝”的功劳。虽然看起来也许不公平，但是在达尔文之前，这确实是一个合理的假说。在沙漠中找到一本手表，你可以推断出制表师的存在，威廉·佩利（William Paley）如是说。不过当我们观察自然会发现，很多现象与基督徒们宣扬的理念并不相同，他们都说上帝是仁慈的，但是那卫生兔子生来就是被狐狸吃呢？与其说这个世界是上帝创造的，倒不如说这个世界由一群不同的神创造的，他们之间相互有竞争有合作。然而，现在我们都知道这是为什么——进化论。

Irene6161 commented 7 years ago

The wonder of Evolution 解释：进化的奇迹—— 进化是如何出现在宇宙中的，如果一个智能先进的组织设计出了大自然，那么又是谁设计出了这个高智能的组织呢？没有设计师的第一个设计在哪里呢？困惑是第一阶段的设计和引导多智能高效，而是它是如何发生的？（即源头的源头是什么？源头是如何发生的？）进化论解决了这个问题，并且不是用快速高效的方法，而是看起来愚蠢又低效的方式，所以这才被成为奇迹。

例子：进化是如何工作的？首先这里有基因A，很简单但是很有用的基因，于是它开始在基因池中增长，随后又出现了基因B，只有在有基因A的时候才能发挥作用，但是由于A已经在基因池中不断增长了，这就为基因B的增长提供了支持。然后由于基因B的出现，基因A出现了变异的基因A，但是这个没有改变基因B对基因A和A的依赖。于是由于基因A、基因B和基因B，又出现了基因C。如此这样你很快就能拿到“不可约束的复杂”机制的作品了。

Irene6161 commented 7 years ago

Evolutions Are Stupid (But Work Anyway)

解释：愚蠢而有效的进化进化是有局限性的，但是我们这里讨论的不是说进化的工作多优秀，而是它是有用的。进化是非常缓慢并且不断重复的工作，但是就是这种“笨方法”却是有用的——不断优化人类的基因。

例子：进化是缓慢的。多慢?假设有一个有益的突变，它能传递3%的适应性优势:平均来说，这个基因的携带者的孩子是非携带者的1.03倍。假设这种变异传播开来，那么在整个种群中传播需要多长时间呢?这取决于人口的规模。一个基因在10万人口中传播3%的健康优势，需要平均768人才能在基因库中普及。50万人口将需要875代人。

Irene6161 commented 7 years ago

No Evolutions for Corporations or Nanodevices

解释：公司或奈米设备不会进化自然选择的统治将会持续到无限期的未来。但是公司企业和纳米设备（技术）不会进化。

例子：

企业肯定是被选中的，因为那些不称职的公司破产了。公司的关键人员例如CEO不能通过裂变来传播自己。

先进的分子纳米技术——人工分类，而不是生物学——应该能够通过数千代人的数字保真度来复制自己。如果生产的所有纳米设备都是精确的分子拷贝，而且，装配线上的任何错误都是不可遗传的，因为后代得到了原始加密指令的数字拷贝，用于制造孙辈，那么你的纳米设备就不会再进化了。

所以，如果你有以下所有的属性: 实体复制它们的特征有很大的变化它们的繁殖有很大的变化特征与生殖之间的持久相关性高保真度远程遗传特性大量繁殖种群的频繁出现这些都是通过多次迭代实现的然后你就会有显著的累积选择压力，足以通过进化的力量产生复杂的适应性。（否则不一定进化？）

Irene6161 commented 7 years ago

135.Evolving to Extinction

进化到灭绝自然选择的真正斗争不是生物资源的竞争;这是一种短暂的现象，所有的参与者将在另一代人中消失。真正的斗争是基因池中等位基因的竞争。这是产生持久信息的持久结果。

这是一个非常普遍的误解，认为进化是为了物种的利益而工作的。进化并不针对特定的个体，个体保留了他们与生俱来的基因。随着时间的推移，进化的作用是不断繁殖的种群，一个物种进化到灭绝的可能性是相当大的。

例子：

为什么男孩和女孩出生的数量大致相等?(抛开那些使用人工性别选择技术的疯狂国家。)要知道为什么这是令人惊讶的，考虑到1个雄性可以使2个、10个或100个雌性受孕，看起来你不需要和雌性数量相同的雄性来确保这个物种的生存。在绝大多数的动物物种中，雄性对养育孩子的贡献微乎其微，这一点甚至更令人吃惊。人类的父系，甚至在灵长类动物中也是如此。平衡的性别比例甚至存在于雄性在雌性中受孕并消失在雾中的物种中。

但要考虑的是:男性越少，他们的价值就越高，而不是群体，而是个体的父母。每个孩子都有一男一女。然后在每一代中，所有男性的基因贡献都等于所有女性的基因贡献。男性越少，个体的个体遗传贡献就越大。如果所有你周围的女性都做的好,有利于物种,和生育1每10个女性,男性可以生育男性的遗传杀死,每个人都有(平均)十倍的孙子女。

因此，尽管群体选择应该有利于更多的女孩，但个体选择对男性和女性后代的平等投资是有利的。看看产科病房的统计数据，你一眼就能看出，群体选择力和个体选择力之间的定量平衡是压倒性地偏向于智人的个体选择。

Irene6161 commented 7 years ago

136.The Tragedy of Group Selectionism

解释：族群选择观的悲剧——人们会把从自身得来的演化观，推演到其他生物上。

例子：比如，认为食肉族群会为了长久利益，避免滥杀动物；食草动物为了保持种群最大化生存，而抑制自身繁殖。但你怎么保证那一系列基因已经预见并保证了这种机制呢？而实际情况是，狐狸会咬死所有的兔子，兔子会在没有限制下不断繁殖。自然不是像人类那样是有目的的，人们通常给自然套上玩具一般的生态学解释。

Irene6161 commented 7 years ago

137.Fake Optimization Criteria

非有效解释——通过对目标暗示的相关行动者来解释目标本身。例子：比如，为了解释镁在燃烧时候变重认为燃素的存在。（这相当于是一个目的论解释，属于没有任何指导意义的解释，因此不是有效的解释）

Irene6161 commented 7 years ago

Adaptation-Executers, not Fitness-Maximizers

适应性进化而非目的性锻炼——指人在进化的过程中不断适应环境逐渐成为智人而不是为了成了智人锻炼某项功能从而变成今天的人。

例如：烤面包机是为了做面包而发明的，但是味蕾不是为了品尝甜食和美味而进化的，味蕾一直都在，只是功能发生了变化，进化不是带着目的性进化，而是在进化的过程中不断适应。

Irene6161 commented 7 years ago

139.Evolutionary Psychology 进化心理学——所有的器官都是“生殖器官”，所有的器官、不论复杂的大脑还是情绪，存在的目的都是为了生存繁衍。例子：一对男女在酒吧相遇，男人很喜欢女人的身材，他们互相被彼此的外貌吸引，一同去“不可描述”，这最终的目的都是为了繁衍。

Irene6161 commented 7 years ago

140.An Especially Elegant Evpsych Experiment

人类的悲伤:它的强度与死者的生育价值有关吗？例如：在1989年的一项加拿大研究中，成年人被要求想象不同年龄的孩子的死亡，并估计哪些死亡会造成父母最大的损失。研究结果显示，在青春期前，悲伤一直持续到青春期，然后开始下降。当这条曲线与一条曲线显示生命周期中生殖潜力的变化时，这种相关性相当强。但是，更强的这些现代加拿大人的悲伤曲线和狩猎-采集的人的生殖潜力曲线之间的联系。换句话说，改变悲伤的模式几乎和达尔文的预测一样，考虑到祖先环境中的人口现实。第一个相关性是64第二个是非常高的92。”

父母的悲伤与孩子的年龄之间存在着一种原始的联系。父母悲伤是因为孩子是他们基因的携带者。作者认为，造成父母悲伤的原因，除了抚养孩子后又失去孩子的沉没成本，更是由于在进化的范围内，与孩子的生育能力正相关。

Irene6161 commented 7 years ago

141.Superstimuli and the Collapse of Western Civilization 超常刺激与西方文明的崩塌

超常刺激或超刺激是一种夸张的刺激形式，其中存在一种现有的反应趋势，或任何刺激，比其演化的刺激更强烈地引发反应。但是过度超强的刺激会导致健康的损失等一系列负面影响，甚至会引发西方文明的崩塌（例如毒品带来的危害，但是文中没有用毒品的例子，文章的评论中有读者提到）。

例如：一个棒棒糖是超刺激的：它含有比祖先环境中存在的任何物质更浓的糖，盐和脂肪。一个糖果棒匹配在猎人收集环境中演变的味蕾，但它比那些在猎人采集环境中实际存在的东西更加强烈地匹配那些味蕾。曾经可靠地与健康食物相关的信号已经被劫持，在一些不在训练数据集中的口味空间中吸取了一点，这在古老的祖传图上是一个不可逾越的异常值。以前代表进化上确定的健康相关性的味觉已被逆向工程化，并与人造物质完全匹配。不幸的是，没有同样强大的市场动机，使得所产生的食物是健康的，因为它是美味的。毕竟，我们不能品尝健康。

Irene6161 commented 7 years ago

142.Thou Art Godshatter

Irene6161 commented 7 years ago

143.Belief in Intelligence

智力信仰

我的信念的经验内容是可测试的，可证伪的预言，情况无法预测，因此行动无法预测。不知道的动作，但是我们可以名正言顺地知道后果。

例如： Kasparov（象棋世界冠军）和非该领域的人下棋，我无法预测他们每一步的下棋步骤，但是可以判断最终获胜的人是Kasparov，这就是不知道其中的优化流程而不影响我对最终结果的判断。在一个陌生的城市，我朋友开车载我去机场，我完全不熟悉周边的情况，补发判断这段路他是怎么开的，但是我知道我们最终的目的地是机场；

Irene6161 commented 7 years ago

Humans in Funny Suits

穿着搞笑服装的人类

人类对与外星人的想象，是外型上像穿了奇怪衣服的搞笑的人类，而不是鹦鹉或者青蛙等其他动物，甚至他们还会说英语。无法想象外星人是无法看到自己 -无法了解自己的特殊性。谁可以看到伪装针对人类背景的人？

例如：我们的很多电影中的外星人的形象就和人的形象十分接近，甚至还具备人类独有的情绪和表情。

Irene6161 commented 7 years ago

145.Optimization and the Singularity

优化与奇点

优化过程的概念。粗略地说，这就是你的思维能力是你在大搜索空间中打击小目标的能力——这可能是未来可能的空间(计划)或可能设计的空间(发明)。比如：假设你有一辆车，假设我们已经知道你的偏好涉及到旅行。现在假设你把车里的所有零件，或者所有的原子，随机地混合起来。你根本不可能最终得到一个旅行产品，甚至像一个轮式手推车一样，更不用说旅行产品了，它在你的偏好上和原来的汽车一样高。因此，相对于您的偏好排序，汽车是一种极其不可能的工件;优化过程的力量在于它可以产生这种不可能的性能。

奇点：技术发展将会在很短的时间内发生极大而接近于无限的进步。当此转捩点来临的时候，旧的社会模式将一去不复返，新的规则开始主宰这个世界。而后人类时代的智能和技术我们根本无法理解，就像金鱼无法理解人类的文明一样。一般设想技术奇异点将由超越现今人类并且可以自我进化的机器智能、或者其它形式的超级智能的出现所引发。由于其智能远超今天的人类，因此技术的发展会完全超乎全人类的理解能力，甚至无法预警其发生。（来源维基百科）

自然选择是一个偶然的优化过程，比如猫的进化用了几百万年和几十亿年进化。而人工智能是可以选择的。

例如：如果人工智能足够强大，能够以一种提高其进一步改进能力的方式重写自身，这将一直延伸到人工智能对其自身源代码的完全理解，以及作为优化器设计的自己的设计。然后，即使“优化能力”和“优化产品”的图表看起来基本相同，随着时间的推移，优化的图形将与地球历史上的历史完全不同。

Irene6161 commented 7 years ago

Ghosts in the Machine

机器幽灵 AI不是一个机器幽灵一样的存在，而是你从头开始构建的程序，所有的指令都来源与你最初的建立。

例如：一个友好的人工智能并不是一个自私的人工智能，它被一个特殊的额外的良心模块所约束，它覆盖了人工智能的自然冲动，并告诉它该怎么做。你只要建立良知，那就是人工智能。如果您有一个程序来计算人工智能应该做的决定，那么您就完成了。人工智能比人们本能地想象的要困难得多，这完全是因为你不能直接告诉幽灵该做什么。你必须从头开始建造幽灵，而你所看到的一切似乎都是显而易见的，除非你知道如何让幽灵看到它，否则幽灵就不会出现。你不能直接告诉幽灵去看它。你必须从头开始创造一看。

Irene6161 commented 7 years ago

147. Artificial Addition

13space / The-Road-to-LessWrong

Book III: The Machine in the Ghost LMN 131-180 #2

L. The Simple Math of Evolution

M. Fragile Purposes

N. A Human's Guide to Words