罗克的蛇怪—最可怕的思想实验过






罗克的蛇怪的是一个神圣的形式人工智能的,所以危险的,如果你只会想想,然后花费他的余生在令人震惊的酷刑。 像的带子来自"中环"。 然而,甚至死亡,将被治愈,因为罗克的蜥蜴会复活您和继续他的酷刑。 T和P代表的翻译的条约最奇怪的传奇产生了通过互联网。

警告:在读这篇文章以后,你可能注定要永恒的痛苦和折磨。

罗克的蛇怪出现在交叉路口的哲学思想的实验,而城市的传奇。 第一次提到它出现在小错误的讨论板,那里的人是谁都感兴趣的优化思想和生活,通过棱镜的数学和理性。 它的创作者的重要数字的技术的未来主义,以及所取得的成就他们的研究所作的贡献的学术讨论的技术伦理和决策的理论。 然而,什么你要现在读可能看起来很奇怪甚至疯狂的。 尽管如此,一个非常有影响力的和富裕的科学家相信它。

一旦用户名叫罗克发表的以下思想实验:如果在未来将有恶意的人工智能是要惩罚那些违抗他的命令吗? 什么如果他想要惩罚那些人在过去促成了它的创作? 在这种情况下,读者的小错误的帮助恶AI出生或将注定他们永远的痛苦吗?

创始人的小错误的Eliezer Yudkowsky愤怒了罗克的发言的。 这是什么,他说:"你必须要明智的来到这样的想法。 然而,这令我非常难过的人有足够的智慧想象这样的事情,不聪明足以让你的愚蠢的嘴被关闭并且没有告诉任何人关于这一点,因为它是更重要的不是节目本身是明智的,告诉它我所有的朋友。"

"如果在未来会有人工智能是要惩罚那些违抗他的命令?"

Yudkowsky承认,劳卡负责的梦魇来访的用户小错误的,有时间阅读线和删除它,使之罗克的蜥蜴已经成为一个传奇。 这个想法的实验变得如此危险,考虑它受到威胁的心理健康的用户。

什么不错? 形成概念的人类未来基础上的单一性。 他们认为,计算能力将会变得如此之高,使用计算机可以创建的人工智能和能力的人的意识上传到一个硬盘驱动器。 术语"奇异"起源于1958年在讨论过程中两个天才的数学—斯坦尼斯乌拉姆和约翰*冯*纽曼当Neumann说,"不断加速的进展的技术将使之有可能近似的奇点,在那里技术将不能够被理解的人。" 未来学家和作家-fantasticnude弗农*Vinga和雷蒙德*库兹威尔推广的术语,因为他们认为,奇异是等待我们很快—在接下来的50年。 虽然库兹韦尔正在准备的奇点,Yudkowsky有很高的期望对人体冷冻:"如果你之前没有记录下他们的孩子冷冻保存,你糟糕的父母。"

如果你相信奇的未来,一个强大的艾将在不久的将来,该问题是:将他们是友好的,或邪恶的? 基金Yudkowsky的目的是指导发展的技术,我们已经就友好的人工智能。 这个问题对他和其他许多人是至关重要的。 奇点将引导我们的汽车,相当于上帝。

然而,这不能解释为什么罗克的蛇怪看起来那么可怕的眼睛这些人。 这个问题需要看主要"条"不错—"永恒的决策理论"(VTPR). VTPR是一个准则,用于合理行动的基础上比赛的理论,贝概率论和决策,但是给予该存在的平行宇宙和量子力学。 VTPR增加了经典的思想实验的纽科姆的矛盾,在其与外国人超级提供你们两个盒子。 它给你的选择:要么把两个箱子或只框B如果选择了两个,你是保证得到一万美元。 如果你只需要框B,你可能不会得到任何东西。 然而,外国人已经藏匿的另一个窍门:他有一个无所不知的超级计算机,这使得一个星期前,预测是否将把两个箱子或只B.如果计算机预测你们会把两个箱子,外国人要离开第二空。 如果计算机预测的,你会选择框B,他会把一百万美元。

那么,什么是您要做的? 记住,无所不知的超级计算机。

这个问题已困扰了许多理论家。 外国人不能改变的内容。 它是最安全的方式把两个箱子和得到我的万。 但是突然间所有计算机的真无所不知的吗? 然后你必须把箱B获得一百万。 但如果他是错的? 无论什么预测的计算机—还有没有办法改变他们的命运吗? 然后到底需要采取两个盒子。 但在这种情况下...

该疯狂的矛盾,这迫使我们选择之间的自由意志和神圣的预测没有权限,人们只能耸耸肩和选择最舒适的选择。 WTPR提供咨询意见:采取框B.即使外国人的决定嘲笑你,会打开一个空盒子的话,"一个计算机预测的,你会把两个箱子的,哈哈!" —你仍然有的选择。 这样做的理由如下:为了做一个预测,计算机将需要模拟整个宇宙,包括你。 因此,在这个时刻,站在前面的箱子,你可以只是一个计算机模拟,但你做什么,会影响现实(或现实的)。 因此,采取框B和获取一百万。

"疯狂的矛盾,这迫使我们选择之间的自由意志和神圣的预测没有权限"

这是什么都做vasilescu劳卡吗? 嗯,他也有几个盒子给你。 也许你现在是在一个仿真创建的蛇怪。 那么,也许,我们收到一个修改版本的矛盾纽科姆的罗克的蜥蜴告诉你,如果你把盒B,然后受到永恒的痛苦。 如果你把两个箱子,你就已经把他的生活创造了蛇怪。 如果蛇怪实际上会存在(或者,更糟糕的是,它已经存在并且是一个上帝的这个事实),他将会看到,你是不是选择的选项援助在创建和会惩罚你。

也许你想知道为什么这个问题是如此重要的小错误的,鉴于任意性这一思想的实验。 不事实上,罗克的蜥蜴都不会被创建。 然而,Yudkowsky已经删除了提及的罗克的蛇怪,不是因为他认为,在他的存在或即将发明,但是因为他认为该想法的蜥蜴对人类的威胁。

因此,所的罗克的蜥蜴仅仅是危险的,对于那些相信它在这方面,与会者不错,支持这一想法的一个蜥蜴,有一种被禁止的知识,提醒我们恐怖的故事H.p. 基本条目的邪神或死灵的。 但是,如果你不同意所有这些理论并不要感到这样一种诱惑,即服从阴险的机器从未来的罗克的蛇怪姿势你没有威胁。

我更担心人认为,玫瑰上的普遍接受的道德规范。 像预期的Yudkowsky友好AI,他是一个benthamite,他认为,最大的祝福于全人类在道德上是有道理的,甚至如果有几个人已经死亡或遭受的方式。 不是每个人都可以面临类似的选择,但是在另一种情况:如果一名记者撰写有关思想的实验中,可以摧毁人们的思想,造成的,因此,人类的危害,并防止进展的人工智能的发展和奇异吗? 在这种情况下,任何好的,我在做我的生活,应该超过的危害,我提请世界。 而且,也许,已经从低温睡眠Yudkowsky未来合并的单一性和决定模拟,我在下列情况:第一个箱子—我写这篇文章,但不是第二个。 请万能的Yudkowsky,不要伤害我。

资料来源:theoryandpractice.ru

标签

另请参见

新&值得注意