什么伦麝香错了关于人工智能 Bashny.Net

由于电影"大都会"在1927年引入了观众看到电影的第一邪恶的机器人(女性)时，公司拥有作了答复结合起来的想法的人工智能机器人和其他智能系统的混合物的惊喜，并纯粹的恐怖。 计算机科学家们的工作带来的这些担忧没有通过引入"道德"中的机器或友好的人工智能。

然而，主要的缺点的这些努力是，他们认识到，问题在于，在这个的技术—并不在我们的情绪反应。 适应复杂性，"第二机器时代"需要理解我们的恐惧，不屈服于它。 不幸的是，我们自己的倾向沉溺于膨胀的担心谣言可能破坏我们自己的自主权在一个世界，在很大程度上将取决于自治机。

特斯拉的首席执行官和着名创新伊隆*马斯已多次警告说，有关威胁的人工智能。 在六月份，在一次采访中CNBC，他说，投资于研究的人工智能仅仅因为"他想要密切关注发生了什么他"。 他认为大赦国际的最大威胁。 终结者，或更糟。

在八月，他写道，"我们需要超谨慎的人工智能。 其潜在的是更多的危险比核导弹。" 在最近的一次麻省理工学院专题讨论会，麝香被称为AI"生死存亡的威胁"的人的种族和"恶魔"愚蠢的科学家和技术人员是"鼓励"的。

麝香比喻的想法，我们将能够控制这种权力，具有"那个五角星和圣水"，其中我相信，这将遏制一个超自然的力量—直到它吞噬了他。 掩模意味着，解决这个问题在于在清醒和审议之间的协作的科学家和决策者。 然而，目前还不清楚如何在参数有关的"恶魔"，以帮助他的崇高目标。 事实上，他们只会阻碍它。

开始，我们注意到，在一个场景天网的巨大漏洞的。 虽然科学家不相信麝香是"完全疯狂"，他们仍然很远离世界里，这是一个可能的情况下出现这样的人工智能。

Ian Lecun，实验室人工智能的Facebook，总结了炒作2013年：

"炒作是危险AI。 炒作杀了人工智能的四倍，在过去的五十年。 炒作需要停止。 忘记约的终结者。 我们需要仔细权衡我们正在谈论什么。 事实上，我们的大多数"智能"AI发展的相当于婴儿。 大多数的爱好者们仍在试图要教机器人拿起球或运行没有下降，而不把最后一笔在天网"的。



Lecun和其他人权的影响的宣传。 不匹配的预期增长的背景是科幻小说，作为一项规则，通常导致严重削减，在研究的资金在该领域AI。 但这不是唯一的风险，这可能是由于推理的面罩的超自然的(不是人为的)的情报。

一名专家在法律和政策的技术Adam Tyrer已经开发出一种理论认为，他呼吁"technopanic"—一个道德上的惊恐的背景含糊不清，若隐若现的技术的威胁，驱动通过不合理的和容易出现夸大的人群，但不是一个真正的威胁评估。 例如，而不是质量的讨论网络安全问题由美国媒体鼓吹"网络珍珠港"，这破坏了信息基础设施美利坚合众国。 注意这个问题的网络安全正在获得势头，在美国。

没有一个需要牢记的破坏性影响的天网是臃肿。 没人关心的更加世俗的，但同样严重的问题有关的错误中存在的软件与开放源代码等OpenSSL和UNIX Bash.





Tyrer诊断六个驱动因素technopanics：不同代人之间导致一个恐惧的新的"感觉过敏"虚幻的好日子；经济奖励为媒体的基础上投机的谣言；有道德和文化的辩论有关的新技术；精英和不屑一顾的态度，学术界中的怀疑和批评的文化的新技术和工具，批准了大量观众。 所有这些方面表示完全合理的解释，但还有一个第七因素：心理后果的依赖性的人在复杂的技术，几乎在每个领域的现代生活。

根据technoecology，我们依赖技术，他们自己不能理解或控制。 我们相信，这些系统和子系统上，我们依赖，以及专家支持他们、工作的权利要求。 乘客可以有一个模糊的概念有关物理学的航班，但不公式用于计算机的持的飞机在空中。

此外，没有一个工程师设计团队不具备充分知识的各个组成部分。 复杂的，但至关重要的技术，如飞机总是外国人和神秘的我们。 不像星际迷航》中，对许多用户，他们的iPhone和代表一个"勇敢的新世界"。

在这方面，着名的阿瑟*C.克拉克引述的关于什么先进技术"没有区别，从魔法"，解释了为什么麝香已经转向隐匿的图像比较典型的某些捉鬼是谁杀了吸血鬼比尔斯图尔特*罗素和彼得Norvig的。 现代技术对我们来说是一种黑魔法，笼罩在神秘的；在我们的时间，向导，使用C++、Java而不是五角星和圣洁的水。

修辞的面罩的不是无害的。 恐惧无人驾驶飞机已经导致严厉的限制该活动的非政府的无人驾驶飞机和其他类似的航空设施；这样的决定，扼杀创新。 如technosocial肖恩*罗森，美国联邦航空管理局不允许志愿人员使用无人驾驶飞机用于搜索失踪的人，甚至被诅咒的新闻机构，其中公布了这段录像，拍摄使用无人驾驶飞机的。

虽然麝香是希望他的恐惧，将被迫通过国际和地方机构，很难想象，它只会导致razgildyayski限制，如提及的那些通过劳森。 最严重的负面影响从可怕的谣言的主题上AI不在于监管领域。 它可以加强和恶化的一般人新的技术和对他们的依赖。





在最佳的计算机技术将是必要的烦琐的许多用户。 在最糟糕的计算机技术会造成混淆和转让，有时需要干预的技术人员与秘密的知识。

Technopanic不创建之间的差距群众，远离Linux和一群业余选择，但它肯定恶化。 当公共图像掩表征的新技术、神秘、恐慌和隐喻的条款，他们破坏的迷信和无知的同的科，它具有特斯拉的。

相反，帮助用户适应，甚至要他们做好准备的事实，机器人是在一个白领都可以加入他们在工作场所、麝香激发的恐惧和厌恶什么我们不理解。 来吧，伙计们，抓住叉，去恶魔在塔。 这场悲剧的日益增长的technopanic围绕艾在那一天它可以减少一个人的世界的重要性，其将控制通过机。 我们知道，发展AI从根本上改变了我们生活的各个领域，从浪漫关系到国家安全。

也许它不是如此，因为大赦国际，不幸的是，没有能够满足我们的期望。 但它会被公共利益—通过视觉的恶魔，巫师和术士—增加之间的差距的技术专家，让自动驾驶的汽车，其余的—谁会骑他们吗？

辩论围绕大赦国际和公共政策常常试图精确描述什么是机器自治，但你不需要七个跨越在前额，以了解它的意思是一个自主的人士与机。 这种理解(至少在某一水平)和我们的能力，相信决定，是基于我们的日常使用的技术。 如果用户承担更多的责任，并试图理解的技术，它们不会需要联系的服务中心或者任意天才吧。 麝香是正确的，AI不能纯粹的程序员。 但是感到关切的是，艾有可能变成天网，只会导致一种"数字鸿沟"的人之间的了解技术，和那些不熟悉。

如果麝香将他们的精力，并帮助我们所有了解和控制的智能系统，他将带来的日时，技术是未来的所有好的理解和重要的。 最后，艾为广大人民群众将不会被火星殖民统治或超回路列车的。 他将更多的社会和对社会有用的—去见他更重要的是要防止其发展并远离他。

资料来源：hi-news.ru