据了解，马克斯-普朗克研究所(学院是德国的一所基础研究机构，成立于1948年，出现过18个诺贝尔科学奖获得者，每年在世界上发行至少15，im体育网站000份研究文献。

　　“一台控制世界的超级智能机器听起来就像科幻小说里才会出现的事物，”这项研究的合著者、该研究小组的负责人Manuel Cebrian说。“但已经有一些机器可以在程序员完全不了解它们是如何学习的情况下独立执行某些重要任务。”

　　我们的社会正越来越依赖人工智能——从人AI面试到创作音乐，甚至是表情包，人工智能已经成为日常生活的重要组成部分。

　　根据该研究小组发表在《人工智能研究杂志》上的研究，为了预测人工智能的行为IM体育App，需要对这种超级智能进行模拟。

　　该研究小组的负责人Manuel Alfonseca说，这一切都围绕着“遏制算法”展开，与阿西莫夫的机器人第一定律(First Law of Robotics)没什么不同。

　　1942年，多产的科幻作家艾萨克·阿西莫夫(Isaac Asimov)在他的短篇小说《Runaround》中阐述了机器人三定律。

　　根据阿西莫夫(Asimov)的理论，机器人不能伤害人类，也不能让人类受到伤害，它必须服从命令，除非这些命令与第一定律相抵触;除非不与第一定律或第二定律相抵触IM体育App，否则机器人必须保护自己。

　　该团队还探索了艾伦•图灵的“停止问题”，得出的结论是，模拟人工智能行为的“遏制算法”——如果人工智能伤害人类，该算法将“停止”人工智能——是完全不可行的。

　　这项测试也可以应用于不那么复杂的机器——但对于人工智能来说，这很复杂，因为它们有能力将所有计算机程序保存在内存中。

　　该团队的另一名研究人员Iyad Rahwan表示:“现代计算机使用复杂的机器学习算法进行适应的能力，使得对超级智能人工智能的最终行为做出假设变得更加困难。”

　　Rahwan警告说，如果没有必要，就不应该创造人工智能，因为很难描绘出它潜在的进化过程，我们也无法进一步限制它的能力。im体育网站