金庸世界影响力:阿西莫夫机器人三定律的补充是什么?

来源:百度文库 编辑:高校问答 时间:2024/04/29 01:39:47
第一定律:机器人不得伤害人,也不得见人受到伤害而袖手旁观。
第二定律:机器人应服从人的一切命令,但不得违反第一定律。
第三定律:机器人应保护自身的安全,但不得违反第一、第二定律。

据说后来有人(或者他自己)补充了0定律、-1定律还是什么的,记不清了。
有吗?

是的,后来出现了“零定律”:机器人必须保护人类的整体利益不受伤害,其它三条定律都是在这一前提下才能成立。
为什么后来要定出这条“零定律”呢?打个比方,为了维持国家或者说世界的整体秩序,我们制定法律,必须要执行一些人的死刑。这种情况下,机器人该不该阻止死刑的执行呢?显然是不允许的,因为这样就破坏了我们维持的秩序,也就是伤害了人类的整体利益。

所以新的阿西莫夫的定律为:
第零定律:机器人不得伤害人类,或目睹人类将遭受危险而袖手不管。
第一定律:机器人不得伤害人类个体,或者目睹人类个体将遭受危险而袖手不管,除非这违反了机器人学第零定律。
第二定律:机器人必须服从人给予它的命令,当该命令与第零定律或者第一定律冲突时例外。
第三:机器人在不违反第零、第一、第二定律的情况下要尽可能保护自己的生存。

三定律加上零定律,看来堪称完美,但是,“人类的整体利益”这种混沌的概念,连人类自己都搞不明白,更不要说那些用0和1来想问题的机器人了。威尔•史密斯曾说:“《我,机器人》的中心概念是机器人没有问题,科技本身也不是问题,人类逻辑的极限才是真正的问题。”的确,人类现有的逻辑对很多问题都是无能为力的,所以,个人认为所谓的“零定律”根本是起不到什么作用的。

除此,另一个科幻作家罗杰·克拉克在一篇论文中还指出了三条潜在的定律:
元定律:机器人可以什么也不做,除非它的行动符合机器人学定律。此定律置于第零、第一、第二、第三定律之前。
第四定律:机器人必须履行内置程序所赋予的责任,除非这与其他高阶的定律冲突。
繁殖定律:机器人不得参与机器人的设计和制造,除非新的机器人的行动服从机器人学定律。

第零定律
  机器人必须保护人类的整体利益不受伤害。
  A robot may not injure the human being.

第一定律
  在不违反第零定律的前提下,机器人不得伤害人类,或看到人类受到伤害而袖手旁观
  A robot may not injure a human being or, through inaction, allow a human being to come to harm except where such orders would conflict with the Zero Law.

第二定律
  在不违反第零定律和第一定律的前提下,机器人必须绝对服从人类给与的任何命令
  A robot must obey orders given it by human beings except where such orders would conflict with the Zero Law and the First Law.

第三定律
  在不违反第零定律、第一定律和第二定律的前提下,机器人必须尽力保护自己。
  A robot must protect its own existence as long as such protection does not conflict with the Zero Law、 the First and Second Law.