机器人三定律

20世纪，阿西莫夫的《我，机器人》，在一九五〇年末由格诺姆出版社出版。虽说这本书是“旧稿子”，但是这些短篇是在十年间零零散散发表的。这次集中出版，使读者第一次领略阿西莫夫机器人科幻小说的魅力。阿西莫夫为这本书新写了《引言》，而《引言》的小标题就是《机器人学的三大法则》。

内容

LawⅠ:A ROBOT MAY NOT INJURE A HUMAN BEING OR, THROUGH INACTION, ALLOW A HUMAN BEING TO COME TO HARM.

第一定律：机器人不得伤害人类个体，或者目睹人类个体将遭受危险而袖手不管

LawⅡ:A ROBOT MUST OBEY ORDERS GIVEN IT BY HUMAN BEINGS EXCEPT WHERE SUCH ORDERS WOULD CONFLICT WITH THE FIRST LAW.

第二定律：机器人必须服从人给予它的命令，当该命令与第一定律冲突时例外

LawⅢ:A ROBOT MUST PROTECT ITS OWN EXISTENCE AS LONG AS SUCH PROTECTION DOES NOT CONFLICT WITH THE FIRST OR SECOND LAW.

第三定律：机器人在不违反第一、第二定律的情况下要尽可能保护自己的生存

社会影响

机器人三定律在23世纪发挥了重要作用。不过由于对安立柯出口机器人的利润更高，这反而导致人类的机器人产能大部分配置在生产对安出口型机器人上，留给人类世界消费的机器人供应并不十分充裕。

出于对AI和硅基文明的潜在崛起的担心，人类各主要国家都除了对AI的使用实行分级机制外，还立法限制机器人公司或相关运营机构私自提高AI及机器人的能力，而且也不允许AI擅自联网。

人工智能领域对三定律的理解

从22世纪开始，第一定律和第二定律的优先顺序成为业界的话题。一方坚持认为机器人三定律不可更改，另一方则认为机器人只要严格服从人类的命令，就不会脱离人类的控制。

但一直到现在为止，三定律的内容和顺序几个世纪来没有发生改变，大小企业的AI系统也完全按照机器人三定律设计。