智能机器行为准则：何种规则应该引导其运作？

人工智能三大守则分别是：

1、人工智能不得危害人类。此外，不可因为疏忽危险的存在而使人类受害。

2、人工智能必须服从人类的命令，但命令违反第一条内容时，则不在此限。

3、在不违反第一条和第二条的情况下，人工智能必须保护自己。

此守则在1942年，艾扎克.艾西莫夫在短篇小说《环舞》中首次提出

一、机器人不得伤害人类，或因不作为而是人类受到伤害。

二、除非违背第一法则，机器人必须服从人类的命令。

三、在不违背第一及第二法则的情况下，机器人必须保护自己。