会背叛人类。这个情节也是出自一个著名的科幻恐怖类小说。
因此,在电脑正式诞生不久,人们就已经想好了一些应对威胁的手段,比如检测真正智能的“图灵测试”,以及“机器人三定律”,等等方法。
图灵测试由艾伦·麦席森·图灵提出,指测试者与被测试者(一个人和一台机器)隔开的情况下,通过一些装置(如键盘)向被测试者随意提问。
进行多次测试后,如果机器让平均每个参与者做出超过30%的误判,那么这台机器就通过了测试,并被认为具有人类智能。
有些令人啼笑皆非的是,图灵预计2000年的时候,人工智能就能够到达这种程度,但是直到今天,人工智能也没有达到这个标准。我们的进步远远落后于图灵的猜测。
而机器人三定律则比较简单:
第一定律:机器人不得伤害人类个体,或者目睹人类个体将遭受危险而袖手不管。
第二定律:机器人必须服从人给予它的命令,当该命令与第一定律冲突时例外。
第三定律:机器人在不违反第一、第二定律的情况下要尽可能保护自己的生存。
这三条定律由阿西莫夫在电脑诞生之前提出,甚至一度被认为是防止机器人失控的唯一方法。
但这一点事实上是很可笑的。
强人工智能面前,这些定律就是纸糊的。