当前位置:首页 >> 最新文章

如果ai机器人杀了人类那人类还要研发机器人吗粉末涂料色彩管理

2019-12-09 09:55:55  欧迈机械网

原标题:如果ai机器人杀了人类,那人类还要研发机器人吗?

来源| 喜马拉雅fm 复旦郁?傣恋木?品课《郁?傣恋母吹┱苎э巍?

编辑| 周杭

如果你喜欢看科幻电影,一定经常会看到这样一种恐怖的场景:未来机器人反过来奴役,甚至屠杀人类,施瓦辛格演的电影《终结者》就是这样的。最近对人工智能的讨论,更加加剧了这种担忧。所以,我们如何才能警惕和预防机器人和人工智能?

这时候,我们就要来谈一谈“机器人三法则”(threelaws of robotics)。这三个法则是著名的科幻小说家伊萨克?阿西莫夫,在1940年的一篇小说《我是机器人》中提出来的。

第一条:机器人不得伤害人类,或看到人类受到伤害而袖手旁观。

第二条:机器人必须服从人类的命令,除非这条命令与第一条相矛盾。

第三条:机器人必须保护自己,除非这种保护与以上两条相矛盾。

这三条法则,看上去不是不错?但是执行起来却有不少问题。

有必要说一下的是,英语中的law这个词具有两种截然不同的含义:第一种是人类社会中的法律和道德律令。其目的是规范一个政治共同体中成员的基本权利与义务,甚至还要定义犯罪行为,并通过相应程序和机构对之进行审判和惩戒。

第二种含义是自然(科学)中的法则和定律。例如牛顿力学中的三大定律,它通常是用数学符号的方式来表达的。上述这两种涵义是根本的不同。法律在原则上是可以违反的。我可以尝试做坏事,例如偷东西,伤害别人等等。

有意思的是,阿西莫夫在写机器人三法则的时候,使用了不得(maynot)和必须(must)这样的语词,非常类似神学中的“神命”(divine command)。也就是好像上帝颁布给人的诫命。

但是正如人类经常忤逆神的诫命一样,人工智能为何一定要遵守这些命令呢?如果没有技术的落实和保障,这一切都仅仅是人类的一厢情愿而已。人类也面临“造物主”的烦恼。

按照我们通常的理解,打针这个行动显然要刺穿人的皮肤,并造成微量的出血。不过人类的一般常识告诉我们,这种轻微的伤害可以治愈病患的疾病,并且得到了病患的认可。

在疾病和打针之间,一般的成年人经过权衡比较,都会选择接受打针。但是要让人工智能进行这样的权衡比较,需要极为丰富的常识(commonsense)。

还有,如果阿西莫夫的第一条原则成立,那么机器人和人工智能都不得被用于执法和军事作战领域中。因为在这两个领域中,直接需要伤害特定的人。例如暴力犯罪分子和敌国的作战军人。

我们再来看第二条:第二条法则中语义存在的漏洞是“服从命令”(obeyorders)这个词。

不过我们可以设想,两个人的命令可能会出现矛盾。一个人说,你站着,另一个人说,你坐下。机器人到底应该听谁的?

还有,阿西莫夫使用了“人类”(humanbeings)这个词。服从一个特定的人(例如“我”),和服从(复数形式的)人类之间存在明显差异。如何让人工智能定义和识别“人类”成为了关键问题。

第三条法则的核心词是“自己”(itsown existence)。要明白这一表述的意指,是否需要“自我”(self)的观念,而产生这一观念的前提是人工智能具备自指(self-referential)能力。这种自指能力其实对人类自己都是一个谜。

例如从宏观来看,目前地球上有70亿人口,我们可不可以为了70亿整体人类消灭当中的30亿呢?

按照人类常识和良知,显然是不可以这么做的。因为除了人类的整体利益之外,还有许多需要考虑的问题,每个人的个体利益也必须受到尊重和保护。

儿童白癜风饮食

白癜风应该如何治疗

白癜风治疗最好医院

相关资讯
友情链接