机器人三大定律只是人类的一厢情愿AI可能并不遵守

2020-09-23 23:28:15 大健康 及时雨
本文浏览量:82 今日:82

【网易智能讯6月10日消息】在科幻大片《终结者》(Terminator)中,机器人想完全占有这个世界,把人类赶尽杀绝。对此我们不禁要问:“如果电影中场景在现实重演,结果会怎样?”提出这样的问题不应该受到指责,因为通过电影和科幻故事,机器人接管地球的场景几乎无处不在,因此我们对人工智能(AI)的未来已经形成了这样的印象。然而,既然人类能够通过法律维持生存和合作,为何不能把法律也应用到AI身上呢?这就涉及到阿西莫夫的机器人三大定律!为了更好地了解未来,我们首先要回顾下过去。

三大定律

艾萨克·阿西莫夫(Isaac Asimov,1920-1992)除了是一名生物化学教授,还被认为是他那个时代的“三大”科幻小说家之一。在20世纪中期,阿西莫夫提出了三条定律,如果遵守这些定律,我们就能阻止机器人起义。这三大定律包括:

第一定律:机器人不得伤害人类,或因不作为而让人类受到伤害;

第二定律:机器人必须服从人类给它的命令,除非这些命令与第一定律相冲突;

第三定律:机器人必须保护自己的存在,只要这种保护不与第一定律或第二定律相冲突。

现在,如果你熟悉编程,你就会知道机器会从0开始计数,而不是从1开始。因此,正如电脑迷所说的那样,第0条法律指的应该是集体而不是个人。如果这些定律听起来很熟悉,那是因为它们是在《我,机器人》(I, Robot)这个故事中出现的。值得注意的是,它们在“机器人”(身体)和“人工智能”(大脑)之间并没有区别,因为当阿西莫夫提到机器人时,他脑海中出现的是智能类人生物。

那么,如果早在20世纪50年代这些定律就已经被制定出来,为何我们还如此惧怕机器人呢?是什么促使埃隆·马斯克(Elon Musk)甚至斯蒂芬·霍金(Stephen Hawking)将AI视为人类“最大的生存威胁”?长话短说,这是因为阿西莫夫的三大定律不起作用。

计划中的缺陷

回到现在。为了与阿西莫夫的观点保持一致,让我们假设我们确实有足够复杂的AI代理来适应这些定律。为了便于讨论,我们还假设,尽管它们是叙事机制的法则,但它们也适用于现实世界。

技术问题:如果法律是英文的,而AI代理只能处理中文会怎样?或者即使代理是在美国制造的,我们怎么知道它如何理解法律?因此,我们需要一种方法来(i)把法律翻译成每一种可能的语言,(ii)把这些词背后的含义传达给每一种可能的语言(为了涵盖所有可能的情况,还必须使用拉丁语等已经消亡的语言以及二进制机器语言)。

对于人类来说,这些任务是息息相关的。但对于机器来说,这是两个截然不同的任务。第一个任务是用不同的语言生成相应的句子字符串,第二个任务是理解这些字符串。如果我告诉你用西班牙语唱《Despacito》,就好比只做第一个任务。你可能说得很好,但你却不知道它们的意思(假设你不懂西班牙语)。另一方面,只做第二项任务就像脑子里有了一个想法,却不知道如何表达。

幸运的是,自然语言处理(NLP)领域在过去的几年里经历了巨大的飞跃。对于第一个任务,具有长短期记忆细胞(Long Short-Term Memory)的神经网络可以用序列-序列的转换方式。此外,端到端的语音-语音翻译模型Translatotron,于上个月(2019年5月)发布。对于第二个任务,Word2Vec模型已经证明了自己的价值,它将相关的单词组合起来,从而在句子中产生语义。如下图所示:

的确,机器现在可以理解语言。然而,它们仍然有很多事情不能做。一个例子就是理解习语。虽然“spill the beans”可能是“泄露秘密”的比喻意,但目前还无法进行比喻翻译。因此,机器将逐字逐句地把每个单词翻译成对应的单词。如果按照正确的顺序翻译成法语,那么这个表达就是“jeter les haricots”,这听起来肯定给人一种断章取义的感觉。

但是,为了便于讨论,让我们大胆假设,比喻翻译问题将在未来几年得到解决。这样一来,所有关于让AI代理理解法律的技术问题都会得到解决,我们也就安全了,对吧?做好准备,因为这才是有趣的地方!当阿西莫夫提出这些定律时,他不知不觉地把它们建立在另一个假设的基础上:我们人类确切地知道道德底线应该划在哪里。但是我们会遵守吗?

让我们以第一定律中的“伤害”一词为例。在这个定律中,让我们也考虑一下“人”这个词的含义。它的定义包括什么?例如,在14世纪,奴隶被认为比更接近牛等牲畜。现在,胎儿的生命权是许多讨论的主题。然而,将来,如果一名孕妇由于某种疾病,在分娩时死亡的几率很高,她的AI医生应该建议堕胎吗?人们需要记住的是,虽然从逻辑上讲,女性在堕胎中存活的几率更高,但胎儿一旦出生,就有更多的生存空间。所以,不管怎样,机器人最终伤害了人类。

接下来的决定甚至会让我们人类陷入否认的状态。让我们考虑一下丹·布朗(Dan Brown)描述的地狱场景,并应用第零条定律。AI将显示一个按钮,并被告知,如果它按下按钮,一半的人类会立刻死亡,但是这个物种会存活几个世纪。如果不这样做(因此,不作为),人类将在50年内达到人口过剩状态,我们的物种将崩溃。如果你处在AI的位置,你会怎么做?

结论

阿西莫夫的机器人定律试图解决AI起义的威胁。使机器人遵守这些定律的技术障碍是我们目前在使它们理解法律方面的限制。真正的障碍(哲学和伦理上)可能是我们的假设,在如此模糊的限制下,机器人将会按照我们想要的方式行动,即使我们不知道自己的意思。即使我们传达的意思是正确的,这些定律也可以简单地改为“不管怎样,只要做好就行,对吗?”而到那时,它们可能已经造成了不可挽回的影响。 (选自:towardsdatascience. 作者:Hans A. Gunnoo 编译:网易智能 参与:小小)

(责任编辑:顾雨芯_NBJS8596)


本文用一键转发功能创建,点击查看原文





电话:562-761-4820 Linda

道友-是一种新的生活方式
让阅读更有价值
知识分享合作平台
阅读 | 写作 | 得积分

扫描二维码安装道友APP

点击此处安装道友APP


软件交流官方QQ群:233293362  

推荐阅读

2020-10-21 01:32:42 涨知识!衰退的免疫系统是癌症发生的主因,回输免疫细胞可解决

癌症到底是怎么发生的?这是全世界科学家一直苦苦追寻的问题。长久以来,主流观点认为,癌症发病率随着年龄增长上升,是因为基因突变增加。然而《美国科学院院刊》刊登的一篇论文提出了不一样的推测:衰退的免疫系统才是导致癌症发病率增加的最重要原因。人体的免疫系统包括:淋巴器官、淋巴组织及免疫

2020-10-21 00:39:35 蜜蜂与蜂蜜

我家后院小木屋的地基砖逢里有一群蜜蜂在那里安家很久了。它们每天飞来飞去甚

2020-10-20 08:55:50 梅子的营养价值

我家有一颗梅树是邻居送的。每年冬季12月下旬开始发芽开花,花期时节看不见

2020-10-20 01:40:43 马云:领导力是一门科学,它同时也是一门艺术!

马云:领导力是一门科学,它同时也是一门艺术!2

2020-10-18 17:51:36 练指提升记忆力

2020-10-18 00:18:53 七种抗氧化食物包你年轻

7种食物可以高效抗氧化人们都希望自己能够保持年轻,延缓衰老,这个时候就需

2020-10-17 13:04:02 类黄酮食物有助降低死亡风险

科学家发现类黄酮食物有助降低死亡风险,茶、苹果等即可实现日期:2019年

2020-10-12 00:38:24 蚂蚁真的是二维生物吗?科学家通过实验找到了答案

本文参加号#科学了不起#

2020-10-11 03:23:00 荠菜是宝贝

荠菜(JiCai)英文名 Shepherdspurse Herb, H

2020-10-09 23:47:45 患精神疾病的耶鲁教授荣获诺贝尔文学奖

美国诗人和耶鲁教授LouiseGlück荣获今年的诺贝尔文学奖

2020-10-08 00:24:37 诺贝尔奖离你有多远?带你走进生命科学的最前沿!

2020年医学奖给了病毒专家,化学奖给了基因编辑。诺贝尔奖获得者像魔术师

2020-10-07 22:47:43 CRISPR剪得诺奖!张锋失之交臂

海归学者发起的公益学术平台分享信息,整合资源交流学术,偶尔风月知社

2020-10-07 12:43:17 每天一杯西洋参泡水,能给身体带来什么好处?

每天一杯西洋参泡水,能给身体带来什么好处?苏小萨10

2020-10-07 12:36:55 斯坦福心理教授:压力面前,除了逃避和死扛,你还有第三种选择

作者:Mr.How编辑:张真DerekTEDTalk:Kell

2020-10-06 22:56:34 一指行天下:傅丙利

傅丙利,江苏人,精通文武,典型的复合型跨界人才,素质教育高级研究员,上个

2020-10-06 22:44:41 好莱坞传奇:衣世雄

衣世雄,男,影视演员,代表作:《霍元甲》。世界武术好莱坞文化总联盟出品公

2020-10-06 12:49:09 生活越好的時候,越別忽略身邊的“危險”

1、多吃膳食纖維多數研究均支持高膳食纖維攝入可在一定程度上降低結直腸癌風險。注意飲食均衡,粗糧細糧要合理搭配。 2、戒煙、戒酒吸煙是結直腸癌發病的重要危險因素,且與吸煙年限和總量有關係,吸煙可增加約20%的結直腸癌風險。而乙醇攝入量最高組的結直腸癌發病風險較對照組升高6

2020-10-05 21:39:28 刚刚!2020年诺贝尔生理学或医学奖揭晓:3位科学家因发现丙肝病毒获奖

北京时间10月5日17时30分,备受瞩目的2020年诺贝尔生理学或

2020-10-05 09:02:24 三观一致必将取代血缘关系,成为更重要的人际纽带

考察一个人的判断力,主要考察他信息来源的多样性。有无数的可怜人,长期生活在单一的信息里,而且是一种完全被扭曲的,颠倒的信息。这是导致人们愚昧且自信的最大原因。——-阿玛蒂亚森这次疫情,把一个问题赤裸裸的摆上了台面。那就是,很多人发现,平时认识的人,三观的差异这么大。有的人说,他重

2020-10-01 11:39:24 诗一首:浑然天境

浑然天境/道森美景尽收,心境全释。天晴夺旷,诗意大发。虚幻浮云,殷实植

2020-10-01 08:19:54 后半生最高级的炫富:身体无病,心里无事,眼里无怨

02心里无事,精神才能更加富足 《菊次郎的夏天》里有句台词: 人会变老,生活也会逼着我们去成为大人,抛弃稚嫩,变得稳重。而你就会发现以前的自己再也回不去了,拥有一颗童心是值得庆幸的事。 而童心的本质,就是抛开所有烦恼,拥抱身边美好。 听到过

2020-09-30 00:02:18 全球排名第一的幽默故事,却道出了人生的秘密!(引人深思)

.小寒前后,西伯利亚的寒流就不时涌过内了!”482人赞同了该回答很多人与我一许三观卖了血以后,没有马上把钱给方铁匠送去,他先去了胜利饭店,坐在靠窗的桌前,他想起来十年前第一次卖血之后也是坐在了这里,他坐下来以后拍着脑袋想了想,想起了当年阿方和根龙是拍着桌子叫菜叫酒的,于是他

2020-09-29 02:13:02 小学生写作文,气坏全家,笑坏老师!太有才了!

发几篇儿童作文给大家,笑死了!打死都不删,太经典了!.....................................................................................《配方》.........................

2020-09-27 11:51:13 重磅!新冠特效药面世两天病毒消失,重症很快恢复健康!

新冠疫情持续肆虐。截至发稿前,全球已有3265万人感染新冠,99万

2020-09-25 08:27:54 瑞典已经成功做到了群体免疫,抵挡下第二波疫情!当地大医院急诊科医生说:我已经一个多月没看到新感染的人了

文末有猛料!加博士团队私信看朋友圈,活得更明白!千万不要买下边这个

2020-09-25 06:16:07 心累吃梨,腿累吃柿子,眼睛累了吃什么?你绝对想不到~

心累吃梨,腿累吃柿子,眼睛累了吃什么?你绝对想不到~

2020-09-24 14:12:59 70年代珍贵影像和百张高清照片,带你一起回忆过去的时光!

70年代珍贵影像资料带你回到40年前,回忆当年的生活   灼热的阳光从水面反射上来,照得人睁不开眼。黄黄的砂子和秃光光的大石头,也让太阳照得发出了刺眼的光芒。人都快烤焦了。山城比江面高出好几十丈,蒙着一层灰白色的雾,也热得人发昏。下面是一片水,上面是

2020-09-24 05:31:22 研究1171名直肠癌患者,发现咖啡可以延长患者寿命

正确认识衰老才能正确抗衰老(点击进入):衰老不是疾病吗?衰老是疾病

2020-09-22 23:07:21 如何消除血管里的斑块?除了吃药还有什么方法?医生告诉您答案

原标题:如何消除血管里的斑块?除了吃药还有什么方法?医生告诉您答案许多老年人在体检后,会发现报告单上写着“血管斑块”四个字。但有的人不以为意,有的人却如临大敌。其实这两种心态都过于极端。血管斑块并非大病,无需过于紧张,但若真的置

2020-09-21 11:47:57 癌症十万个为什么

癌症十万个为什么|常患感冒真的不易得癌?201

2020-10-20 16:38:51 2020年诺贝尔和平奖揭晓!授予世界粮食计划署

北京时间10月9日,2020年诺贝尔和平奖揭晓,世界粮食计划署被授予该奖项。诺贝尔奖官网称,授予世界粮食计划署“2020年诺贝尔和平奖”,以表彰其为战胜饥荒所做出的努力、为改善受冲突影响地区的和平所做出的贡献,以及其在防止饥荒被用作战争和冲突的武器中,

2020-10-14 14:40:04 区块链的浪潮开始涌动了

 近几天发生一连串的事件,都极其微小,但是却预演了即将到

2020-10-14 05:30:38 储兰兰风靡大洋彼岸新京剧传播中华国粹

储兰兰风靡大洋彼岸新京剧传播中华国粹2018

2020-10-14 05:09:58 新京剧国际文化传播轨迹(2017年

    “新京剧”源

2020-10-11 23:36:15 【深度好文】其实你并不缺流量,只是缺方法

3年以来凡是找群主家的客户都需要一个东西,那就是:流量。对于流量,

2020-10-11 17:45:50 【吴宝林医案】善治者治皮毛

临床中,我们发现有些人经常身体小恙,流鼻水、口腔溃疡、牙龈肿痛、喉咙肿痛、咳嗽,等等,日常小病不断,被朋友圈戏称为“病秧子”。戏说的这些人还特别自豪地说,看我身体多好,从不感冒发烧头疼脑热。前者有两种可能的结果,小毛病,于是很重视保养,对症下药,每次有问题恢复得越来越快,而且慢慢

2020-10-11 07:47:27 有一种勇气叫与姚明合影!

姚明,中国著名篮球运动员,身高2.26米!你知道和一个身高2.26

2020-10-10 00:15:11 李开复:沉默不一定是“金”

李开复:沉默不一定是“金”2019年04月02日17:52分类:生活

2020-10-09 10:17:04 观察者网:作为编剧再来说说,这行薪资在6K

【本文原标题“对于大部分从业者来说,编剧其实是一个职位,而不是一份

2020-10-09 07:43:30 画讯新闻:国际联盟书画家协会喜迎金秋

上海,齐齐哈尔,大庆,铁力四市《喜迎金秋,欢渡国庆》书画名家笔会10月8

2020-10-07 23:48:33 崔国建:中华文化传承人

崔国建:美西易经学会现任会长,中华文化使者。“人不为己,天诛地灭”,中“

2020-10-07 00:30:26 好莱坞微电影人:Hollywood Microfilmer

好莱坞微电影人(HM)【背景】微电影综合平台以新媒体形式出现,其用户总数

2020-10-06 22:39:31 好莱坞电影人:衣世雄

衣世雄,男,影视演员,代表作:《霍元甲》。世界武术好莱坞文化总联盟出品公

2020-10-06 21:29:29 喜迎中秋欢度国庆一一大庆铁人书画院书画作品展览

2020-10-05 21:40:54 诺贝尔医学奖宣布:丙肝发现半世纪,治愈率超九成但疫苗仍无期

丙肝如何防?10月5日,2020年诺贝尔生理学或医学奖揭晓,授予美

2020-10-05 09:43:21 厉害了!景德镇瓷乐团亮相德国柏林画展,老外都被震撼到了!

开幕式上,中宣部常务副部长黄坤明在致辞中说,今年是中德建交45周年,我们举行“感知中国”德国行系列活动,推动中德文化交流、增进人民友好,具有十分重要的意义。“最美中国人”画展和“匠心治陶”景德镇陶瓷文化展,编钟乐

2020-10-05 07:20:26 北京陶瓷艺术馆瓷乐队亮相世园会中国馆日活动

2019年中国北京世界园艺博览会中国国家馆日活动在6月6日举行,北京陶瓷艺术馆陶瓷乐队于6月7日至9日在世园会驻场三日,演出九场,以精制陶瓷乐器为展示特色,充分展现了“生生不息,锦绣中华”的中国馆展示理念。

2020-10-04 14:43:04 中美无线互联网+医疗App调查报告

中美无线互联网+医疗App调查报告 2016-02-26投资

2020-09-29 23:14:57 云手机云电脑被吹爆!阿里华为强推,行业老大竟不是它们?

看点:阿里云电脑是新瓶装旧酒?深度揭秘云硬件那些事。智东西9月29

2020-09-29 20:50:09 中国山西突然流出一批照片,全世界都傻眼了....

有多少句我爱你,最后成了对不起七月飞火。有多少句我爱你,最后成了对

2020-09-26 16:48:05 恐怖!新冠病毒精细结构全球首次发布!刺不穿耐高温会自愈!

戳蓝字“北美观察家”关注我们哦!北美观察家(微信ID:FocusH

2020-09-26 16:41:23 《道德经》真是老子写的吗,谁是老子,他去哪了?

原创《道德经》真是老子写的吗,谁是老子,他去哪了?

2020-09-26 16:23:01 国际联盟书画家协会:王思兆

王思兆,1947出生于山东省济宁市,国家一级美术师,工艺美术师,国际联盟

2020-09-26 14:16:48 国际联盟书画家协会:富英杰采风、讲学回顾

国际联盟书画家协会理事会名誉主席富英杰2019年6月釆风、讲学到山西受到

2020-09-26 00:29:27 道友之家启动:5g3a项目国际会议

5g3a项目网上国际会议成功举办。5g3a宗旨是数据主权在国/数据产权

2020-09-25 17:19:49 花好月圆:道友中秋茶话会

道友中秋茶话会美国洛杉矶9月27号,周日晚7:00-9:00中国9月28

2020-09-22 22:50:07 中国存活艾滋感染者达95.8万青年学生感染病例上升

中国存活艾滋感染者达95.8万青年学生感染病例上升侨报2019-12-0121:03:00 【侨报网讯】12月1日是世界艾滋病日,中国国

2020-09-22 02:07:28 美国有多少华人?说出来吓死人!

根据联邦人口普查局发布的最新数据美国亚裔总人口已达2140万而华裔

2020-09-20 11:49:46 网络交友骗局多发如何防范电信诈骗里的“美丽陷阱”?

图集  电信诈骗近年来比较多见,很多人都或多或少的接过诈骗电话或者诈骗短信、微信,诈骗手段也是花样百出、层出不穷,从最早的“猜猜我是谁?”,到后来的“重金求子”,还有假冒公检法等等,真是让人防不胜防。

2020-09-20 00:06:10 美国侨报移动客户端

【侨报记者高睿9月18日洛杉矶报道】还有两天微信在美国就不能用了,美国商业部今天发出微信、抖音禁止令,表示从20日起任何服务商都不准为微信和抖音提供使用和传播服务,微信支付在美国禁止使用,此举给微信和抖音来个釜底抽薪。简单来

道友-是一种新的生活方式
让阅读更有价值
知识分享合作平台
阅读 | 写作 | 得积分

扫描二维码安装道友APP

点击此处安装道友APP


软件交流官方QQ群:233293362