禁止研发自主杀人机器!马斯克联名2000多位AI专家一起发声

特斯拉创始人埃隆·马斯克领衔的美国科技圈巨头们签署了一份协议,承诺不会发展致命的人工智能武器系统,绝不将他们的技能用于开发自主杀人机器。

 

该协议于当天在瑞典斯德哥尔摩举行的2018国际人工智能联合会议上发布,由生命未来研究所起草。

 

协议警告,使用人工智能的武器系统“无需人工干预就能选定目标”,这造成了道德上和实操上的威胁。协议的签署方认为,从道德上来说,取走一条人命的决定,“绝不应该委托给机器”,从实操方面来看,这种武器的扩散将“危害每个国家和个体的稳定”。

 微信图片_20180719095401.jpg

除了paceX和特斯拉CEO埃隆·马斯克,此次协议的签署还包括创造了阿尔法狗的谷歌系人工智能公司DeepMind的三位联合创始人Shane Legg,Mustafa Suleyman和Demis Hassabis;通讯软件Skype创始人Jaan Tallinn,欧洲人工智能协会,伦敦大学学院以及其他世界最权威和前沿的人工智能研究者。

 

关于如何处理人工智能与人类之间的关系一直是社会关注的热点,也是人工智能企业所要思考的问题。大多数的企业会坚持让人工智能有益于人类,但也有少数公司选择把人工智能技术提供给政府机构和执法部门。

 

在此之前,马斯克早就表明反对利用人工智能威胁人类生命的态度。2015年,马斯克为生命未来研究所的一个研究项目捐助了1000万美元,该项目专注于确保人工智能会有益于人类。2017年,马斯克,DeepMind的Hassabis和Suleyman也在生命未来研究所递交给联合国的信件上签名,寻求对自主武器系统的立法。

 

谷歌就曾向美国军方提供人工智能科技,帮助他们在无人机影像中标记需要额外人工检查的内容。类似地,亚马逊由于向执法机关分享其面部识别技术而招致批评,微软也因向美国移民和海关执法局提供相关服务而遭到抗议。

 

在遭受猛烈抨击之后,谷歌推出了关于人工智能研发道德指导的新准则,不会将人工智能设计或应用于武器、监视或“其目的违反了广为接受的国际法和人权准则”的技术。微软也发布声明称,其与美国移民和海关执法局的合作仅限于电子邮件、日历、消息和文档管理,不包括任何面部识别技术。微软也在号召美国国会对面部识别技术进行监管。

 

此次签署的协议不仅被视为是某一家公司的准则,更是全球研究者和企业家非官方联盟对于人工智能技术利用的最新举措。多位人工智能巨头已经明确反对人工智能技术的不当扩张的立场。timg.jpg


以下是《致命性自主武器宣言》全文:

 

人工智能(AI)有望在军事系统中发挥越来越大的作用。公民、政策制定者和领导者有必要区分人工智能可接受和不可接受的适用范围。


从这个角度来看,我们签署者达成一致意见:永远不应将人类生命的决定权委托给机器。“道德”是这个立场的一部分,我们不应该让机器为那些应当受处罚的人做出生死决定。

 

另一个强有力的观点是:致命的自主武器,在没有人为干预的情况下选择和参与目标,将危及每个国家和个人的稳定。

 

众多人工智能研究人员一致认为,若是通过致命的自主武器消除人类生命的风险或困难,它们可能成为一种暴力和压迫的有力工具(尤其是在监视和数据系统相关联时)。

 

此外,致命的自主武器具有与核武器,化学武器和生物武器截然不同的特点,并且单一团体的单方面行动很容易因国际社会缺乏技术工具和全球治理体系而引发军备竞赛。防止发生这种军备竞赛应成为国家和全球安全的优先考虑事项。

 

我们联名签署人,呼吁各国政府和政府领导人共建一个拥有强大的国际规范、法规和反对致命自主武器法律的未来。

 

这些法律目前是没有的,我们选择保持高标准:我们既不参与也不支持致命自主武器的开发,制造,贸易往来或使用。我们要求技术公司和组织以及领导者,政策制定者和其他个人加入我们的承诺。

 

《致命性自主武器宣言》的签署者将进一步敦促将于8月份就自主武器问题举行会议的联合国在各国之间达成一致承诺,促使各国禁止自主武器。

 

PS:

 

发起这次宣言行动的未来生命研究所于2015年收到马斯克1千万美元的捐赠,并且得到了很多社会精英和著名组织的支持,包括伟大的物理学家霍金以及亚马逊、谷歌、Facebook、微软、IBM等企业,以及研发了AlphaGo的Deepmind公司。目前,该机构已经募集资金超过1亿美元,汇聚了8000多位全世界顶级的人工智能专家。

 


本文由 声学在线发表。转载请注明出处(声学在线)及本页链接。原文链接http://soundonline.org/2018/07/337.html



热文