人工智能时代,如何让杀手机器人有“正义感”?

来源:中国军网综合作者:黄尚责任编辑:岳修宇
2018-03-16 04:01

业界普遍认为,截至目前,人类的武器已经进行了两次革命:火药和核武器。现在杀手机器人所代表的致命性自主武器系统正在拉开第三次革命的帷幕。学界担心,如果杀手机器人被大规模列装,一个潜在的问题令人不安:它们如何识别平民和战斗人员?它们会不会滥杀无辜?请关注今日的《解放军报》——

安静的大学自习室,有情侣在教室后排的角落选修爱情,有的学生在看书,更多的学生在刷手机。

一队蜂群一样的小东西从虚掩的教室门鱼贯而入,它们发出的嗡嗡声没有惊动任何人。这群小东西在空中盘旋、搜索,似乎在思考并确认。终于,一个沉闷的声音过后,响起一个女声惊恐的尖叫,男生倒在血泊里。

就在刚刚过去的前一秒,盘旋在教室上空的那个小东西将它携带的3克炸药毫无保留地倾注在男生的脑袋上。女生永失所爱,教室顿成屠场。

这个血腥场面出自一段可怕的视频。在联合国《特定常规武器公约》会议上,来自美国加州大学的斯图尔特·罗素尔教授公布了这一视频。超过七十个国家的与会代表被震惊了。虽然视频中“杀人蜂”进行的杀戮并非真实存在,但我们必须清楚的是,视频中的科技目前已经存在。

早在2017年2月,剑桥大学的生存威胁研究机构相关人员就列出了10种可能导致世界末日、人类灭绝的威胁。名列前茅的正是人工智能和杀手机器人。

“杀人蜂”视频是这个预言的证实和强调:杀手机器人时代来了。这加深了很多人的焦虑,数百名科学家曾联名呼吁限制杀手机器人的相关研究。

“杀手机器人禁令运动”组织的成员们并不是第一批对未来忧心忡忡的科学家。2015年,物理学家霍金等千余名人工智能领域的专家就曾联合谴责人工智能时代的军备竞赛,呼吁在智能武器还没有使用和造成万劫不复的灾难或毁灭人类之前,禁止使用智能武器。

轻触这里,加载下一页