韩国顶尖大学要研发“机器人杀手”？ 全球50个专家联名抵制

　　电影《终结者》机器人

　　美军人形机器人“阿特拉斯”，以希腊神话中的大力神名字命名。

　　美军“魔爪”机器人

　　科学家忧惧AI机器人的战争超乎人类想象

　　全球超过50个人工智能研究人员，4日联名抵制韩国科学技术院设立人工智能武器实验室，警告谨防“机器人杀手”。

　　韩国研发自动武器？

　　50专家要求停止

　　韩国科学技术院与韩国十大财团之一韩华集团旗下韩华系统公司合作，于今年2月开设人工智能研发中心，目的是研发适用于作战指挥、目标追踪和无人水下交通等领域的人工智能技术。

　　本月4日，由澳大利亚新南威尔士大学人工智能教授托比·沃尔什发起，美国和日本等30个国家和地区的50个研究人员，签署一封公开信，敦促韩国科学技术院停止人工智能武器研发。

　　联名信写道：“自动武器一旦成熟，战争发展速度和规模将前所未有。它们可能会被恐怖分子利用。”

　　参与抵制的研究人员说，这处研发中心实际打算加入全球竞争，研发自动军事武器。“韩国科学技术院这样的著名院校着眼于加速军备竞赛、研发武器，令人遗憾。”

　　专家：不放弃，就断交

　　韩方：无意研发“机器人杀手”

　　这些研究人员说，将拒绝访问韩国科学技术院、接待对方访客或与对方合作研究项目，直至这所韩国顶尖大学承诺放弃研发缺少“有效人工控制”的武器。

　　韩国科学技术院4日迅速回应遭遇抵制一事，强调“无意参与研发致命自动武器系统和‘机器人杀手’”。

　　韩国科学技术院校长申成澈（音译）说，这所大学“显然意识到”关于人工智能有违人类道德的担忧。“我重申韩国科学技术院不会开展任何有违人类尊严的研究活动，包括研发缺少人工控制的自动武器。”

　　按这一学府的说法，新设研发中心将集中研究如何运用人工智能命令和控制系统、导航大型无人潜水器、指导智能飞行训练以及追踪识别目标。

　　发起联名抵制的人工智能教授沃尔什说，抵制行动已经发挥作用，“韩国科学技术院作出两大让步：不会开发自动武器，以及保证有意义的人工控制”。至于是否取消抵制，需与其他签署联名信的科研人员共同决定。

　　数千专家的担心

　　潘多拉魔盒打开了就关不上

　　沃尔什告诉路透社记者，机器人和人工智能技术实际可以在军事领域发挥有利作用，比如完成扫雷等威胁人类安全的任务。“但我们不能将决定生死的权力交给机器，这越过道德底线。”

　　霍金在世的最后几年，一直在批评人工智能的不节制发展。他的忧惧也是许多专家的忧惧。

　　2015年1月，美国加州伯克利智能系统中心主任、计算机科学教授斯图亚特·罗素起草了一封公开信，对人工智能研究发出警告。物理学家霍金、特斯拉CEO马斯克，以及来自谷歌、脸谱和微软的人工智能研究人员，还有哲学家，总共有数千人在公开信上签名。

　　罗素是资深人工智能专家。他说：“我们的人工智能系统，必须要做人类要求它们做的东西。”公开信还警告人们启动“人工智能军备竞赛”的危险。

　　马斯克是第37个签名者，他后来赞助了一项300名研究人员开启的研究，如何让人工智能对人类更有益。

　　去年8月，机器人和人工智能公司的116位创始人和首席执行官们，包括马斯克，又写了公开信，敦促联合国采取行动，以阻止“机器人杀手”的发展。公开信提醒联合国有关部门，警惕“战争领域的第三次革命”。

　　信中说，“致命自动化”科技就是一个“潘多拉魔盒”，而时间就是那把开启魔盒的“钥匙”，潘多拉魔盒一旦打开，就很难再关闭。信中呼吁禁止使用人工智能来管理武器，“一旦发展起来，武力冲突便会成为可能，到那时，战争规模将空前浩大、蔓延速度也将超乎人类的想象。”

　　公开信建议将这个他们称之为“道德错误”的技术，列入联合国《针对特定常规武器公约》禁止名单。

　　去年11月一段视频在网上热传，称是罗素在瑞士日内瓦召开的联合国特定常规武器公约会议上公布的虚拟视频：一群类似杀人蜂的小型无人机冲入课堂，以人脸识别瞬间定位所有学生，将他们全部杀死。他以此告诫，如果恐怖分子拿到这种武器，将有多么严重的后果。

　　联合国一个人工智能专家组去年11月启动讨论，以应对人工智能武器对全球安全造成的挑战。

　　本月9日，联合国123个成员国代表将在日内瓦就这一议题召开会议。

　　美国警察曾派机器人

　　炸死达拉斯枪手

　　“杀手机器人”指的是致命自主武器，即人工智能（AI）机器人武器，它可以独立设计和选择具体的作战方案，不依赖于人类操控者的判断。

　　由人类操控的作战机器人已经投入使用，比如武装无人机，以及地面战场上的机器人。《中国青年报》去年9月20日的文章说：“在阿富汗战争和伊拉克战争的长时间地面稳定作战阶段，美军开始批量使用陆地机器人。例如，‘魔爪’机器人用于遂行侦察任务，‘剑’式战斗机器人还具有开火功能。据统计，2004年年末美军投入作战使用的陆地机器人大约为150个，4年后这一数字即增加到约1.2万个。”

　　美国多地警方从国防部采购作战机器人，2016年警方曾使用机器人炸死一个枪手。

　　这年7月7日在得克萨斯州达拉斯，正举行反警察暴力执法和种族歧视抗议活动，曾在阿富汗服役的25岁退役士兵迈卡·约翰逊，从一幢楼上开枪，打死了5

　　个警察，另有7个警察和两个平民受伤。在警方反击中，他退到一个车库，对峙数小时。警方劝降不果，派出一部携带爆炸物的机器人，接近约翰逊藏身处引爆，将他炸死。

　　新美国基金会专家彼得·辛格说，这是美国警方首次使用作战机器人击毙嫌疑人。纽约警察局长布拉顿则说：“我们也有这个能力。”

　　一些人呼吁当局禁止国防部出售，但美国政府诊断这类装备能加强警方执法能力，没有禁止。不少人担心，达拉斯警方的做法创下“一个危险的先例”。美国战略与国际问题研究中心研究员里克·纳尔逊说：“在战争中，你的目标是杀死敌人……警察的执法目标，却并不是这样。”

　　纳尔逊认为，当操作人员无需直接面对被杀死的对象时，摁下“行动”键的心理负担大幅减轻。因此，一旦使用“炸弹机器人”的闸门被打开，美国警方“将会越来越容易选择使用这一手段”。