科幻电影中的杀人机器人

据《财富》北京时间8月21日报道，包括SpaceX创始人埃隆·马斯克(Elon Musk)和谷歌Deepmind联合创始人穆斯塔法·苏莱曼（Mustafa Suleyman）在内的116名机器人专家和人工智能研究人员，联名致函联合国，呼吁严格监督自治武器——又名“杀人机器人”的使用。虽然信函本身措辞比较谨慎，但随同信函发表的一份新闻稿表示，他们希望“在国际上禁止使用杀人机器人”。

在这封信函上联名的，还包括丹麦Universal Robotics、加拿大Element AI和法国Aldebaran Robotics的高管和创始人。

信函用骇人的措辞描述了机器人武器的风险，并表示需要立即采取强有力的措施。这封信函是发送给一个考虑把机器人武器加入联合国《特定常规武器公约》的联合国机构的。1981年通过的《特定常规武器公约》以及所附的三项议定书，限制在战争中使用化学武器、致盲性激光武器、地雷，以及“对士兵造成不必要或不合理伤害，或无差别地影响平民”的其他武器。

机器人士兵可以减少士兵伤亡人数——至少是富裕和发达国家的士兵。但是，机器人战士对平民造成的危险，是马斯克等机器人专家关心的一大问题，他们在信函中写道，“它们能够成为恐怖分子的武器，独裁者和恐怖分子用来对付无辜平民的武器，可能受到黑客攻击用来作恶的武器。”

信函还警告称，联合国不能快速采取行动，将导致杀人机器人“军备竞赛”——但实际情况可能是，杀人机器人军备竞赛已经开始。包括雷声、达索、米格和BAE Systems在内的公司，已经在开发或开发成功自治武器系统或前导技术

Element AI创始人约书亚·本吉奥（Yoshua Bengio）还发出了另一个有趣的警告，“人工智能武器化会真正伤害人工智能有益应用的进一步开发”。 美国作家弗兰克·赫伯特（Frank Herbert）在科幻小说《沙丘》中就描述了这样的场景。上述联合国武器工作组定于8月21日举行会议，但有媒体报道称会议可能推迟到11月份。