。LAWS实际上是一种军用智能机器人，这种机器人与人脸识别、无人机、精准定位等技术的结合，可以不经过人类干预，自主选择和攻击包括人员和装备在内的军事目标。AI技术不是武器，但是，能够成为武器性能提升的助推器，AI+无人机、AI+无人地面车辆、AI+无人潜航设备已经广泛应用于军事领域，机器人作战系统也正在研究和部署。

2018年7月，在瑞典斯德哥尔摩举办的国际人工智能联合会议上，包括SpaceX及特斯拉CEO埃隆·马斯克（Elon Musk）、谷歌DeepMind的三位创始人在内的超过2000名AI学者共同签署《禁止致命性自主武器宣言》（Lethal Autonomous Weapons Pledge），宣誓不参与LAWS系统的开发、研制工作。笔者有幸参与签署了这份宣言。这也是学界针对“杀人机器人”最大规模的一次集体发声。

《禁止致命性自主武器宣言》呼吁，人的生命绝不能交给机器处置。我们的呼吁充满了道德与伦理价值取向，如果让机器人控制人的生死，那将是对社会、对人类最大的负罪，因此，人类在任何时候都不能被机器所掌控。LAWS在没有人为干预的情况下会自动以人为目标进行攻击，并致人死亡，这将给每个国家带来恐慌，给人类带来伤害。

当前，共有28个联合国成员国明确，公开支持禁止杀伤性自主武器系统的呼吁。在此，笔者呼吁：应当在联合国层面，由各主权国家讨论“致命性自主武器”给全球性带来的风险与安全问题，并签署《联合国禁止致命性自主武器公约》。

二、数据与算法安全是AI安全的核心

新一代AI的三大基石，即算法、数据和计算能力，其中，数据是新一代AI发展的基础，计算能力将数据进行计算，算法则是针对不同行业建立的对应的模型，满足这三者，才能实现从数据到价值的输出。当前，加速积累的技术能力与海量的数据资源，巨大的应用需求，以及开放的市场环境有机结合，形成了我国人工智能发展的独特优势。

事实上，我国人工智能的发展，不缺少数据，而缺少智能数据的支撑，因此，应当强化对数据驱动与知识引导相结合的AI新方法的研究，特别是加强以自然语言理解和图像图形为核心的认知计算理论和方法、综合深度推理与创意AI理论与方法、非完全信息下智能决策基础理论与框架，以及数据驱动的通用AI数学模型与理论等基础领域的研究，在此基础上应当统筹利用大数据基础设施，强化AI领域的智能数据安全与个人隐私保护。

新一代AI的本质是建立在大数据基础上的自我学习、判断和决策的算法