美国在2月份发布了一份声明，概述了其对AI和自主系统负责任的军事使用的愿景。
图片来源：Cheny Orr/路透社
3月14日，一架美国侦察无人机在黑海国际空域进行例行任务时被两架俄罗斯战斗机拦截。近半个小时里，这两架战机一直在骚扰这架MQ-9收割者无人机，经过它的翅膀和传感器上空，并向其泼洒燃油。其中一架战机撞到了收割者的螺旋桨，使其无法操作，并迫使美国操作员将无人机坠入海中。不久之后，莫斯科授予参与事件的两名俄罗斯飞行员奖章。
收割者的每个动作——包括在碰撞后自毁——都由数千英里外的美国军队的控制室进行监督和指导。但是，如果无人机根本不是由人类驾驶，而是由独立的人工智能软件驾驶呢？如果该软件将俄罗斯的骚扰视为攻击呢？鉴于人工智能（AI）和自主技术的创新速度极快，这种情况很快就可能成为现实。
传统的军事系统和技术来自一个人类在现场或至少实时决定生死的世界。AI-enabled的系统不那么依赖于人类因素；未来的自主系统可能完全缺乏它。这一前景不仅引发了责任问题，而且意味着没有关于事情出错时的已经建立的规定。如果美国的自主无人机轰炸了它只是进行监视的目标怎么办？华盛顿如何向另一方保证这起事件是无意的并且不会再次发生？
来源：外交事务杂志