转自 中国新一代人工智能
前言
我们期望人工智能和自主系统将极大地改变未来的战场。世界各地的军队正将人工智能和自主性技术纳入其组织过程、指挥控制系统、后勤系统以及武器系统本身，目的是尽可能地利用商业技术最前沿的发展。随着人工智能和自主系统在战场上的扩散，一个重要的问题出现了：人工智能和自主系统的扩散将如何影响或改变“威慑”？到目前为止的威慑主要是针对人类的，因为其涉及的是试图影响决策演算和其他人感知的人类，但若决策的过程不再完全只受人类控制时会怎样呢？报告提出了一些初步的考虑，并提出了有关威慑如何在人工智能时代和自主时代改变的想法。
报告目录
第一章 引言
第二章 主要威慑概念
第三章 人工智能和自主系统
第四章 人工智能和自主系统世界中的未来
第五章 人工智能和自主系统的兵棋推演
第六章 兵棋推演洞察和辩论
第七章 威慑的影响
第八章 决策的影响
第九章 结论和进一步研究
附录 一般形态分析
报告摘要
人工智能和自主系统具有改变未来战争的潜力。战场上越来越多无人系统的使用，商业领域人工智能技术取得的突破，以及更多国家对军事领域人工智能和军事应用自主系统的浓厚兴趣，使此类系统有可能在未来冲突中得到广泛应用。但当可以用机器速度做出决策及国家可以使更少人处于危险中时，威慑和升级也受到了相应影响。 在不稳定冲突与危机的环境下，更多地采用人工智能和自主系统将有可能影响到国家之间的威慑战略和军备升级。威慑的一方总是试图劝阻其他方采取特定的军事行动，当这些决策思考过程不再纯粹由人类做出，当决策后的行动以机器量级速度实施，人工智能和自主系统将对各国武力的暗中使用产生巨大影响，同时也将带来潜在误判和意料之外的后果。 本报告讨论了关键的威慑概念，提供了人工智能和自主技术的简要背景，确定了随着这些系统的使用而可能影响威慑和升级的关键因素，提出了一场战争游戏，其中一些拥有人工智能和先进自主系统的国家面临着彼此提供了这些技术对威慑和升级的潜在暗示，并明确了需要进一步研究的领域。
主要发现
智能化自主性兵棋推演发现
- 有人系统可能比无人系统更有利于威慑。虽然在这种情况下，美国和日本的系统是无人驾驶的，但中国有一些载人平台。中国平台上的人类使美日两国在使用武力时更加犹豫，并可经常将寻找方案以避免进一步升级的责任推到美日身上。
- 用无人系统取代有人系统可能不会被视为降低了安全承诺。尽管在威慑程度方面，载人系统可能比无人系统要好，但用无人系统取代有人系统并不总是被视为美国减少对该地区盟国承诺的标志。
- 自主系统的速度确实导致了战争的意外升级。设置为自主模式的系统对人类不打算使用武力的意外情况作出了使用的武力反应。
- 其他见解。距离仍然重要，人工智能在决策中的存在创造了混淆玩家和将不确定性插入动态的机会，推演中的国家在不同层次上混合了不同的人和机器架构，且玩家可以显著高估对手在人工智能等不可观察领域的现代化程度。
威慑的影响
- 自主和无人系统会影响延伸性威慑以及我们向盟国兑现承诺的能力。
- 广泛的人工智能和自主系统可能导致意外的升级和危机不稳定。
- 人类与智能代理的不同组合可能会影响两者之间的升级动态。
- 机器在理解人类威慑性方面可能会更差，甚至削弱之。
- 传统的威慑主要是关于人类试图理解其他人，而在这个新时代，威慑包括许多额外的途径理解
- 自主系统无意攻击目标的过往案例可能提供关于先进系统的技术故障的见解。
报告建议
进一步研究威慑理论及其他框架，思考研究人工智能和自主系统的潜在影响。
- 进一步研究威慑理论及其他框架，思考研究人工智能和自主系统的潜在影响。
- 评估新系统的升级潜力。
- 评估新作战概念的升级潜力。
- 在作战和战略层面对其他场景开展兵棋推演。
扩展：兵棋推演相关情况
我们对此主题进行验证的核心是一场兵棋推演，该过程涉及美国、中国、日本、韩国和朝鲜，是一个在未来世界中拥有人工智能和自主部队的战争。该战争场景中，中国是全球大国，美国、日本和韩国仍然是与中国对抗的盟友。推演的目的不是为测试或发现使用这些技术的玩家如何能与其他人抗衡，而是在操作框架中进行有条理的对话，讨论人工智能和自主技术如何随着事件的发展影响局势升级和威慑的方式。
推演进程概要
该兵棋推演始于中国试图对该地区实施更大的控制，美国和日本抵制这一企图。推演在几个方面进行了冲突升级，先是无人系统之间的冲突，最终演变成中美军事人员被杀的冲突。有意及无意加剧方面。美国和日本进行联合演习，故意挑衅中国。为了对日本某些港口实施封锁，中国采取了逐步升级的步骤，宣布进行无限制的潜艇战争，并击沉了一艘日本无人货船。美国和日本的反潜战装备随后击沉了一艘中国载人潜水艇，这是该游戏中的第一艘载人潜水艇。美国和日本在这一点上无法缓和局势。中国以导弹袭击美国和日本的舰队作为报复，也造成了人员伤亡。推演结束时，危机仍在升级。