计世网

新美国安全中心发布《人工智能与国家安全》报告
来源:中国国防科技信息网
2018-07-12
2017年7月12日,新美国安全中心发布《人工智能与国家安全》报告,分析了人工智能技术对国家安全的潜在影响,并提出了3点目标和11个发展建议。

 

过去5年,人工智能(AI)领域研究取得了重大技术进展,远超出此前的预期,这主要得益于机器学习子领域的快速发展。大多数业内专家相信AI将持续甚至加速进步。当前,AI技术进展主要发生在民用企业或学术界,美国政府机构处于落后状态。然而,AI对国家安全起到至关重要的影响。如机器学习技术可使一些劳动密集型工作的自动化程度大幅提升,如卫星获取的图像分析和网电攻防领域等。报告认为,未来随着技术的持续进步,AI将像核武器、飞机、计算机和生物技术一样,日益成为可影响国家安全的变革性技术。主要结论如下:

1. AI的发展将通过变革军事优势、信息优势和经济优势等三方面影响国家安全。

(1)在军事优势方面,AI的进步将催生新的军事能力,同时使更多的军事行动参与者可应对当前的军事挑战。

(2)在信息优势方面,AI将极大提升数据收集与分析能力,并提升产生数据的能力。

(3)在经济优势方面,AI的进步将引发新的市场变革。

2. 报告通过分析核武器、飞机、网电攻防和生物技术四个变革性军事技术案例,提出AI发展应注意的5个经验教训。

(1)突破性技术变革将引发激进的政府政策;

(2)军备竞赛有时不可避免,但可以设法控制;

(3)政府必须对相关的商业活动采取即促进又限制的措施;

(4)政府必须针对技术安全形成规范化的目标并提供适当的资源;

(5)在技术发生变化时,美国的国家也在发生变化。

报告以“整个政府”为框架,提出了关于AI技术的国家安全政策3个目标,包含11点建议。

(1)目标1:保持美国的技术领先地位

建议1:美国防部(DoD)应开展聚焦于AI的军事演习,以确定潜在的颠覆性军事创新。

建议2:DoD应资助多种形式的、长期的关于AI技术及其应用的战略分析。

建议3:DoD应有限考虑支持能带来持续利益和降低关键风险的AI研究与开发工作。

建议4:美国国防和情报机构应该重点投资在攻防两端“反AI”的能力。

(2)目标2:支持和平利用AI技术

建议5:DARPA,IARPA,海军研究署和国家科学基金会应增加与AI相关的基础研究的经费支持。

建议6:DoD应提出关于军民两用AI能力的信息需求(RFI)。

建议7:In-Q-Tel公司(负责为美国中央情报局做风投的公司)应提供额外的资源用于提升国家安全部门与商用AI公司间的合作。

(3)目标3:灾难性风险管理

建议8:国家安全委员会、DoD与国务院应清楚AI应用对美国的潜在影响,并制定限制条款。

建议9:DoD和情报部门应当建立专门的AI安全组织。

建议10:DARPA应针对AI系统的失效保护及安全使用技术提供研究经费支持。

建议11:美国国家标准技术研究所(NIST)和美国国家安全局(NSA)应探索应对基于AI的伪造技术的方法。

责任编辑:何周重