新美国安全中心发布《人工智能与国家安全》报告
1. AI的发展将通过变革军事优势、信息优势和经济优势等三方面影响国家安全。
(1)在军事优势方面,AI的进步将催生新的军事能力,同时使更多的军事行动参与者可应对当前的军事挑战。
(2)在信息优势方面,AI将极大提升数据收集与分析能力,并提升产生数据的能力。
(3)在经济优势方面,AI的进步将引发新的市场变革。
2. 报告通过分析核武器、飞机、网电攻防和生物技术四个变革性军事技术案例,提出AI发展应注意的5个经验教训。
(1)突破性技术变革将引发激进的政府政策;
(2)军备竞赛有时不可避免,但可以设法控制;
(3)政府必须对相关的商业活动采取即促进又限制的措施;
(4)政府必须针对技术安全形成规范化的目标并提供适当的资源;
(5)在技术发生变化时,美国的国家也在发生变化。
报告以“整个政府”为框架,提出了关于AI技术的国家安全政策3个目标,包含11点建议。
(1)目标1:保持美国的技术领先地位
建议1:美国防部(DoD)应开展聚焦于AI的军事演习,以确定潜在的颠覆性军事创新。
建议2:DoD应资助多种形式的、长期的关于AI技术及其应用的战略分析。
建议3:DoD应有限考虑支持能带来持续利益和降低关键风险的AI研究与开发工作。
建议4:美国国防和情报机构应该重点投资在攻防两端“反AI”的能力。
(2)目标2:支持和平利用AI技术
建议5:DARPA,IARPA,海军研究署和国家科学基金会应增加与AI相关的基础研究的经费支持。
建议6:DoD应提出关于军民两用AI能力的信息需求(RFI)。
建议7:In-Q-Tel公司(负责为美国中央情报局做风投的公司)应提供额外的资源用于提升国家安全部门与商用AI公司间的合作。
(3)目标3:灾难性风险管理
建议8:国家安全委员会、DoD与国务院应清楚AI应用对美国的潜在影响,并制定限制条款。
建议9:DoD和情报部门应当建立专门的AI安全组织。
建议10:DARPA应针对AI系统的失效保护及安全使用技术提供研究经费支持。
建议11:美国国家标准技术研究所(NIST)和美国国家安全局(NSA)应探索应对基于AI的伪造技术的方法。
责任编辑:何周重