EN [退出]

南方网帐号登录

× 没有帐号?极速注册
南方网>IT频道>IT即时新闻

哈佛大学报告:AI影响力比肩核武器

2017-08-11 14:54 来源:人民邮电 郭闻

  应美国情报高级研究计划局(IARPA)的要求,哈佛大学肯尼迪政治学院贝尔弗科学与国际事务中心7月发布《人工智能与国家安全》报告,分析人工智能(AI)对美国家安全的巨大影响,为美政府AI政策提供建议。

  虽然美国军事和情报界计划在投资组合中纳入更多人工智能技术,但最具颠覆性的AI应用尚未实现。该报告提出了制定人工智能和国家安全未来政策的三个目标:保持美国技术领先优势,为军事和情报能力优势提供砝码;支持AI用于和平和商业用途,帮助民事和商业部门享受新技术带来的好处;减少灾难性风险,防范或降低偶发、敌对事件带来的严重后果。

  AI技术发展迅猛。人工智能领域在过去5年取得了显著的技术进步,远远超出预期;这种形势还将会继续发展,甚至会进一步提速。推动AI快速发展的4个因素是:计算机性能在近几十年呈指数级增长、训练机器学习的大型数据集数量增加、机器学习技术不断进步、商业投资猛增。其中机器学习子领域的发展是主因。

  AI技术是给国家安全带来深刻变化的颠覆性技术。现有的AI技术能力在国家安全方面拥有巨大潜力,如机器学习技术可使卫星图像分析和网络防御等劳动密集型活动实现高度自动化。未来的AI技术有可能与核武器、飞机、计算机和生物技术一样,成为给国家安全带来深刻变化的颠覆性技术。AI的每一种技术都为美国国家安全机构的战略、组织、优先事项和资源分配带来重大变革,其未来影响力至少可与核武器比肩。目前,DARPA正在资助研究传感器和智能系统,这些系统甚至可以从未连接的设备中提取信息。

  AI技术对国家安全的具体影响。在军事方面,AI的发展将产生新的能力,并使现有能力成本被更广泛的行为体所接受,AI催生的商业可用技术(如远程无人机包裹运送等)可能会使弱国和非国家行为体获得远程精准打击能力。在网络领域,目前需要大量高技能劳动力的活动(如先进持续性威胁行动等)未来可能会实现高度自动化,并在黑市上广泛出售。在信息优势方面,AI将大幅提升数据收集、分析以及建立数据的能力。在情报行动中,意味着有越来越多的信息源可供分辨真相;相应的,制造伪情报也变得更加便利。但同时,借助AI技术,伪造音视频媒体的质量迅速提升,同时成本迅速下降。在经济方面,AI的发展可能会带来一次新的产业革命,将重新塑造世界经济中的劳资关系。

  变革性技术案例带来的经验。该机构分析了之前的核、航空航天、网络和生物技术4个变革性军事技术案例,从中提取出以下几条可用的经验和教训:激进的技术变革催生全新的政府政策及思想,世界各国政府将考虑甚至部分国家将采取相当激进的政策措施;AI在战争和间谍活动上的扩展应用是不可避免的,但必须设立更加温和的目标,对AI技术进行安全有效的管理;必须认识到AI技术固有的军民两用性,对突破性技术进行保密和保护,扩展民用颠覆性技术的分类和认证流程,限制商业公司向海外出售技术;应考虑成立正式的研发管理机构;应考虑确立AI军事情报应用的技术投资组合,建立长久的技术优势。

  该报告对美国政府有关AI技术的国家安全政策提出3项目标和11项建议。

  维持美国的技术领先优势方面,国防部应开展以AI为核心的军事演习,以甄别潜在的颠覆性军事创新;国防部应资助以人工智能技术及影响为主题的各种长期战略分析;国防部应优先考虑能够提供可持续优势并降低核心风险的AI研发投资领域;美国防情报界应大力投资“反AI”的进攻和防御能力。

  支持AI技术用于和平目的方面,DARPA(美国国防高级研究计划局)、IARPA、海军研究办公室和国家科学基金会应增加与AI相关的基础研究经费;国防部应发布关于AI军民两用能力的信息征询书;向美国In-Q-Tel公司(专门服务于中央情报局)提供更多资源,促进国家安全机构和AI商业公司的合作。

  管理灾难性风险方面,国家安全委员会和国务院需研究美国应利用条约的形式限制某些AI应用;国防和情报部门应设立专门的AI安全机构;DARPA应为AI系统自动防故障和安全运行技术研究提供资金;国家标准与技术研究院和国家安全局应探索防AI造假技术方案。

编辑: 王如
相关新闻

网友评论
请登录后进行评论| 0条评论

请文明发言,还可以输入140

您的评论已经发表成功,请等候审核

小提示:您要为您发表的言论后果负责,请各位遵守法纪注意语言文明

微信
QQ空间 微博 0 0
回到首页 回到顶部

网站简介-广告服务-诚聘英才-联系我们-法律声明-友情链接

本网站由南方新闻网版权所有,未经授权禁止复制或建立镜像 广东南方网络信息科技有限公司负责制作维护

违法和不良信息举报电话:87373397 18122015068

ICP备案号:粤B-20050235