周鸿祎智能大会“泼冷水”：一件条纹衫就能骗过AI
来源:网易智能
2019-05-17
还在吹爆人工智能？大热天的，红衣主教给你们降降温。
第三届世界智能大会5月16日至19日在天津召开。360董事长兼CEO周鸿祎发表了主题演讲
周鸿祎就人工智能的安全问题发表了新的观点，并举出了三个例子：波音737MAX坠机、条纹衫骗过AI数据库、人工智能新闻主播。
周鸿祎进一步解释称，这三件事情其实不仅折射出人工智能本身的安全问题，而且涉及人工智能的伦理问题。波音737MAX的传感器被干扰，危险时刻是交给机器来决策，还是交给人来决策？人脸识别用一件条纹衫就可以骗过背后的数据库，是不是反而会暴露更多问题？周鸿祎提醒大家不要只觉得人脸识别厉害，这一技术本身也存在先天缺陷：黑客们通过研究发现，只要把一种奇怪的条纹打印下来，别在衣服上，就能“屏蔽”掉人脸识别系统，出入自由。
此外，他还谈到如果AI主播被攻破，传播不当言论是否会引起社会恐慌？在人工智能快速发展的同时，这些问题都值得我们深思。
在周鸿祎看来，智能安全问题并不是仅仅指人工智能，人工智能更多的是指深度学习，而智能安全的范围是非常广义的。随着人工智能，尤其是万物互联的到来，每一个智能终端都是潜在的靶点，智能安全不仅涉及线上的网络安全，而是透射到物理世界的国家安全、国防安全、社会安全、城市安全甚至民生安全。、
周鸿祎指出：“这种情况下，如果我们还像过去一样进行单点防守，在某一个单位内部不断地去堆杀毒软件，去堆防火墙，去堆安全盒子很不可取，我们不能用1.0的马奇诺防线抵御2.0的网络攻击。”
他最后说道：“智能安全问题需要打造系统性的防御方案，也就是基于全网的安全大数据构建网络安全大脑。”
责任编辑：何周重
专题
最新发布