计世网

论人工智能是如何将芯片行业去商品化的
作者:DANIEL KOBRAN, PAPERSPACE | 来源:信软网
2018-08-20
从计算的早期开始,人们就一直认为AI有朝一日会改变这个世界。几十年来,我们已经看到无数对未来的描述,但技术本身仍然难以捉摸。这一切都在五年前发生了变化。随着现代深度学习

 

从计算的早期开始,人们就一直认为AI有朝一日会改变这个世界。几十年来,我们已经看到无数对未来的描述,但技术本身仍然难以捉摸。这一切都在五年前发生了变化。随着现代深度学习的出现,AI第一次触手可及。

今天的AI开发主要围绕深度学习算法。这些算法都有一个共同点,就是需要大量的计算能力。为了在通用智能上取得实际进展,我们需要好好看看为这项技术提供动力的计算系统。

2009年GPU的发明被视为一个关键点,引发了围绕深度学习的寒武纪爆发。从那时起,对并行计算架构的投资爆炸式增长。CB Insights表示,仅在2017年,新的专用AI芯片创业公司就筹集了15亿美元。这太惊人了。

新的创业公司纷纷入场,挑战英特尔、AMD、Nvidia、微软、高通,谷歌和IBM等老牌企业。像Graphcore、Nervana、Cerebras、Groq、Vathys、Cambricon、SambaNova Systems和Wave Computing这样的新兴公司正在成为为深度学习的未来铺平道路的新星。虽然这些初创公司肯定资金充足,但它们都处于早期阶段,我们还猜不出谁会成为赢家,老牌企业又会做到什么。

Nvidia将GPU作为人工智能和深度学习的替代品引入主流。该公司从消费者游戏领导者到AI芯片公司的转变很不错。对Volta的30亿美元投资以及像CUDA / cuDNN这样的深度学习软件库把Nvidia推向市场主导地位。去年,其首席执行官Jensen Huang被《财富》杂志评为年度最佳商人,公司也获得了“新英特尔”的美誉。

从表面上看,Nvidia已经彻底变了,但实际上它几十年来一直在制造相同的显卡。GPU是不是AI技术的未来尚不确定。批评者认为,GPU不适用于深度学习。 GPU是通用设备,可支持各种应用,包括从物理模拟到电影渲染的所有应用。而且不要忘记,在2009年深度学习中首次使用GPU实质上是一次黑客行为。

ASIC则正在兴起。向芯片市场发起进攻的公司正在证明AI将在专用芯片上速度要快得多。最有希望的候选者是ASIC,它可以高度优化以执行特定任务。如果将芯片从通用到专用分级,那么一头是通用的CPU,一头是专用的ASIC,中间的是GPU和FPGA。

CPU在执行高度复杂的操作方面非常有效——这基本上与支持深度学习训练和推理的特定数学类型相反。新进入者正在押注ASIC,因为它们可以在芯片级设计,以处理大量简单的任务。主板可以专用于一组窄函数——在这种情况下,稀疏矩阵乘法具有高度并行性。即使是设计为可编程且因此稍微更通用化的FPGA,其可能的多功能性也受到阻碍。

专用AI芯片的性能提升是显而易见的。这对更广泛的技术领域意味着未来是去商品化的。

相对于CPU而言,GPU已经去商品化了,而我们所看到的AI芯片投资的巨大增长意味着GPU最终会被更专业的东西取代。Nvidia的兴起就是因为英特尔的x86 CPU技术太通用,无法满足对图形密集型应用不断增长的需求。而这一次,英特尔和Nvidia都不会袖手旁观,让创业公司吞噬这个新市场,因为机会太大了。

可能的情况是,我们会看到Nvidia和英特尔继续大力投资Volta和Nervana(以及后续产品)。由于互操作性问题,AMD一直在苦苦挣扎,但很可能会有可用的东西。微软和谷歌正在Brainwave和TPU等项目上取得进展。然后是所有创业公司——这份名单似乎一直在增长,你很难找到一个风险投资基金没有对至少一个参与者投下重注。

芯片领域的另一个问题是边缘计算,其中推理是直接在设备上计算的,而不是云中或公司内部的数据中心。模型可以直接部署在边缘,以满足低延迟要求或对低功耗、间歇连接设备(嵌入式、物联网)进行预测。最近有数个关于基于边缘的AI加速器发布,例如谷歌的Edge TPU。

芯片领域的任何新人面临的最大挑战不是硬件,而是软件。Nvidia凭借CUDA / cuDNN在市场上占有一席之地——CUDA / cuDNN是软件库,构成了位于芯片顶部的必要抽象层,使TensorFlow和PyTorch等框架无需编写复杂的低级指令即可运行。如果没有这些高级库,通常很难从代码的角度来定位芯片。

问题是,CUDA和cuDNN不是开源的。它们是专有包,只能在Nvidia硬件上运行。在开发人员可以利用ASIC之前,提供商需要首先找到一种新方法,使框架可以轻松访问其芯片。如果做不到这一点,开发人员将不会大规模采用,开发人员只会坚持使用Nvidia。需要有一个等同于CUDA / cuDNN的开源或需要移植到特定ASIC的框架,就像Google对TPU和TensorFlow所做的那样。如果没有明确的解决方案,这是一个巨大的障碍。

这是什么意思呢?

至少在短期内,我们会看到太多的芯片,一些直接相互竞争,另一些则专注于训练和推理的特定方面。这意味着开发人员会有很多选择。与大规模商品化的CPU市场不同,这样一个市场看起来更朝着一个更加多样化、异构化和特定于应用程序的未来前进。

虽然我们不知道具体结果是什么,但有一点是肯定的:AI的未来在于专用ASIC而不是商品化硬件。

责任编辑:何周重