谷歌今天宣布向其公有云平台上增加ensor processing units,这是一款专门为人工智能工作负载提供动力的内部设计的芯片系列。
一个tpu由四个专用集成电路组成,配有64gb的“超高带宽”内存。这一组合单元可以提供高达180 teraflops的性能。今年晚些时候,谷歌计划增加一个集群选项,让云客户将多个tpu聚合成一个“pod”,速度达到petaflop的范围(是teraflop的1000倍)。
在今天的公告中谷歌并没有分享更多的性能细节。不过,去年谷歌的两位顶级工程师写的一篇博客文章显示,当时内部使用的pod包括64个tpu,总吞吐为11.5 petaflops。相比之下,世界上功能最强大的超级计算机可以达到93 petaflops,但值得注意的是,谷歌很可能没有使用相同的基准测试方法来测量tpu的速度。
无论哪种方式,这些芯片都是google云平台的一个重要补充。当谷歌于去年4月首次向全世界展示tpu规格的时候,它透露该芯片至少可以运行某些机器学习工作负载,比现有的芯片快15至30倍。这就包括特别适合用于机器学习模型的gpu。gpu的主要制造商包括nvidia和amd公司,这两家公司仍然是当今大多数项目的首选。
因此,谷歌的云客户应该能够更快速地培训和运行他们的人工智能软件。谷歌表示,一个tpu可用于在一天之内实施主流resnet-50图像分类模型,达到可接受的精确度水平。
谷歌已经创建了几个预先优化的神经网络包,让客户可以将其运行在tpu上,其中包括一个resnet-50版本,以及用于机器翻译、语言建模和识别图像内物体的模型。企业客户也可以使用谷歌的开源tensorflow机器学习引擎创建自己的人工智能工作负载。
喜欢使用传统图形卡进行人工智能项目的客户,今天也看到了一项新的功能。谷歌为其kubernetes engine服务添加了gpu支持,以允许将机器学习模型打包到软件容器中。后一种技术提供了一个轻量级抽象层,使开发人员能够更轻松地推出更新并跨环境迁移应用。
这个新的tpu价格为每小时每单元6.50美元,而通过kubernetes engine租赁的gpu将按谷歌现有的每种支持芯片型号收费。
这种芯片对于各种人工智能任务、特别是对于一些计算机工作负载而言的就绪情况,仍然不明确。moor insights&strategy总裁兼首席分析师patrick moorhead表示:“tpu是一个很好的试水方式,但并一定适合于运行生产工作负载。gpu是进行训练的最佳方式。锁定到tpu,意味着被gcp和tensorflow锁定。”
而且谷歌也不是唯一追求自主开发人工智能芯片的公司。芯片巨头英特尔公司一直在推销其最新用于人工智能工作负载的cpu,以及称为fpga的定制芯片。
据the information报道称,亚马逊公司正在开发自己的人工智能芯片,该芯片可以帮助其echo智能音箱和其他使用其alexa数字助理的硬件在设备上执行更多处理任务,以便它可以比调用云的响应速度更快。
来源:至顶网









