【科讯】阿里云潘岳:异构计算四年算力提升100倍,云上AI推理占比超50%

本篇文章766字，读完约2分钟

12月17日，gtc china大会上，AlibabaCloud (阿里巴巴云)异构计算产品负责人潘岳在人工智能领域的诉求发生了明显变化，云上ai业务的推理诉求首次超过50%，ALIBABA

异性计算是最能发挥ai效率的计算方法。 潘岳表示，AlibabaCloud (阿里巴巴云)提供了超大规模的云上异构计算集群，支持每秒100亿次异构计算，每秒可以看到5.3亿张以上的照片。 认识3.3亿秒/9.2万小时的声音，相当于听写1723本《红楼梦》长篇小说或26万篇短篇小说。 每秒能翻译4千万个单词，相当于翻译了42本《哈姆雷特》。

4年前，云上80%的ai指控来自培训业务。 但是，年，云上ai推理业务的比例达到了一半以上。 潘岳说，AlibabaCloud (阿里巴巴云)的异构计算进入了新阶段，即硬件和软件一体化的云上的异构基础设施。

具体来说，客户不仅可以使用深度学习框架软件，还可以发挥gpu的计算能力，比如AlibabaCloud (阿里巴巴云)的神龙ai加速器和fastgpu等非常迅速的部署工具。 这些有助于客户在培训场景中提高2到10倍的性能，在推理场景中提高2到4倍的性能，至少节约50%的成本。

以AlibabaCloud (阿里巴巴云) iot的图像分类业务为例。 AlibabaCloud神龙ai加速了aiacc团队，与iot智能业务研究开发团队密切合作，将大规模的图像分类分散训练性能提高了5倍，显着提高了算法的研究开发效率，大大降低了价格。

ai业务距离最初的推论不到20%，到今天为止占一半。 只有人工智能初创企业进行了搜索，去了落地的各个行业。 云上的异构业务从单一深度学习训练场景，到今天的训练推理、云桌面、图形图像设计等多种场景。 异构计算是企业数字化、智能变革的证据和实践者。 潘岳表示。