赣州新闻网

首页 / 科技

四项第一!阿里如何帮企业用最少的钱办最多的事

2020-04-10 · 赣州新闻网 · 科技

先说结论,阿里的“四项第一”是从“底层架构”而不是简单的“上层应用”进行创新,在硬核领域达到世界第一。我将在这里用“人话”解释一下阿里云到底做了什么,以及图像识别竞赛四项第一的意义。

四项第一!阿里如何帮企业用最少的钱办最多的事

图像识别模型要在一张显卡上花大量时间训练(P100训练一轮需要5天)。一张显卡] ] T 4 m # o跑得慢,几张显卡放一块跑不就快了?这就是使用分布式并行计算加速训练。道理很简L + 0 ) 6 Z j M单,但是实际操作中却有很多难题。

实际上,我们可以用盖房子的例子类比阿F v T z l F B : -里云的工作。

一个人要花100天的时间盖起一栋大楼,并不意味着100个人可以在一天内盖起一幢大楼。而阿里云使用的分布式并行技术也和一群人一起盖房子一样,/ ] y $ i随着人数增多会遇到H t 0 2 X 7 } 1各种问题,导致效率与人数的增长不成正比。

首先,人数一多起来,管理就出现了问题。

目) | r I前有两种不同的并行模式,一种是PS! + u s p模式分布式,一种是对等模式分布式。PS模式就像建立施工指挥部,里面有几个人集中调度所有的物资,其他人只需要听指挥部的安排工作就好。但是人一多W q * . i + 8 *起来,指挥部就会人手不足,速度也会慢下来。此时,对等模式分布式就出来解决了这个问题,对等模式分布式则是分成很多对等部门,这些部门都做同样的工作,自行互相协调。

恐怖的是,这两个模式往往相互交叉且并不兼容,给优化带来很大的问题。阿里云的第一个工作,就是统一# I + W了两种分布式训练模型的加速。不n B 5 + 1 E ? o管你有没有指挥部,阿里云都有办法让你更有效率,且这个过- a - - X X程是自发的,你无需特地告诉系统你需不需要指挥部,躺在床上,阿里云就会自己动。

那么他是怎K Q 8 } + E a @ 么动的呢,这背g O 8 x Q后就有很多技术专家、架构师和工程师(程序员、程序员和程序员)一起协作打造的GPU集群和任务调度的系统了。

接着拿盖房子为例,假( U D D | , K i ,设有三种人:传令员A,搬运工B和泥瓦匠C,A让B把多少材料运输给C,C收到了之后才能干活。如果直走这一趟,那么A只要一张嘴就可以摸鱼了,B只要运到了就可以躺着了,C在运到之前则无事可做。“调度”就是在A分配好第一个B的工作之后,马上跑步去分配另一个B同学的任务,甚至在B同学不够n } r * g p B用的C N _ 5 T b时候,自己撸起袖子帮忙搬砖。如此一来任何时候,所有人都在工作,没有人摸鱼效率自然高。

四项第一!阿里如何帮企业用最少的钱办最多的事

不过,b * M ( 1 * Z 1这些说着容易做起来难,因为很难在7 H 3程序运行前就预想到所有的情况,并保证所有情况下都保持最高效率。建大楼时,规矩不对可以调整,程序C i 7 = e |一旦写好运行就不会自己改了。

阿里云拿到的四项指标第一,实际上就是全部指标都拿了第一,即训练时间、训练花费、推断时延、推断花费。这实际上也是人工智能从业者最需要的四个指标。

首先,作为一个研究人员(比如我),无论是在学校还是企业。都在面临一个很大的压力:“如何快速验证自己想法的正确性,抢先发表”。实际上,更短的训练时间保证了一个科研人员可以大量q { $ |试错。爱迪生找电灯用的灯丝花了1600次,如果还和之前说的一块卡5天验证一次,那么则需要1600*5/365≈22年。而实际上,阿里这次从5天压缩到了2分多钟,这样的效率提升f / m V V ~对研究者的意义不言而喻。

而对于需要AI技术的企业,* r * ^ C C更短的推断时延保证了业务的流畅运: * g 3 C M行,没人会愿意在高铁站门口多等哪怕一毫秒。纵享丝滑永远是产品和客户的需求。

最后,阿里云使用了16个节点,每个节点h B f 0 E ] ] L A配8个v100显卡。p F ] ` : g而一块v100显卡,现在均价五万五千元……那买齐所有显卡需要5.5*16*8=704万元!即使是人均年薪百万的知乎精英,不吃不喝七年也买不起。一套七百万不止的系统,一定会让原本就不富裕的教授/公司雪上加霜。而阿里云实际上是在线租| F T ( ~ [用的云服务,而云服务则帮助了我们穷人也能用得起R $ =最高大上的硬件e r X。本来七百万的8 : P ` F , O Y @系统,现在训好只需要14美刀,这么低的成本四舍五入就是不要钱E _ ? 1 I `啊!

总而言之,随着AI的进一步发展,日渐y K s M 3增长的需求与昂贵的成本将会推动云服务成为AI业务的主流。u N s - p & 6 ` X而阿里云这次则通过了底层架构的创新,实现了用最少的钱,在最6 : a 7 j Y M短的时间办最多的事。这无疑是激动人心的。


房子企业发展设有工作赣州需求告诉信丰