解读阿里AI芯片含光800:超强算力偏重AI推理

时间:2019-11-03 来源: 国际新闻

对Ali AI芯片的解读包括800:超级计算能力偏向于AI推理

2019 Drive China

Drive China于2019年9月25日举行。今天上午,一年一度的云起大会在杭州隆重开幕。今年的云起大会吸引了来自世界各地的8万多名嘉宾,规模是有史以来最高的。

在今天的主论坛开幕式上,阿里巴巴的半导体公司Pingtou Ge发布了带有光800的新硬件NPU芯片产品。据悉,在Rsenet 50 v1条件下,含光800的峰值性能可以达到 IPS。峰值能效达到500 IPS/W。

佛法学院院长张建峰指出,Light 800是世界上性能最高的AI推理芯片。它比业界最好的AI芯片好四倍;能源效率为500 IPS/W,是第二位的3.3倍。在杭州市大脑的业务测试中,包含800个光源的计算能力相当于10个GPU。

目前,Light 800已经通过阿里云导出了AI计算能力。基于Light 800的AI云服务已于今天正式启动,与传统的GPU计算能力相比,其性价比提高了100%。

“这是Ali首次使用自己的硬件体系结构,也是第一家开发如此大芯片的互联网公司。”张建峰说,该芯片的设计和验证历时一年半,因此充满信心。阿里可以成为一家集成软件和硬件并协同发展的公司。

Light 800是具有偏差推理的AI芯片。由于人工智能芯片的差异化设计主要体现在硬件架构和软件算法中,因此需要对两者进行高度调整以最大程度地提高芯片的价值。从当前的角度来看,传统的CPU和GPU在深度学习和推理任务中并未充分利用硬件功能。例如,GPU架构主要针对图像处理设计,其硬件结构和软件生态几乎被巩固,因此难以深度优化AI任务。

light 800的性能突破是由于硬件和软件的协同创新。在芯片架构方面,Light 800采用了创新的架构,支持深度学习中使用的大量权重参数和张量数据,支持稀疏压缩和量化。在处理的基础上,独特设计的数据访问和管道处理技术大大降低了I/O需求和数据移动。 NPU还深度优化卷积,矩阵乘法,矢量计算和各种激活函数,并通过高效的硬件资源调度和完全并行的数据流处理将AI运算的性能和能效提升到了极致。

算法,阿里巴巴达摩的机器智能实验室在过去两年中建立了完整的算法系统,涵盖语音智能,语言技术,机器视觉,决策智能等,并取得了许多世界领先的成果;在硬件方面,阿里巴巴在服务器,FPGA和存储领域拥有多年的研发经验。此外,平头团队在架构和编译技术领域拥有深厚的技术储备。

Drive China于2019年9月25日举行。今天上午,一年一度的云起大会在杭州隆重开幕。今年的云起大会吸引了来自世界各地的8万多名嘉宾,规模是有史以来最高的。

在今天的主论坛开幕式上,阿里巴巴的半导体公司Pingtou Ge发布了带有光800的新硬件NPU芯片产品。据悉,在Rsenet 50 v1条件下,含光800的峰值性能可以达到 IPS。峰值能效达到500 IPS/W。

佛法学院院长张建峰指出,Light 800是世界上性能最高的AI推理芯片。它比业界最好的AI芯片好四倍;能源效率为500 IPS/W,是第二位的3.3倍。在杭州市大脑的业务测试中,包含800个光源的计算能力相当于10个GPU。

目前,Light 800已经通过阿里云导出了AI计算能力。基于Light 800的AI云服务已于今天正式启动,与传统的GPU计算能力相比,其性价比提高了100%。

“这是Ali首次使用自己的硬件体系结构,也是第一家开发如此大芯片的互联网公司。”张建峰说,该芯片的设计和验证历时一年半,因此充满信心。阿里可以成为一家集成软件和硬件并协同发展的公司。

Light 800是具有偏差推理的AI芯片。由于人工智能芯片的差异化设计主要体现在硬件架构和软件算法中,因此需要对两者进行高度调整以最大程度地提高芯片的价值。从当前的角度来看,传统的CPU和GPU在深度学习和推理任务中并未充分利用硬件功能。例如,GPU架构主要针对图像处理设计,其硬件结构和软件生态几乎被巩固,因此难以深度优化AI任务。

light 800的性能突破是由于硬件和软件的协同创新。在芯片架构方面,Light 800采用了创新的架构,支持深度学习中使用的大量权重参数和张量数据,支持稀疏压缩和量化。在处理的基础上,独特设计的数据访问和管道处理技术大大降低了I/O需求和数据移动。 NPU还深度优化卷积,矩阵乘法,矢量计算和各种激活函数,并通过高效的硬件资源调度和完全并行的数据流处理将AI运算的性能和能效提升到了极致。

算法,阿里巴巴达摩的机器智能实验室在过去两年中建立了完整的算法系统,涵盖语音智能,语言技术,机器视觉,决策智能等,并取得了许多世界领先的成果;在硬件方面,阿里巴巴在服务器,FPGA和存储领域拥有多年的研发经验。此外,平头团队在架构和编译技术领域拥有深厚的技术储备。

1769-OG16_泉州金盛源电子贸易有限公司_商国互联网

新闻排行
  1.   小米的大老板雷军一次又一次地压低小米价格,也惹得同行们一次又一次的指责他,好比说魅族的黄章就经常指责雷军,说他简直就是不给别人活路。而前两天雷军再一次变成了价格屠夫,痛下血本将自己旗下的某款旗舰

      小米的大老板雷军一次又一次地压低小米价格,也惹得同行们一次又一次的指责他,好比说魅族的黄章就经常指责雷军,说他简直就是不给别人活路。而前两天雷军再一次变成了价格屠夫,痛下血本将自己旗下的某款旗舰...

  2. 参考新闻网8月19日报道香港媒体称,国务院新闻办在五个月内发布了第三份白皮书,解释了新疆维吾尔自治区的政策,称新疆的职业技能教育培训中心取得了成功。据香港《南华早报》网站8月16日报道,在8月16日

    参考新闻网8月19日报道香港媒体称,国务院新闻办在五个月内发布了第三份白皮书,解释了新疆维吾尔自治区的政策,称新疆的职业技能教育培训中心取得了成功。据香港《南华早报》网站8月16日报道,在8月16日...

  3. ?中新网,深圳,9月29日(郑小红,邓中坤)中集集团在前海的土地问题迎来了重要的新发展。中集集团的全资子公司深圳南方中集集装箱制造有限公司(以下简称“南方中集”)与深圳市规划自然资源局,深圳市前海深港

    ?中新网,深圳,9月29日(郑小红,邓中坤)中集集团在前海的土地问题迎来了重要的新发展。中集集团的全资子公司深圳南方中集集装箱制造有限公司(以下简称“南方中集”)与深圳市规划自然资源局,深圳市前海深港...

  4. ?在过去的几天里,超级台风“丽泽玛”逐渐消失,深圳的蓝天白云再次出现。今年9号台风“Likima”于8月8日上午8点8点8分迎来上海。上海中央气象台于8月8日17:00发布台风蓝色预警信号。该市还启动

    ?在过去的几天里,超级台风“丽泽玛”逐渐消失,深圳的蓝天白云再次出现。今年9号台风“Likima”于8月8日上午8点8点8分迎来上海。上海中央气象台于8月8日17:00发布台风蓝色预警信号。该市还启动...

  5. 炎热的天气使人们没有胃口,承受人们的压力想逃避。也许我不能分担你的压力,但至少我可以给你一些安慰食物

    炎热的天气使人们没有胃口,承受人们的压力想逃避。也许我不能分担你的压力,但至少我可以给你一些安慰食物...

  6. 众所周知,在第二次世界大战之后,美国在冷战期间发起了激烈的军备竞赛。当苏联首次发展出对美国的军事优势

    众所周知,在第二次世界大战之后,美国在冷战期间发起了激烈的军备竞赛。当苏联首次发展出对美国的军事优势...

  7.   汇通网9月11日讯——9月11日,脆弱的投资者信心支撑美元、压低日元,但在未来一周多家主要央行将召开政

      汇通网9月11日讯——9月11日,脆弱的投资者信心支撑美元、压低日元,但在未来一周多家主要央行将召开政...

  8. 7月,在线贷款申请再次推迟,但行业合规并未停止。最近,瑞穗金融正式访问了国家互联网应急中心的实时数据?

    7月,在线贷款申请再次推迟,但行业合规并未停止。最近,瑞穗金融正式访问了国家互联网应急中心的实时数据?...

  9. 2019年5月25日,中国国际大数据产业博览会(数字博览会)在贵阳举办了“大数据试点,创造媒体整合,新格式?

    2019年5月25日,中国国际大数据产业博览会(数字博览会)在贵阳举办了“大数据试点,创造媒体整合,新格式?...

  10. 15日,

    15日,...

友情链接