精华内容
下载资源
问答
  • 2019-12-18 13:24:27 乾明 编辑整理 量子位 报道 | 公众号 QbitAI 一年一度,英伟达GTC China如期举办。...今年的英伟达创始人黄仁勋,对自动驾驶极为关注。...可以看出,英伟达进军自动驾驶...

     2019-12-18 13:24:27

    乾明 编辑整理 
    量子位 报道 | 公众号 QbitAI

    英伟达开源自动驾驶AI算法,升级芯片性能7倍于Xavier

     

    一年一度,英伟达GTC China如期举办。

    今年的英伟达创始人黄仁勋,对自动驾驶极为关注。

    不仅发布了用于自动驾驶和机器人的软件定义平台,能够Hold住L2级到L5级完全自动驾驶汽车开发。

    此外,英伟达还面向自动驾驶汽车开发者开源了开发深度神经网络。可以看出,英伟达进军自动驾驶领域步骤明显加快。

    也就是在今天,英伟达也获得了一个新客户:滴滴。

    英伟达开源自动驾驶AI算法,升级芯片性能7倍于Xavier

     

    滴滴宣布已与英伟达达成自动驾驶合作,将在数据中心使用NVIDIA®GPU训练机器学习算法,并采用NVIDIA DRIVE™为其L4级自动驾驶汽车提供推理能力。

    自动驾驶和机器人软件定义平台

    这一平台,名为NVIDIA DRIVE AGX Orin™。内置全新Orin系统级芯片:由170亿个晶体管组成。

    英伟达为之干了4年。

    Orin系统级芯片中,集成了NVIDIA新一代GPU架构和Arm Hercules CPU内核以及全新深度学习和计算机视觉加速器,每秒可运行200万亿次计算,几乎是NVIDIA上一代Xavier系统级芯片性能的7倍。

    英伟达开源自动驾驶AI算法,升级芯片性能7倍于Xavier

     

    Orin还可处理在自动驾驶汽车和机器人中同时运行的大量应用和深度神经网络,并且达到了ISO 26262 ASIL-D等系统安全标准。

    作为一个软件定义平台,DRIVE AGX Orin的使用范围很广。英伟达介绍称,它能够赋力从L2级到L5级完全自动驾驶汽车开发的兼容架构平台,助力OEM开发大型复杂的软件产品系列。

    此外,Orin和Xavier均可通过开放的CUDA、TensorRT API及各类库进行编程,开发者可以一次性投资使用跨多代的产品。

    老黄说,“打造安全的自动驾驶汽车,也许是当今社会所面临的最大计算挑战。实现自动驾驶汽车所需的投入呈指数级增长,面对复杂的开发任务,像Orin这样的可扩展、可编程、软件定义的AI平台不可或缺。”

    英伟达开源自动驾驶AI算法,升级芯片性能7倍于Xavier

     

    NVIDIA DRIVE AGX Orin系列将包含一系列基于单一架构的配置,并将于2022年开始投产。

    怎么吸引开发者用他们的平台?老黄选择把深度神经网络开源~

    开源自动驾驶汽车开发深度神经网络

    英伟达表示,NVIDIA DRIVE已成为自动驾驶汽车开发的行业标准,并且被汽车制造商、卡车制造商、自动驾驶出租车公司、软件公司和大学所广泛采用。

    在GTC China上,他们也向自动驾驶汽车开发者开源其预训练AI模型和训练代码。

    通过这一套NVIDIA AI工具,NVIDIA生态系统内的开发者们可以自由扩展和自定义模型,从而提高其自动驾驶系统的稳健性与能力。

    英伟达开源自动驾驶AI算法,升级芯片性能7倍于Xavier

     

    老黄说:“AI自动驾驶汽车是软件定义的汽车,它必须基于大量数据集才能在全球范围行驶。我们向自动驾驶汽车开发者开源我们的深度神经网络,并为他们提供先进学习工具,使他们能够根据不同的数据集对这些网络进行优化。”

    英伟达开源的神经网络,能够将原始传感器数据转换成对世界的深度理解,能够实现交通信号灯和交通标识检测、目标检测(车辆、行人、自行车)、路径感知以及车载眼球追踪和手势识别等任务。

    除了开源深度神经网络之外,NVIDIA还发布了一套工具,使开发者可以使用自己的数据集和目标特征集自定义并增强NVIDIA的深度神经网络。

    这套工具使用主动学习、联邦学习和迁移学习来训练深度神经网络,来进一步强化英伟达在自动驾驶领域的布局。

    —  —

    展开全文
  • 在本次会议上,该公司揭开了三款芯片的神秘面纱,而这三款芯片可以用于智能手机、平板电脑以及其他移动设备。然而,这些芯片只是开胃菜,重头戏是一款专为边缘计算设计的新产品—— Qualcomm Cloud AI 100。 产品...
    TB1JfQIQhTpK1RjSZFKXXa2wXXa.png

    雷锋网注:【 图片来源:VB  所有者:Qualcomm 】

    昨天,高通在旧金山召开了年度人工智能日(AI Day)大会。在本次会议上,该公司揭开了三款芯片的神秘面纱,而这三款芯片可以用于智能手机、平板电脑以及其他移动设备。然而,这些芯片只是开胃菜,重头戏是一款专为边缘计算设计的新产品—— Qualcomm Cloud AI 100。

    产品管理高级副总裁Keith Kressin说,“我们设计这个全新的信号处理器旨在为AI推理服务,”他还补充道,产品将在明年下半年开始生产。

    Cloud AI 100集成了一系列开发工具,包括编译器、调试器、分析器、监视器、芯片调试器和量化器。此外,它还支持包括ONNX、Glow和XLA在内的运行时,以及Google的TensorFlow,Facebook的PyTorch、Keras、MXNet,百度的PaddlePaddle和微软的Cognitive Toolkit等机器学习框架。

    高通估计,这款产品的峰值性能是骁龙855和骁龙820的3至50倍。公司还声称,与传统的FPGA相比,它在推理方面的平均速度要快10倍左右。此外,以TOPs(高性能芯片常用的性能指标)衡量,Cloud AI 100的运算速度可以“远远超过”100TOPs。相比之下,骁龙855的最快只有7TOPs。

    Kressin解释说:“FPGA或GPU通常可以更有效地进行AI推理处理,因为GPU是并行的,而CPU是串行的,并行芯片更适合AI处理。不过,GPU最初是为处理图形而生,我们要专门设计一个芯片来加速AI,才能得到更加显著的提升。从CPU到FPGA或GPU,经过了一个数量级的改进,定制AI加速器能再加一个数量级改进。”

    高通进军云计算领域之前,它的主要竞争对手华为发布了业界最高性能Arm架构处理器鲲鹏920。在SPECint(一个由12个程序组成的基准测试套件,旨在测试整数性能)中,该芯片的得分超过了930分,比行业基准高出将近25%,而功耗比行业现有厂商提供的产品低30%。

    高通的竞争对手可不止华为一个。

    今年1月,在拉斯维加斯举行的消费电子展上,英特尔详细介绍了即将推出的Nervana神经网络处理器(NNP-I)。据报道,该处理器的AI训练性能将达到竞争对手显卡的10倍。谷歌去年推出了专用推理芯片Edge TPU。阿里巴巴去年12月宣布,计划在今年下半年推出首款自主研发的AI推理芯片。

    在FPGA方面,亚马逊最近推出了自己的AI云加速芯片,名为AWS Inferentia。微软也在Project Brainwave中展示了类似的产品。今年3月,Facebook发布了用于AI推理的服务器芯片Kings Canyon。本月,英特尔宣布推出Agilex系列芯片,优化AI和大数据工作。

    但高通相信,Cloud AI 100的性能优势可以让它在深度学习芯片市场上占据上风。预计到2025年,该市场规模将达到6630万美元。

    “很多公司都把网络硬件放在边缘,形成一个内容传输网络,这个网络可以完成云游戏或是AI处理等不同类型的任务。这个趋势非常关键。因为这样一来,无论是终端用户的输入技术,还是云端,都会有高通的参与。”

    高通还有另一个潜在优势——生态系统的支持。

    去年11月,高通承诺向一家专注于edge AI和on-device AI的初创基金提供1亿美元,资金将用于自动驾驶汽车、机器人、计算机视觉和物联网等领域。去年5月,它与微软合作开发了一个vision AI工具包,辅助嵌入在系统芯片中的AI加速器。

    “就市场规模而言,推理正在催生一个大型芯片市场,”Kressin表示,“随着时间的推移,我们预计,在2018年至2025年期间,市场规模大约会扩大10倍。我们非常有信心,高通在产品性能、AI处理、数据处理等方面,将会成为强大的领导者。”

    雷锋网(公众号:雷锋网)注:本文编译自VB

    雷锋网注:【封面图片来源:网站名VB,所有者:Qualcomm】

    雷锋网版权文章,未经授权禁止转载。详情见转载须知。

    展开全文
  • 而不是在GTC Keynote现场——英伟达重磅宣布,将联合芯片巨头ARM打造IOT设备的AI芯片专用IP,这款机器学习IP集成到Arm的Project Trillium平台上,以实现机器学习,其技术源于英伟达Xavier芯片以及去年开源的DLA深度...

    今年的GTC 2018比较神奇,最为重磅的消息选择了在提前秘密发布,而不是在GTC Keynote现场——英伟达重磅宣布,将联合芯片巨头ARM打造IOT设备的AI芯片专用IP,这款机器学习IP集成到Arm的Project Trillium平台上,以实现机器学习,其技术源于英伟达Xavier芯片以及去年开源的DLA深度学习加速器项目。

    NVIDIA副总裁兼自主机器事业部总经理Deepu Talla表示:“推理将成为每个物联网设备的核心能力。我们将与ARM一同推进这一趋势的发展,帮助数百家芯片公司轻松采用深度学习技术。”

    ARM是全球智能设备第一大主流芯片架构提供商,全球超过90%的智能设备采用了ARM的芯片架构,包括手机、平板、手表、电视、无人机等等。

    今年2月,嵌入式芯片巨头ARM公布了其人工智能项目Trillium,同时推出两款专用IP,分别为物体检测OD处理器和机器学习ML处理器。

    本次ARM牵手英伟达推出专用的IOT设备人工智能IP,将会有助于人工智能在终端设备广泛铺开,使得上亿、甚至数十亿台IOT设备都能够用上低功耗、低成本的AI芯片,使物联网芯片公司能够轻松地将AI集成到它们的设计中,并帮助它们将智能且价格实惠的产品带给全球数十亿的消费者。

    去年,英伟达也正式免费开源了完整版DLA(Deep Learning Accelerator,深度学习加速器),让厂商可以免费下载使用,打造属于自己的低功耗AI芯片(比如IoT芯片)。作为全球AI浪潮的引领者,能够为人工智能提供强大的计算力,二者一拍即合。

    展开全文
  • 本文详细介绍了英伟达 Jetson 边缘盒子硬件参数,有助于你的 AI 部署。

      本文详细介绍了英伟达 Jetson 边缘盒子硬件参数,有助于你的 AI 部署。

      最近手上来了很多 AI 边缘盒子,其中就英伟达的来说,已基本集齐了 Jetson 系列的盒子,包括 Jetson Nano、Jetson TX2 NX、Jetson TX2、Jetson Xavier NX、Jetson AGX Xavier。下面对这些边缘盒子的硬件参数做一些简单介绍。

    1、Jetson Nano

    在这里插入图片描述


    2、Jetson TX2 NX

    在这里插入图片描述


    3、Jetson TX2

    在这里插入图片描述


    4、Jetson Xavier NX

    在这里插入图片描述


    5、Jetson AGX Xavier

    在这里插入图片描述


      对于我们做 AI 部署来说,主要关注GPU架构(tensorcore/是否支持低精度)、NVDLA(虽然实践中我没有发现能加速网络推理)、CPU(可能需要做一些复杂逻辑后处理)、显内存大小(共用)、视频编解码能力,当然最主要的是价格~


      先这样了,测试去~



    扫描下方二维码即可关注我的微信公众号【极智视界】,获取更多AI经验分享,让我们用极致+极客的心态来迎接AI !

    展开全文
  • 在本次会议上,该公司揭开了三款芯片的神秘面纱,而这三款芯片可以用于智能手机、平板电脑以及其他移动设备。然而,这些芯片只是开胃菜,重头戏是一款专为边缘计算设计的新产品—— Qualcomm Cloud AI 100。 产品...
  • 本文分享一下英伟达安培卡 vs 老推理卡硬件参数对比。
  • 在数据中心领域,即使有一些初创公司推出训练和推理加速芯片,但是想要取代Nvidia需要相当长的时间。首先,大规模部署芯片对于产品的可靠性有相当高的需求,而且分布式系统是一个系统工程,需要芯片在各类指标上...
  • 周三上午,在拉斯维加斯举行的云计算巨头AWS年度大会上,AWS首席执行官安迪•雅西(Andy Jassy)在主题演讲中宣布了这款名为“AWS Inferentia”的推理芯片。 AWS的竞争对手谷歌云在2016年发布了其首款定制机器学习...
  • 来源: AI前线作者:NICOLE KOBIE译者:王强英伟达,AI 芯片市场的统治者业内有一个传说,讲的是英伟达怎样从游戏和图形硬件转向了 AI 芯片市场的统治者 — 这个故事中有猫的身...
  • 自2012年开始深度学习热潮以来,英伟达就一直在其GPU上占据着AI芯片的主导地位。尽管它们耗电量大,运行时嘈杂且成本昂贵,但别无选择。大约3年前,Google宣布他们已经设计了Tensor处理单元(TPU),以加快数据中心...
  • 晓查 发自 凹非寺量子位 报道 | 公众号 QbitAIMLPerf推理基准测试第二版(v0.7)近日发布。在数据中心分类下,英伟达2年前的推理卡T4依然能“大杀特杀”,7月推出的A1...
  • 【TechWeb】2019年5月9日,依图科技“极智•求索”产品发布会在上海中心举办,依图科技发布了云端视觉推理AI芯片questcore,带来了基于该芯片构建的软硬件一体化系列产品和行业解决方案。当前,依靠摩尔定律的奇迹,...
  • 徐直军介绍,昇腾 910 是目前单芯片计算密度最大的芯片,计算力超 Google 及英伟达,比最接近的 NV 的 V100 还要高出一倍,其半精度算力达到了 256 TFLOPS。昇腾 910 的最大功耗为 350W、采用 7nm 工艺,明年第二...
  • 作者| 马超编辑 | 高卫华出品|AI科技大本营(ID:rgznai100)近日,美国图形处理芯片公司英伟达宣布,将以400亿美金的价格收购英国芯片技术公司Arm。如果这笔交易达到...
  • 李根 发自 凹非寺量子位 报道 | 公众号 QbitAI阿里第一颗芯片诞生!刚刚,云栖大会现场,阿里巴巴集团CTO、达摩院院长张建锋向全场展示了含光800——阿里第一款...
  • 来源:forbes我准备写一篇预测未来一年的AI芯片,以及英伟达如何应对挑战的文章,但我很快意识到,文章要比我预期的要长得多。由于有很多内容要介绍,我决定把文章分为3个部...
  • 今天(11月13日)在年度AI峰会上,老牌芯片霸主英特尔,交上最新AI答卷:首款AI芯片量产商用、性能吊打英伟达T4,营收贡献预计35亿美元——年对年同比增长250%,另外还推出了下一代边缘芯片VPU。种种成绩,让英特尔...
  • 策划编辑|Vincent整理|Vincent现场报道|蔡芳芳编辑|Debra出处丨AI 前线AI 前线导读:10 月 10 日,上海世博展览馆,华为 HC 大会上,华为副董事长徐直军发布了华为 AI 战略和全栈解决方案,其中包括了两款芯片。...
  • 智东西7月11日消息,昨日,MLPerf基准联盟公布了最新一轮的基准测试数据,结果显示,英伟达和谷歌云刷新了人工智能训练时间的记录。 MLPerf是一项用于测试ML(Machine Learning)硬件、软件以及服务的训练和推理...
  • 自动驾驶芯片性能提升6倍 在本次GTC大会主题演讲中,黄仁勋宣布,通过即将推出的Orin系统芯片(SoC)系列和A100 GPU,对现有的英伟达自动驾驶专用平台DRIVEAGX进行扩展。 此次扩展的范围覆盖从ADAS系统到DRIVEAGX ...
  • 今天,蓄势两年的依图科技在上海中心举办了发布会。以“极智·求索”为主题,依图科技携自研云端视觉推理AI芯片questcoreTM... 算法即芯片时代来临,依图芯片视觉推理能力超越英伟达 “对于有能力做芯片的企业来说...
  • 在数据中心分类下,英伟达2年前的推理卡T4依然能“大杀特杀”,7月推出的A100毫无意外占据榜单第一名。英伟达表示A100在数据中心推荐系统测试中,其表现出的性能比英特尔Cooper Lake CPU高237倍,即使是T4也比CPU高...
  • 二、AI芯片的分类和市场划分(云端/终端,训练/推理) 三、AI芯片技术路线(GPU/FPGA/ASIC,现状/短期/长期方向) 四、AI芯片市场分析(四大场景:数据中心、自动驾驶、安防、手机终端) 五、AI芯片主要厂商介绍...
  • 2020年6月23日,鲲云科技在深圳举行产品发布会,发布全球首款数据流AI芯片CAISA,定位于高性能AI推理,已完成量产。鲲云通过自主研发的数据流技术在芯片实测算力上实现了技术突破,较同类产品在芯片利用率上提升了...
  • onFednc所谓全场景,即包括公有云、私有云、各种边缘计算、物联网行业终端以及消费类终端等部署环境,即“让 AI 无处不在,无所不及”,而全栈即包括芯片芯片服务,还有硬件,以及训练和推理的框架和应用在内的全...
  • 两年前,英伟达公司为英伟达深度学习加速器(NVDLA)的硬件设计打开了源代码,以帮助推动在定制硬件设计中采用高效的人工智能推理。同样的NVDLA也发布在NVIDIA Jetson AGX Xavier开发工具包中,它为AI提供了7.9 TOPS/W...
  • 原标题:英伟达A100 GPU推理性能最高达CPU的237倍!临界点到来?雷锋网消息,MLPerf组织今天发布最新的推理基准测试(Benchmark)MLPerf Inference v结果,总共有23个组织提交了结果,相比上一个版本(MLPerf Inference...
  • 晓查 发自 凹非寺量子位 编译 | 公众号 QbitAI今天MLPerf基准联盟公布了第一批AI芯片推理测试结果,对来自19个公司机构的594种芯片在各种自然语言和计算机视觉任务中的表现进行了审核。来自中国、以色列、韩国、...
  • 在AI芯片领域,英伟达的GPU和谷歌的TPU是世界上仅有的能够处理BERT-Large模型的AI处理器。当一家名为Graphcore的英国创业公司推出IPU智能处理器之后,这个数字变成了3,IPU也成为市面上为数不多的能与英伟达和谷歌PK...

空空如也

空空如也

1 2 3 4 5 ... 20
收藏数 1,180
精华内容 472
关键字:

英伟达推理芯片