精华内容
下载资源
问答
  • 中国五大物联网平台优势分析

    千次阅读 2018-03-05 21:40:52
    简介近几年物联网已经成为各行各业和资本争相追逐的风口,进入2018年,物联网热度持续不减,一个全球化的智能互联时代即将到来。近几年物联网已经成为各行各业和资本争相...为此OFweek物联网小编搜集了国内五大物...

    简介

    近几年物联网已经成为各行各业和资本争相追逐的风口,进入2018年,物联网热度持续不减,一个全球化的智能互联时代即将到来。

    近几年物联网已经成为各行各业和资本争相追逐的风口,进入2018年,物联网热度持续不减,一个全球化的智能互联时代即将到来。那么国内的物联网发展处于什么水平?已经搭建的物联网平台是否成熟?目前有哪些完善的物联网平台可供大家使用或学习借鉴?为此OFweek物联网小编搜集了国内五大物联网平台,供大家参考。

    1.百度 “天工” 智能物联网平台

    中国五大物联网平台优势分析

    2016年7月百度推出了名为“天工”的智能物联网平台,该平台是更侧重于面向工业制造、能源、物流等行业的产业物联网。百度天工是一个端到云的全栈物联网平台,其包含了物接入、物解析、物管理、时序数据库,规则引擎五大产品,以千万级设备接入能力,百万数据点每秒的读写性能,超高的压缩率,端到端的安全防护,和无缝对接天算智能大数据平台的能力,为客户提供极速、安全、高性价比的智能物联网服务。

    优势:

    1.百度天工作为智能化的物联网平台,是“云计算+大数据+人工智能”的三位一体。

    2.天工赋能更多的行业软件SaaS服务,能够降低产业客户的上云成本,真正实现产业物联网。

    应用案例:

    1.以风力发电为例,百度天工已经将深度学习等人工智能技术应用于风机的预测性维保领域,将风机的故障预测准确率提升到90%,故障预测召回率高达99%,实现了人工智能与物联网的深度融合,极大地降低了设备运维成本和停机时间,延长了设备的生命周期。

    2.太原铁路局使用了百度天工物联网平台高并发、高效率的数据接入,大数据对海量数据的清洗变形分析和机器学习算法进行调度优化。最终运行的效果表明,太原铁路局实现了业内实时最优物流调度,比原有调度效率提升达59%。

    2. 阿里Link物联网平台

    2017年6月10日,在IoT合作伙伴计划大会2017(ICA)上,阿里巴巴IoT联合近200多家IoT产业链企业宣布成立IoT合作伙伴联盟,随后10月12日,阿里云在云栖大会上发布了Link物联网平台,将借助阿里云在云计算、人工智能领域的积累,将物联网打造为智联网。Link物联网平台将建设物联网云端一体化使能平台、物联网市场、ICA全球标准联盟三大基础设施,推动生活、工业、城市三大领域的智联网建设。

    优势:该平台融合了云上网关、规则引擎、共享智能平台、智能服务集成等产品和服务,使开发者能够实现全球快速接入、跨厂商设备互联互通、调用第三方智能服务等,快速搭建稳定可靠的物联网应用。

    应用案例:无锡鸿山与阿里云联合打造的首个物联网小镇,借助飞凤平台,无锡鸿山实现交通、环境、水务、能源等多个城市管理项目的在线运营,遍布整个小镇的传感设备将这座城市每个部件都链接起来,从数据采集、流转、计算到可视化展现,鸿山小镇建立起诸如污染监控、排水全链路仿真、市政设施监控等多个项目的城市运营智能化。

    3.腾讯QQ物联智能硬件开放平台

    中国五大物联网平台优势分析

    strong>2014年10月,“QQ物联智能硬件开放平台”发布,将QQ账号体系及关系链、QQ消息通道能力等核心能力,提供给可穿戴设备、智能家居、智能车载、传统硬件等领域合作伙伴,实现用户与设备及设备与设备之间的互联互通互动,充分利用和发挥腾讯QQ的亿万手机客户端及云服务的优势,更大范围帮助传统行业实现互联网化。

    优势:帮助传统硬件快速转型为智能硬件,帮助合作伙伴降低云端、APP端等研发成本,提升用户粘性并通过开放腾讯的丰富网络服务基于硬件更多想象空间。

    应用案例:硬件设备接入QQ物联后,用户可在QQ中通过二维码扫描、局域网内查找等方式找到这个设备,添加为QQ好友。设备拥有自己的在线状态、昵称/备注名等与普通QQ好友相同的属性。

    此外,除了QQ物联以外,腾讯还有一个物联网的重要平台,就是微信硬件平台。微信硬件平台是微信继连接人与人,连接企业/服务与人之后,推出连接物与人,物与物的IOT解决方案。

    4.中国移动OneNET物联网开放平台

    中国五大物联网平台优势分析

    2014年10月中国移动物联网设备云—OneNET正式上线。2017年11月,中国移动物联网开放平台OneNET实现完成了NB-IoT设备通过窄带蜂窝网络接入平台的能力,成为全国首家支持CoAP+LWM2M协议、遵循IPSO组织制定的Profile国际规范、实现NB-IoT场景解决方案的物联网平台。

    OneNE拥有流分析、设备云管理、多协议配置、轻应用快速生成、API、在线调试几项功能,以其领先的平台能力优势,覆盖了新能源、环境保护、车联网等行业应用领域,帮助开发者轻松实现设备接入与设备连接,快速完成产品开发部署,还为智能硬件、智能家居产品提供完善的物联网解决方案。

    优势:一站式托管—高效性、低成本;多协议智慧解析—包容性、适应性;数据存储和大数据分析—可靠性、安全性;多维度支撑—即时性、持续性。

    应用案例:

    1.与“Hi”电展开合作,协助其解决“设备状态检测”、“设备位置监管”、“设备信息管理”、“反向控制设备”等问题。

    2.协助上海凤彬网络工程有限公司完成黑龙江珍珠山木耳基地改造,实现智慧种植,极大提升农副产业的营收。

    3.智慧工厂项目,快速实现工厂智能化和生产效率提升;智能光伏发电项目,让新能源迈向智慧道路。

    5.中国电信NB-IOT

    2017年5月17日中国电信宣布建成全球首个覆盖最广的商用新一代物联网(NB-IoT)网络, 7月13日物联网NB-IoT(窄带物联网)在京正式商用。NB-IoT作为物联网的新兴技术,可广泛服务于政务行业、物流行业、零售、个人消费、智能家庭等,从而实现设备之间物联互通,实现数据的实时获取,提升企业效率并节约成本。

    优势:

    1.覆盖最广,基于4G全覆盖网络部署,有移动网络的地方均可提供物联网服务。

    2.规模最大,全网31万基站同步升级。

    3.质量最优,基于800MHz低频段承载,具有信号穿透能力更强、覆盖能力更优的特点,使得网络质量更稳定。

    应用案例:

    1.在中关村大街建立NB-IoT试点,将NB-IoT应用于智能路灯、智能垃圾桶、智能井盖等具体应用上。

    2.中国电信同ofo、华为达成合作,推出基于NB-IoT的智能锁。它由中国电信提供NB-IoT网络,华为提供芯片和软件技术。通过使用NB-IoT网络和模块,ofo关锁截单时间将小于5秒,电池待机时间可达2年以上。

    转载自:http://iot.ofweek.com/2018-01/ART-132216-8420-30186944.html

    展开全文
  • 选择GPU服务器的五大基本原则

    万次阅读 2018-11-21 20:19:43
    选择GPU服务器的五大基本原则  从性能、可编程性、灵活性等方面对CPU、GPU、FPGA、ASIC等不同类型的服务器进行了系统的比较分析,并给出了五条选择GPU服务器的基本原则: 1.考虑业务应用先选择GPU型号 2.考虑...

    选择GPU服务器的五大基本原则

     从性能、可编程性、灵活性等方面对CPU、GPU、FPGA、ASIC等不同类型的服务器进行了系统的比较分析,并给出了五条选择GPU服务器的基本原则:

    1.考虑业务应用先选择GPU型号

    2.考虑服务器的使用场景及数量(边缘/中心)

    3.考虑客户自身的目标使用人群及IT运维能力

    4.考虑服务器配套软件的价值以及服务的价值

    5.考虑整体GPU集群系统的成熟度及工程效率

    NVIDIA 高级系统架构师易成则从计算性能、互联互通、可扩展性、适用场景等方面系统讲解了DGX-1、DGX-2、DGX Station以及如何利用VNIDIA NGC高效的使用DGX系统。

    选择GPU服务器的五大基本原则

     

    吴强:大家好,我是吴强,也是NVIDIA NPN(NVIDIA PARTNER NETWORK)合作伙伴负责人,主要负责帮助销售以及与合作伙伴的管理。今天分享的主题为《不同行业如何选择深度学习服务器》,主要从以下几个方面来进行:

    1.不同类型AI服务器之比较分析

    2.选择GPU服务器的基本原则

    3.AI超级计算机DGX系统详解

    4.NGC云平台使用方法和价值

    5.DGX系统快速部署的最佳攻略

    6.DGX系统各行业应用案例

    其中第1、2、6条由我来为大家介绍,第3、4、5条由我的同事易成来介绍。

    不同类型AI服务器之比较分析

    选择GPU服务器的五大基本原则

     

    首先看下不同类型AI服务器的比较,通过上面这张二维图中我们可以对不同架构的服务器进行简单的比较。从左上方到右下角依次是CPU、GPU、FPGA、TPU、ASIC,从横轴来看,越往右性能(Performance)越好。纵轴Programmability/Flexibility是指服务器的可编程性和灵活性, ASIC的性能最好,因为它是将算法固化在芯片上,算法是比较固定的,所以它的性能最好的,但是它的编程性和灵活性就相对比较弱。而CPU的灵活性和编程性最好,但性能最弱。总的来说,GPU的灵活性比CPU弱,但它的性能更好。往下依次是FPGA、TPU以及ASIC。在实际选择时需要考虑到功耗、成本、性能、实时性等各方面因素,尤其是一些具有专用目的的处理器,如果算法已经固化并且很简单,可以考虑ASIC,因为ASIC性能好且功耗低。如果是在训练或者通用情况下,GPU则是更好的选择。

    选择GPU服务器的基本原则

    在介绍选择GPU服务器的基本原则之前,先来跟大家介绍下常见的GPU和GPU服务器。

    常见的GPU,按总线接口类型,可以分为NV-Link接口、传统总线接口以及传统PCI-e总线三种。

    NV-Link接口类型的GPU典型代表是NVIDIA V100,采用 SXM2接口。在DGX-2上有SXM3的接口。NV-Link总线标准的GPU服务器可以分为两类,一类是NVIDIA公司设计的DGX超级计算机,另一类是合作伙伴设计的NV-Link接口的服务器。DGX超级计算机不仅仅提供硬件,还有相关的软件和服务。

    传统总线接口的GPU,目前主流的有这几款产品,比如 PCI-e接口的V100、 P40(P开头指的是上一代PASCAL架构)和P4,以及最新的图灵架构T4等。其中比较薄和只占一个槽位的P4和T4,通常用于Inference,目前也已经有成熟的模型进行推理和识别。

    传统PCI-e总线的GPU服务器也分为两类,一类是OEM服务器,比如曙光、浪潮、华为等其他国际品牌;另一类是非OEM的服务器,也包括很多种类。选择服务器时除了分类,还要考虑性能指标,比如精度、显存类型、显存容量以及功耗等,同时也会有一些服务器是需要水冷、降噪或者对温度、移动性等等方面有特殊的要求,就需要特殊的服务器。

    选择GPU服务器时首先要考虑业务需求来选择适合的GPU型号。在HPC高性能计算中还需要根据精度来选择,比如有的高性能计算需要双精度,这时如果使用P40或者P4就不合适,只能使用V100或者P100;同时也会对显存容量有要求,比如石油或石化勘探类的计算应用对显存要求比较高;还有些对总线标准有要求,因此选择GPU型号要先看业务需求。

    GPU服务器人工智能领域的应用也比较多。在教学场景中,对GPU虚拟化的要求比较高。根据课堂人数,一个老师可能需要将GPU服务器虚拟出30甚至60个虚拟GPU,因此批量Training对GPU要求比较高,通常用V100做GPU的训练。模型训练完之后需要进行推理,因此推理一般会使用P4或者T4,少部分情况也会用V100。

    当GPU型号选定后,再考虑用什么样GPU的服务器。这时我们需要考虑以下几种情况:

    第一、 在边缘服务器上需要根据量来选择T4或者P4等相应的服务器,同时也要考虑服务器的使用场景,比如火车站卡口、机场卡口或者公安卡口等;在中心端做Inference时可能需要V100的服务器,需要考虑吞吐量以及使用场景、数量等。

    第二、 需要考虑客户本身使用人群和IT运维能力,对于BAT这类大公司来说,他们自己的运营能力比较强,这时会选择通用的PCI-e服务器;而对于一些IT运维能力不那么强的客户,他们更关注数字以及数据标注等,我们称这类人为数据科学家,选择GPU服务器的标准也会有所不同。

    第三、 需要考虑配套软件和服务的价值。

    第四、 要考虑整体GPU集群系统的成熟程度以及工程效率,比如像DGX这种GPU一体化的超级计算机,它有非常成熟的从底端的操作系统驱动Docker到其他部分都是固定且优化过的,这时效率就比较高。

    AI超级计算机DGX系统详解

    易成: 目前DGX产品主要包含DGX工作站(DGX Station)、DGX-1服务器以及今年刚发布的DGX-2服务器三款产品。它们都是NVIDIA推出的软硬一体机产品,主要包括操作系统、相关软件以及配套的硬件。以往我们买服务器或工作站时,通常需要自己在服务器中安装操作系统并部署应用软件,而在DGX一体机上就不需要这个过程了,所有的软件出厂时就已经完成了安装配置,开机就可以使用,非常适合开发人员做深度学习或高性能计算的应用。

    在介绍DGX超级计算机之前,先了解一下超级计算机的计算核心V100 GPU。在DGX中使用的是NVLink GPU,包含5120个CUDA核心,640个TensorCore,双精度的计算能力达到7.8万亿次,深度学习的计算能力达到125万亿次。GPU之间可以通过NVLink进行互相访问,带宽可以达到300GB/s。而PCI-e的GPU只能通过PCI-e总线进行GPU之间的互相访问,带宽为32GB。因此相比较而言,NVLink版V100是目前性能最强的GPU。

    与上一代GPU相比,V100 GPU采用最新的Volta架构,采用SM流多处理器架构,首次引进了Tensor Core计算核心,这也是以前Pascal架构所没有的,大大增强了GPU的深度学习计算性能。V100采用了新一代的NVLink 2.0技术,双向总带宽可以达到300GB/s,并且采用了新的HBM2显存,可以达到900GB/s的IO带宽。V100引入了新的MPS多进程服务技术,以提高GPU的利用率,还改进了SMIT的计算模型。

    选择GPU服务器的五大基本原则

     

    Tensor Core是V100非常重要的特性,支持混合精度计算,如上图所示的D=A*B+ C的混合矩阵乘加计算。在矩阵中,矩阵A和矩阵B要求是半精度的FP16类型,而加法矩阵C可以是半精度FP16或者是单精度FP32类型,左边的计算结果也可以是FP16或FP32类型。

    DGX-1服务器主要用于数据中心的深度学习或者高性能计算应用,整机的计算峰值可以达到1000万亿次。我们都知道,深圳超算中心的计算能力大约是1200万亿次,也就是一台DGX-1的计算能力和一个超算中心的计算能力相当,之所以说适合于数据中心,是因为DGX-1服务器需要安装在机柜中,功耗达到3200瓦,噪音也比较大,因此只能放在数据中心的机房。

    DGX-1配置了8块最新的NVLink V100 GPU,每块GPU是32GB显存,配置了大容量的内存,一共是512GB,可以将大量的数据读入内存。配置了7TB的SSD作为本地缓存,SSD配置的是RAID 0模式,仅仅作为本地的缓存,可以实现高速存储的IO性能。另外,DGX-1配置了4个100Gb的网卡,并且可以选择InfiniBand或以太网模式,是为了配置GPU集群预留的网络接口,可以作为节点间通讯的计算网络或存储网络。

    选择GPU服务器的五大基本原则

     

    DGX-1服务器的内部网络拓朴架构中有8个GPU服务器,这8个GPU互联成一个立方体的拓朴架构,每一个顶点是一块GPU。另外,从图中可以看到还有NVLink、PCI-E、QPI 三种互联通道,绿色的粗线条代表NVLink,紫色的细线条代表PCI-E总线,黑色的线条代表QPI线。在做GPU并行计算时,GPU之间的通信可以选择两种方案:

    第一、 GPU通过PCI-E总线进行通信,这种通讯的方效率比较低的。

    第二、 通过NVLink实现GPU之间直接通信,很显然这种方式的通讯效率会很高。

    选择GPU服务器的五大基本原则

     

    接下来为大家介绍下DGX-1服务器中GPU的计算速度和扩展性。图中柱状图表示计算速度,曲线代表扩展性,灰色的柱状图表示PCIe的GPU计算性能,绿色的柱状图表示NVLink GPU的性能。上图展示的数据是以神经网络翻译训练为例,从计算速度的角度看,与PCIe的GPU卡相比,GPU越多,NVLink GPU速度的优势越明显,8块NVLink GPU有20%的性能提升。从扩展性的角度看,8块NVLink GPU的加速比PCIe GPU高20%左右。从图中可以看出,8块DGX-1的服务器和普通的PCIe GPU服务器相比还是有比较大的性能优势,尤其是在深度学习框架或模型算法不支持集群计算的时候,使用DGX-1服务器会有比较大的优势。

    NVIDIA DGX STATION是一个非常强大的工作站,可以达到480万亿次的计算能力,采用了最新的32GB V100 GPU。另一个特点是超静音设计,因为采用的是水冷模式而不是通常采用的风扇冷却方式,因此不需要机房,在办公室环境也可以使用,是特别为研发人员设计的个人超级计算机。

    选择GPU服务器的五大基本原则

     

    上图展示了DGX工作站的详细配置,包括GPU内存、SSD详细的配置情况等。可以看到,它的配置还是非常高的,完全满足开发研究人员做深度学习和高性能计算的需求。

    最新发布的DGX-2服务器的计算能力是2000万亿次,是目前世界上性能最强的深度学习单机系统。

    DGX-2的内部架构与DGX-1相比,在配置有比较大的提升,其中包括2个GPU主板,每个主板包括8块32GB V100 GPU和6个NVSwitch,采用全线速互联的方式,任意两块GPU之间通信总带宽可以达到300GB每秒,系统配置最新的Intel Xeon CPU,配置1.5TB的主机内存,8个100Gb的网卡,可以支持InfiniBand和以太网模式互相切换。这8个网卡主要用于做计算网络,另外还配置两个100Gb的网络接口作为存储网络,也可以支持InfiniBand和以太网的切换模式。DGX-2配置30TB NVME SSDs,和DGX-1一样,也是作为本地缓存使用。

    选择GPU服务器的五大基本原则

     

    从这张图我们可以看到DGX-2的内部结构,包括GPU主板以及其他配置。先来看下DGX-2中GPU互联的网络拓朴结构,DGX-2有两个GPU主板,每个主板包含8块GPU,6个NVSwitch,这是因为每个GPU有六个NVLink通道,每个通道连接一个NVSwitch。对于NVSwitch,我们可以把它理解成18端口的NVLink交换机,因为每个NVSwitch和八个GPU相连,一个GPU主板上所有NVSwitch通过背板和另外一个主板上的GPU互联,这样就能实现所有GPU都达到全互联状态,任意两个GPU之间的带宽都可以达到300GB/s。每个NVSwitch和8个GPU相连,有8个GPU NVLink接入,然后会有8个端口连出到背板上,因此一共占用了16个端口,还有两个端口剩余。

    一台DGX-2服务器和两台DGX-1服务器相比,在相同数量GPU卡的情况下,在高性能计算深度学习应用中, DGX-2服务器相较DGX-1会有两倍以上的性能加速,之所以能超过两倍,是因为GPU数量增加两倍,而性能超过两倍是因为DGX-2 GPU之间的通讯效率比DGX-1要高,因此它的并行效率会更高。

    NGC云平台使用方法和价值

    DGX工作站和服务器都是软硬一体的计算平台,因此DGX不仅仅是一台硬件设备,还是一套完整的深度学习和高性能计算平台。DGX系统预装了NVIDIA优化的操作系统、Driver、SDK以及NVIDIA Docker引擎,也预装了各种深度学习框架和高性能计算的应用软件,并且所有的应用软件都会定期更新,一般每个月都会更新一次,这些更新都会发布在NGC云平台上。这里所说的应用都是以Docker容器镜像的方式提供。Docker容器是一个非常有用的工具,跟虚拟机有很多相似的地方,但是容器是一个效率更高更方便的工具。

    NGC云平台上所提供的资源,包括深度学习的框架以及高性能计算资源,这些软件都是以容器镜像的方式提供。比如一些搞AI研究的研究员或者数据科学家经常会在网站或者论文上看到一些新的模型,并且想要验证一下效果。但这些模型需要的一些框架不一定是现在已经在用的,或者版本也不一定有。如果要下载一个最新的版本的框架,比如Caffe框架来进行测试,自己手动去安装这些软件会非常麻烦,需要安装cuDNN、OpenCV、Python等这些软件,另外还可能会存在一些版本的冲突,可能在软件部署上就会浪费一两天甚至一周的时间。而如果我们可以从NGC上去下载一个Caffe版本,就可以直接把我们的模型导入进去运行,这对于我们验证和测试环境的软件都是非常有用的,当然,对于生产环境,也可以自己去部署软件。

    选择GPU服务器的五大基本原则

     

    接下来介绍一下NGC资源的使用流程。首先,免费注册并登录NGC平台(ngc.nvidia.com),登录后需要获取账号和密码,点击右上角Get API Key进入一个新的页面。在这个页面上点击右上角的Generate API key,这时候会弹出一个要确认的信息,我们点击Confirm就可以生成图4所示的账号和密码。获得账号和密码后,就可以在DGX系统中进行登录。

    图5是一个范例,输入用户名和密码,需要注意的是,输入密码时不要加入空格,显示登录成功后,就可以输入我们需要下载应用软件的一些下载命令,输入 “docker pull nvcr.io/nvidia/caffe:18.09-py3”命令,这些应用的下载都非常简单,按照这张图中的操作步骤就可以完成下载,使用也非常方便。

    DGX系统快速上手的最佳攻略

    选择GPU服务器的五大基本原则

     

    那么如何用好DGX系统呢?首先要用好V100的混合精度计算性能,在前面我们已经介绍了Tensor Core,可以支持混合精度的计算,也就是上图左上角的混合精度矩阵的乘加计算。有很多用户反映,他们买了DGX-1后发现和相同数量GPU P100相比,性能也没有特别大的提升。后来发现他们用的是单精度做训练,也就是将P100上运行的代码直接拿到DGX-1上运行,而并没有做修改,这样一来还是单精度的训练,并不会自动使用混合精度。

    为了用好V100的混合精度计算性能,我们需要在源代码上做一些小的修改。比如在做训练时,需要把有些权重副本、梯度或者激活值等变量改为半精度FP16,可以提高它的计算速度,还可以减小内存的占用。在更新权重时,我们把它强制转化为FP32的单精度,可以保证训练模型的精度不会下降,因此在采用了一些小的修改后,再去做一些训练的计算才会获得比较高的计算速度。

    缩短数据读写的时间也是提高计算速度比较重要的一点。在训练时都需要从网络文件系统读写数据,通常延时会比较大,因此DGX-1会配置文件系统的缓存功能,将数据缓存到系统的本地,而这一点不需要用户考虑,系统会自动配置好。当然有些用户会自己把数据拷贝到本地,这也是一个不错的办法。另外,由于本地SSD配置为RAID 0,它的可靠性比较低,因此不建议将重要数据长期存放在缓存里面,这将会很不安全。

    在搭建GPU集群的时候,网络不一定是InfiniBand类型,经常会遇到40Gb的以太网,这时我们可以将DGX-1的网络接口切换为以太网模式,这样就可以接入到40Gb的以太网络环境中。

    选择GPU服务器的五大基本原则

     

    充分利用NVLINK网络通信的功能也是用好DGX一个很重要的点。如果使用普通的MPI模式进行通信,GPU之间采用PCIe,它的通信效率会比较低。为了采用NVLink通信,我们可以使用NCCL库,在Horovod软件中集成了NVIDIA NCCL库,它是一个采用的如右边这张图的算法,这个算法是百度最先提出来的。

    从左边图上我们可以看到普通的TensorFlow并行和Horovod相比,GPU卡越多性能差距越明显,因此我们建议,在做多GPU并行或者多节点并行时,使用NCCL库作为通讯方式。另外,我们在NGC平台上提供的深度学习框架的资源中也已经集成了NCCL库,因此建议大家尽量使用NGC中的深度学习框架资源。

    NVIDIA DGX服务器和工作站是软硬一体的产品,而且软件和硬件都出自NVIDIA,可以给用户提供一个高性能、高可靠的系统,提供完善的软件和硬件服务,包括故障处理、性能调优、应用移植等。NVIDIA有强大的AI专家团队,也可以快速解决大家在使用过程中的问题,提供一些AI算法等层面的支持。这对大家节省时间、快速迭代、缩短产品研发周期也是非常有帮助的,这也是NVIDIA服务的优势。

    DGX系统各行业应用案例

    吴强:DGX在互联网行业的应用,比如美国社交网络公司Facebook,去年采购了几百台DGX-1用于Deep Text和图像识别等。我们也知道,Facebook可以识别很多用户的政治倾向等方面的信息,同时他们也有很大的能力去做更多各种各样的分析。

    DGX在智慧城市领域的应用,中国第一台DGX-1是海康威视所采购的,海康威视是全世界最大的监控设备厂商,他们使用DGX训练神经网络,但在识别时会用到另外的边缘服务器,同时还不是通用的PCIe卡,而是用Tegra X2,多个Tegra X2集成到一块卡中,并插在一个比较小的前端边缘服务器上。

    DGX在初创公司的应用,Face++在使用大量的DGX和传统的PCIe服务器结合应用于在智能监控领域。商汤科技采用DGX用于人脸识别、车辆识别等。商汤科技在第一批DGX产生时就和NVIDIA有合作了。另外还有国内非常著名的手机厂商,他们也采用DGX用于数据分析或语音识别等。

    DGX在教育科研行业的应用,以冷冻电镜为例,使用Relion GPU版,可以帮他们缩短分析计算的时间和成本。而国外用的最多的是美国的橡树岭国家实验室,它和IBM公司合作使用DGX打造了超级计算机Summit,总共有4608个节点,它的计算性能比神威·太湖之光还高一倍,其中NVIDIA V100的性能占据了95%的计算力。

    DGX在制造业的应用,主要用在一些品质控制,比如原来有150多名检查员用眼睛去看那些产品的品质,要检查20-30分钟,如果使用DGX DeepLearning的方式来取代人来做识别,可以在4分钟内完成150人接近半个小时的工作。人有时候是会疲劳的,对眼睛伤害也很大。另一方面,在机器人上不仅是DGX的应用,DGX主要负责训练,训练好的模型会用到机器人上。另外还有国内物流产业的小车等在室外做识别都会用到DGX。

    选择GPU服务器的五大基本原则

     

    DGX在医疗行业的应用,应用最多是医学影像识别。如上图所示,黄颜色是人类有经验的医师给出的诊断,浅颜色是机器进行了训练后得到诊断。比如上海长征医院,有的医生一天要看一百多个病人,将近200张片子,同时有的肺片CT是32线或者64线。在排查时,医生需要从肺的底端到顶端进行排查。尤其人到下午的时间,疲劳度各个方面都会受到比较大的影响,同时准确率也会受到一些影响。在有了机器诊断后,不仅可以降低医学影像师的工作量,对医生也有很大帮助。另外,机器可学习的种类更多,学习效率更高,因此诊断结果也会更精准。

    DGX在癌症研究方面的应用,比如美国能源部下属的国家癌症研究中心有一个癌症登月计划的项目,采用了124台DGX-1,主要进行加速癌症治疗方案的研究、预测药物治疗效果和分析病人对药物的效果等。

    DGX在金融行业的应用,目前几个主要的银行或者大保险公司都在使用GPU服务器,少部分已经开始使用DGX。主要用于快速处理数据,以增加对损失的评估准确率。

    NVIDIA在汽车自动驾驶方面有很多的应用,我们公司也有自己的DGX集群,总共有660台DGX-1,其中160台用于自动驾驶领域。利用这个集群我们可以做很多的训练,比如车辆识别、人员识别、交通识别以及模拟。自从出现过一些自动驾驶事故后,NVIDIA就不再进行实际路况的测试,而是放到模拟环境下进行测试,在模拟情况下的学习效率也会更高。

    DGX在电信行业的应用,主要用于移动边缘计算。边缘计算主要是在雾端,目的是在雾端、边缘端可以有相关的Inference GPU服务器。所有物联网的设备比如红绿灯、探头、无人机、VR头盔等都可以通过5G进行识别。换句话说,不再需要IOT设备上的嵌入式GPU,因为5G会使网络成本变得很低,完全可以利用边缘服务器中的GPU来做Inference,从而获取更好的结果。

    展开全文
  • 国内最好的五大广告聚合平台

    千次阅读 2016-04-21 14:27:00
    什么80%的码农都做不了架构师?>>> ...

    1、艾德聚合平台是国内数字营销专家艾德思奇打造了一个跨越国界的智能广告优化管理工具,为众多的开发者带来更高的广告收益和更高效的广告管理模式。


    2、果合广告聚合平台果合移动广告是中国领先的移动广告技术和媒体平台,致力于为品牌广告主和移动媒体提供移动广告策划、优化、数据服务。


    3、KeyMob移动广告聚合平台国内开发者专业服务工具,是目前国内首家具备随意自由切换平台,无需单独SDK集成,自由定价,自自主销售广告,广告互推,应用内交叉推广的广告聚合平台。


    4、抓猫广告聚合平台是基于智能手机市场的移动广告联盟之一,是目前国内领先的移动广告聚合平台,旨在为广大开发者提供安卓手机应用推广及盈利的一站式解决方案。


    5、芒果广告聚合平台依靠其经典的智能聚合服务、省力省心的自动优化、多种流量售卖方式以及专业的自售广告投放系统,累计帮助2万多名移动开发者提升了广告收入。

    转载于:https://my.oschina.net/bbk121/blog/663767

    展开全文
  • 文章目录场景一:跨境支付与结算场景二:证券发行与交易场景三:票据交易场景四:供应链金融业务场景:大数据交易 在加强金融监管、打击非法集资、防范金融风险等领域,区块链技术都有非常广阔的应用前景。互联网...


    在加强金融监管、打击非法集资、防范金融风险等领域,区块链技术都有非常广阔的应用前景。互联网金融正式迈入了“区块链+”时代。

    场景一:跨境支付与结算

    区块链最先革新的领域就是支付与结算。传统金融服务在跨境支付领域存在多个痛点。比如,需要经过开户行、央行、境外银行、代理行、清算行等机构,每个机构都有自己的账务系统,这些复杂的过程不仅加大了交易成本也占据了用户更多的时间,因此造成交易的速度慢、效率低。

    这些原问题的根本原因就在于没有一个可信任的第三方中介角色。区块链技术实现了点到点的快速便捷的交易。让汇款银行和收款银行之间直接进行交易。

    场景二:证券发行与交易

    证券的发行与交易流程复杂且效率低。一般公司的证券发行流程是:必须先找一家证券商,然后公司要与证券发行中介机构签订委托募集合同,完成这些复杂繁琐的流程后,才能寻求投资者的认购。并且证券交易日和交割日之间存在三天的时间间隔。

    传统的交易模式很可能造成用户的账户及密码泄露、遭受恶意攻击等。传统的交易系统连接了很多券商、ISP(互联网服务提供商)等的多个计算机系统,中间环节多,交易存在很大的风险。

    区块链有去中心化、开放性、共享性、匿名性、不可篡改等特征。

    场景三:票据交易

    票据因为过多的人为介入,带来了很多违规操作和风险。

    东方证券银行业首席分析师王剑称,“票据市场是一个神奇的存在,原本是一种解决贸易双方信任问题的支付工具,最后被玩成了中小企业的纯融资工具”。

    区块链技术,因其去中心化的特性,减少了人为操作因素的介入,从而降低了违规操作和风险。

    场景四:供应链金融业务

    供应链金融在业务处理中,有大量的文件审阅、验证各种交易单据以及纸质文件的工作,而这些业务的处理都要依赖大量人工来完成。

    供应链金融如要解决这一问题,就需要通过区块链技术来减少人工成本,提高交易过程的安全性和透明度。

    麦肯锡测算,全球范围内区块链技术在供应链金融业务中的应用,能帮助银行和贸易融资企业大幅降低成本,其中银行的运营成本一年能缩减约135亿~150亿美元、风险成本缩减11亿~16亿美元;买卖双方企业一年预计也能降低资金成本约11亿~13亿美元及运营成本16亿~21亿美元。

    Wave已与巴克莱银行达成合作协议,将通过区块链技术推动贸易金融与供应链业务的数字化应用,将信用证与提货单及国际贸易流程的文件放到公链上,通过公链进行认证与不可篡改的验证。

    场景五:大数据交易

    CCID Consulting指出,自贵阳大数据交易所成立以来,全国陆续出现了15个区域性大数据交易中心。截至2016年9月1日,贵阳大数据交易所的交易额累积突破1亿元,交易框架协议接近3亿元。未来3~5年,大数据交易将呈现爆发式增长。

    但是数据具有很强的伪造性和可篡改性,而区块链的不可篡改性特征可明确认定责任方,它的加密性可保护数据拥有方的权利。2016年11月,京东云旗下的京东万象数据服务商城宣布将使用区块链技术用于大数据交易、实现数据的确权、溯源。这是首个公开表示应用区块链技术保障大数据交易的平台,这也表明区块链技术在大数据交易中起着十分重要的作用。

    展开全文
  • 平台提供了从定义产品、设备端开发调试、应用开发、产测、运营管理等覆盖智能硬件接入到运营管理全生命周期服务的能力。机智云平台为开发者提供了自助式智能硬件开发工具与开放的云端服务。通过傻瓜化的工具、不断...
  • 5G大潮已至,万物互联不再只是传说,海量的物联网终端蕴含无限商机,吸引着越来越多的参与者。顺应市场趋势,中国电信全面整合了自身的云、网和生态等优势资源,打造了智能物联网开放平台(CTW...
  • 商用大数据平台层架构分析

    千次阅读 2018-12-17 14:38:05
    IaaS、PaaS、SaaS是云计算的三种不同的服务模式,IaaS基础设施在最下端,PaaS平台在中间,SaaS软件在顶端。 IaaS :Infrastructure-as-a-Service 基础构架即服务。这一层主要是对基础设施进行管理以给用户提供资源...
  • PaaS是指一个软件研发应用开发平台,该平台作为一种服务必须能够支持行业、企业、业务模式的各种应用需求。它扩展了按需服务,并实现了客户可根据需要自己定制应用程序,成为了改变应用程序开发的一个途径。 特点:...
  • 系统运维五大要素

    千次阅读 2016-11-17 13:56:25
    系统运维五大要素 如今的互联网是一个巨大的变幻莫测的世界,每个站点、每个应用程序、每项服务都急切要求 增加流量、得到扩展,都需要我们重点关注。这些都是关键任务系统,所以,要想在当今的市场竞 争中获胜...
  • 其实现在很多人都听说或者接触过服务器,众所周知,服务器是网络中的重要设备,要接受少至几十人、多至成千上万人的访问,因此对服务器具有数据量的快速吞吐、超强的稳定性、长时间运行等严格要求。但是今天我们...
  • 云计算平台最重要的项技术

    千次阅读 2015-07-01 15:48:24
    云计算平台最重要的项技术 1、云服务器 云服务器提供简单高效,处理能力可弹性伸缩的计算服务,支持国内领先的云计算技术和规模分布存储技术,使您的系统更稳定、数据更安全、传输更快速、部署更...
  • 五大开源ESB项目

    千次阅读 2014-12-24 14:20:32
    ESB,英文全称Enterprise Service ...下面列出五大开源ESB项目,排名不分先后: JBoss ESB(JBoss)   在GA版本中有着成熟的组件,没有厂商绑定之类的特征。 Apache ServiceMix(Apache)   A
  • 云计算五大特点

    千次阅读 2019-07-30 08:25:57
    典型的云计算提供商往往提供通用的网络业务应用,可以通过浏览器等软件或者其他Web服务来访问,而软件和数据都存储在服务器上。云计算服务通常提供通用的通过浏览器访问的在线商业应用,软件和数据可存储在数据中心...
  • Hadoop处理大数据的五大优势

    千次阅读 2019-05-10 22:00:15
    Hadoop也通过在这些领域的应用证明了其五大优势: 高可扩展性 Hadoop是一个高度可扩展的存储平台,因为他可以存储和分发横跨数百个并行操作的廉价的服务器数据集群。不同于传统的关系型数据库系统不能扩展到处理...
  • 云计算的五大特征

    千次阅读 2018-11-23 09:06:38
    我们都知道,云计算采用计算机集群构成数据中心,并以服务的形式交付给用户,使得用户可以像使用水、电一样按需购买云计算资源。从这个角度看,云计算与网格计算的目标非常相似。但是云计算和网格计算等传统的分布式...
  • Facebook三大愿景和五大核心价值

    千次阅读 2017-09-05 10:57:00
    文章讲的是Facebook三大愿景和五大核心价值,Facebook2月2日启动IPO(首次公开招股),计划融资50亿美元。该公司创始人、CEO马克·扎克伯格发表公开信,点明Facebook的三大愿景和五大核心价值。  以下为公开信全文: ...
  • 近年来,数据处理与分析已经成为全球性问题,引起欧美各国政府和产业界高度重视,美国政府于2012年3月率先发布了《大数据研究与发展计划》,Google, Amazon、Facebook、IBM、EMC、SAP等国际领先互联网和仃公司都...
  • springCloud五大核心组件介绍

    万次阅读 多人点赞 2020-03-19 10:13:57
    二:简单介绍下什么是springCloud? "Spring Cloud为开发人员提供了快速构建分布式系统中一些常见模式的工具(例如配置管理,服务发现,断路器,智能路由,微代理,控制总线)。分布式系统的协调导致了样板模式, 使用...
  • 国内五大数据库厂商分析

    千次阅读 2020-07-14 14:28:04
    在政府的支持下,经过十余年的发展,国产数据库软件企业在自身实力、产品、技术方面有了质的提升,国产数据库软件在信息安全,提供本土化...构建了以大数据、数据库及5G三技术为核心的自主可控产品及解决方案,服务
  • 面向对象三大特性五大原则 + 低耦合高内聚 面向对象的三大特性是"封装、"多态"、"继承",五大原则是"单一职责原则"、"开放封闭原则"、"里氏替换原则"、"依赖倒置原则"、"接口分离原则"。 什么是面向对象 ...
  • Java基础篇:什么是平台无关性

    千次阅读 2019-03-17 10:28:52
    什么是平台无关性: 平台无关性就是一种语言在计算机上的运行不受平台的约束,一次编译,到处执行 。 平台无关有两种: 源代码级和目标代码级。而C和C++具有一定程度的源代码级平台无关,表明用C或C++写的应用程序...
  • 近年来,物联网技术已深入到人们...什么是物联网平台?接下来,从完整的物联网系统架构来介绍物联网平台的地位。 第一是硬件,如传感器或设备,这些传感器和设备从环境中收集数据或执行操作。 第二是网络链接,硬件设...
  • 关于nginx的五大面试题

    万次阅读 多人点赞 2019-01-30 16:55:00
    1.什么是nginx,它的优势和功能? Nginx是一个高性能的 HTTP 和 反向代理 服务器,也是一个 IMAP/POP3/SMTP 代理服务器。因它的稳定性、丰富的功能集、示例配置文件和低系统资源的消耗而闻名。2011年6月1日,nginx ...
  • 盘点五大国产数据库厂商

    千次阅读 2020-06-16 16:40:29
    当下的疫情给各国的经济造成了巨大的影响,美国的大选扑朔迷离,国际形势风云突变,数据库软件是业务系统安全的核心之一,尤其是国内目前的部分核心业务还是Oracle数据库(美国公司),例如金融、电信、能源等行业...
  • 须要完成十台以上的服务器和若干杂七杂八的配备,哪些运维人员应该必备的技术?  IT运维管理基础知识一、微软系统  关于Windows的熟识是最基本的。当然,作为一个运维经理,可不是整天玩个Windows7或...
  • 15个您可能不知道的开源云平台桉树云服务环境 Eucalyptus开源协议及语言GPL Java C/C++官方网站http://www.eucalyptus.com/participate介绍Elastic Utility Computing Architecture for Linking Your Programs To ...
  • 数据处理关键技术一般包括:数据采集、大数据预处理、大数据存储及管理、数据分析及挖掘、大数据展现和应用(大数据检索、大数据可视化、大数据应用、数据安全等)。 在这里还是要推荐下我自己建的大数据...
  • 智能科技五大创新商业模式

    千次阅读 2017-04-21 22:14:57
    智能科技五大创新商业模式 智能科技驱动信息通讯产业革命,营利模式从传统“产品经济”迈向新型态的“客户经济”与“系统经济”,智能科技产业的竞争,不再是硬件规格之间的竞争,取而代之的是商业模式的竞争! ...
  • Android之四大组件、六大布局、五大存储

    万次阅读 多人点赞 2016-09-06 16:15:36
    平台提供了 Content Provider 使一个应用程序的指定数据集提供给其他应用程序。其他应用可以 通过 ContentResolver 类从该内容提供者中获取或存入数据 。 ( 2 )只有需要在多个应用程序间共享数据是才需要内容...

空空如也

空空如也

1 2 3 4 5 ... 20
收藏数 302,289
精华内容 120,915
关键字:

五大服务平台是什么