cuda 订阅
CUDA(Compute Unified Device Architecture),是显卡厂商NVIDIA推出的运算平台。 CUDA™是一种由NVIDIA推出的通用并行计算架构,该架构使GPU能够解决复杂的计算问题。 它包含了CUDA指令集架构(ISA)以及GPU内部的并行计算引擎。 开发人员可以使用C语言来为CUDA™架构编写程序,C语言是应用最广泛的一种高级编程语言。所编写出的程序可以在支持CUDA™的处理器上以超高性能运行。CUDA3.0已经开始支持C++和FORTRAN。 展开全文
CUDA(Compute Unified Device Architecture),是显卡厂商NVIDIA推出的运算平台。 CUDA™是一种由NVIDIA推出的通用并行计算架构,该架构使GPU能够解决复杂的计算问题。 它包含了CUDA指令集架构(ISA)以及GPU内部的并行计算引擎。 开发人员可以使用C语言来为CUDA™架构编写程序,C语言是应用最广泛的一种高级编程语言。所编写出的程序可以在支持CUDA™的处理器上以超高性能运行。CUDA3.0已经开始支持C++和FORTRAN。
信息
外文名
CUDA
类    别
运算平台
适用领域
计算机
中文名
统一计算设备架构
组    成
ISA、GPU
推出者
NVIDIA
CUDA应用范围
计算行业正在从只使用CPU的“中央处理”向CPU与GPU并用的“协同处理”发展。为打造这一全新的计算典范,NVIDIA™(英伟达™)发明了CUDA(Compute Unified Device Architecture,统一计算设备架构)这一编程模型,是想在应用程序中充分利用CPU和GPU各自的优点。该架构已应用于GeForce™(精视™)、ION™(翼扬™)、Quadro以及Tesla GPU(图形处理器)上,对应用程序开发人员来说,这是一个巨大的市场。在消费级市场上,几乎每一款重要的消费级视频应用程序都已经使用CUDA加速或很快将会利用CUDA来加速,其中不乏Elemental Technologies公司、MotionDSP公司以及LoiLo公司的产品。 在科研界,CUDA一直受到热捧。例如,CUDA现已能够对AMBER进行加速。AMBER是一款分子动力学模拟程序,全世界在学术界与制药企业中有超过60,000名研究人员使用该程序来加速新药的探索工作。在金融市场,Numerix以及CompatibL针对一款全新的对手风险应用程序发布了CUDA支持并取得了18倍速度提升。Numerix为近400家金融机构所广泛使用。CUDA的广泛应用造就了GPU计算专用Tesla GPU的崛起。全球财富五百强企业已经安装了700多个GPU集群,这些企业涉及各个领域,例如能源领域的斯伦贝谢与雪佛龙以及银行业的法国巴黎银行。随着微软Windows 7与苹果Snow Leopard操作系统的问世,GPU计算必将成为主流。在这些全新的操作系统中,GPU将不仅仅是图形处理器,它还将成为所有应用程序均可使用的通用并行处理器。
收起全文
精华内容
下载资源
问答
  • 查看 CUDA cudnn 版本 & 测试 cuda 和 cudnn 有效性

    万次阅读 多人点赞 2017-08-01 15:27:09
    https://medium.com/@changrongko/nv-how-to-check-cuda-and-cudnn-version-e05aa21daf6ccuda 版本 cat /usr/local/cuda/version.txtcudnn 版本 cat /usr/local/cuda/include/cudnn.h | grep CUDNN_MAJOR -A 2

    https://medium.com/@changrongko/nv-how-to-check-cuda-and-cudnn-version-e05aa21daf6c

    cuda 版本
    cat /usr/local/cuda/version.txt

    cudnn 版本
    cat /usr/local/cuda/include/cudnn.h | grep CUDNN_MAJOR -A 2

    测试 系统 cuda 和 cudnn 有效性

    test_cuda.py

    import torch
    print(2.0)
    device = torch.device("cuda:0" if torch.cuda.is_available() else "cpu")
    # Assume that we are on a CUDA machine, then this should print a CUDA device:
    print(device)
    
    x = torch.Tensor([2.1])
    xx = x.cuda()
    print(xx)
    
    # CUDNN TEST
    from torch.backends import cudnn
    
    print('cudann is ' + str(cudnn.is_acceptable(xx)))
    
    展开全文
  • Linux安装CUDA的正确姿势

    万次阅读 多人点赞 2018-08-20 23:12:39
    Linux安装CUDA的正确姿势 CUDA(Compute Unified Device Architecture,统一计算架构)是由NVIDIA所推出的一种集成技术,是该公司对于GPGPU的正式名称。 透过这个技术,用户可利用NVIDIA的GeForce 8以后的GPU和较...

    Linux安装CUDA的正确姿势

    CUDA(Compute Unified Device Architecture,统一计算架构)是由NVIDIA所推出的一种集成技术,是该公司对于GPGPU的正式名称。

    透过这个技术,用户可利用NVIDIAGeForce 8以后的GPU和较新的Quadro GPU进行计算。

    查看显卡是否支持CUDA

    输入下面命令查看电脑的NVIDIA型号:

    vincent@dell-Inspiron-7559 Dir:~
    ·····$lspci | grep -i nvidia
    02:00.0 3D controller: NVIDIA Corporation GM107M [GeForce GTX 960M] (rev a2)
    

    我的显卡型号为: GeForce GTX 960M

    然后到官网查看是否支持CUDA网址地址

    查看CUDA版本与NVIDIA驱动的关系

    在这里插入图片描述
    也可以到官网查看,点击查看链接

    下载CUDA文件

    下载最新的CUDA软件安装包, CUDA Toolkit 9.2 Download

    这里写图片描述

    我们选择runfile文件进行安装。然后放到一个目录下,要记住,后面我们会要执行它。

    确认安装环境

    1. NVIDIA显卡已经正常安装

    2. nouveau已经禁用

    可以使用下面命令查看,如果没有输出代表成功:

    lsmod | grep nouveau
    

    如果正确安装了NVIDIA的驱动就会禁止掉了。

    3. 验证系统是否安装了gcc

    终端输入下面命令查看是否安装:

    vincent@dell-Inspiron-7559 Dir:~
    ·····$gcc --version
    gcc (Ubuntu 7.3.0-16ubuntu3) 7.3.0
    Copyright (C) 2017 Free Software Foundation, Inc.
    This is free software; see the source for copying conditions.  There is NO
    warranty; not even for MERCHANTABILITY or FITNESS FOR A PARTICULAR PURPOSE. 
    

    安装CUDA

    1. 进入tty界面

    alt + ctrl + F1进入tty命令行界面,登录用户和密码

    2. 关闭图形界面

    tty中输入下面命令关闭图形界面:

    sudo service lightdm stop
    

    或者

    sudo telinit 3
    

    3. 运行cuda文件

    首先给cuda可执行权限:

    sudo chmod a+x cuda_9.2_linux.run
    

    运行cuda文件:

    sudo ./cuda_9.2_linux.run --no-opengl-libs
    

    cuda主要有以下参数:

    • --no-opengl-libs:表示只安装驱动文件,不安装OpenGL文件。必需参数,原因同上。注意:不是-no-opengl-files
    • --uninstall (deprecated):用于卸载CUDA Driver(已废弃)。
    • --toolkit:表示只安装CUDA Toolkit,不安装DriverSamples
    • --help:查看更多高级选项。

    4. 安装过程的选项选择

    (1). 会先有个阅读声明,一直按D即可,然后accept
    (2). 选项install nvidia accelerated Graphics Driver,输入n,因为我们已经安装了nvidia的驱动。
    (3). 选项install the OpenGL libraries,如果双显卡(集显+独显)选择n,如果只有独显可以选择y,如果双显卡选择y的话,会出现黑屏或者循环登录的问题,如果加了上面的参数就不会出现这个选项了。
    (4). 后面的可以都选择yes,最后一个选项我们可以选择n,也就是不复制Samples,因为安装目录下有samples

    安装过程结束后会有以下信息:

    Driver :Installed
    Toolkit :Installed in /usr/local/cuda-9.2
    Samples :Installed in /home/vincent
    

    代表安装完成,但是不代表成功。这时需要重启。

    5. 验证cuda是否成功安装

    重启进入界面,打开终端输入:

    export PATH="/usr/local/cuda-9.2/bin:$PATH" 
    export LD_LIBRARY_PATH="/usr/local/cuda-9.2/lib64:$LD_LIBRARY_PATH" 
    

    这两条命令是将cudabin文件和lib导出到系统环境中。
    如果安装的版本不是一样的,更换路径中的cuda-9.2

    (1). 终端输入:

    nvcc -V
    

    如果有CUDA的版本信息代表正常。

    (2). 编译samples例子

    #编译并测试设备 deviceQuery:
    cd /usr/local/cuda-9.2/samples/1_Utilities/deviceQuery
    sudo make
    ./deviceQuery
    
    #编译并测试带宽 bandwidthTest:
    cd ../bandwidthTest
    sudo make
    ./bandwidthTest
    

    如果这两个测试的最后结果都是Result = PASS,说明CUDA安装成功啦。

    备注:
    如果安装失败,有可能是缺少依赖,终端执行:

    sudo apt-get install freeglut3-dev \
    build-essential \
    libx11-dev \
    libxmu-dev \
    libxi-dev \
    libgl1-mesa-glx \
    libglu1-mesa \
    libglu1-mesa-dev
    

    (6). 将cudabinlib写入系统环境

    打开~.bashrc文件在末尾追加两句:

    export CUDA_HOME=/usr/local/cuda-9.2
    export LD_LIBRARY_PATH=/usr/local/cuda-9.2/lib64:$LD_LIBRARY_PATH
    export PATH=/usr/local/cuda-9.2/bin:$PATH
    

    然后退出重新打开终端即可。

    CUDA卸载

    CUDA默认安装在 /usr/local/cuda-9.2下,用下面的命令卸载::

    sudo /usr/local/cuda-9.2/bin/uninstall_cuda-9.2.pl
    

    NVIDIA驱动卸载:

    sudo /usr/bin/nvidia-uninstall
    

    卸载过程一路都是yes

    其他问题

    1. 如果出现循环登录

    alt + ctrl + F1进入tty,然后切换集显:

    sudo  prime-select intel
    

    卸载cuda文件:

    sudo /usr/local/cuda-9.2/bin/uninstall_cuda_9.2.pl
    

    如果重启之后还是不能进入,那就把nvidia驱动卸载:

    sudo /usr/bin/nvidia-uninstall
    

    也可以在启动时选择Advanced然后以root方式进入系统,卸载nvidia、cuda等软件。

    然后重启,如果重启黑屏,在grub界面进入linux的选择上按e键,找到quiet splash,在后面加nouveau.modeset=0,然后按F10启动。
    然后安装nvidia驱动,再安装CUDA软件。

    2.gcc版本校验失败
    如果安装cuda过程中出现

    Failed to verify gcc version
    

    那么很有可能你的gcc版本太高,例如:cuda 10.1要求gcc版本是7.3.0,但是ubuntu 20.04/linux mint 20默认gcc版本为9.3.0,所以可以增加下面参数安装。

    sudo sh cuda_10.1.243_418.87.00_linux.run --override
    

    END

    展开全文
  • tensorflow各个版本的CUDA以及Cudnn版本对应关系

    万次阅读 多人点赞 2019-04-08 14:50:34
    CUDA是NVIDIA推出的用于自家GPU的并行计算框架,也就是说CUDA只能在NVIDIA的GPU上运行,而且只有当要解决的计算问题是可以大量并行计算的时候才能发挥CUDA的作用。 CUDA的本质是一个工具包(ToolKit);但是二者...

     

    概述,需要注意以下几个问题:

    (1)NVIDIA的显卡驱动程序和CUDA完全是两个不同的概念哦!CUDA是NVIDIA推出的用于自家GPU的并行计算框架,也就是说CUDA只能在NVIDIA的GPU上运行,而且只有当要解决的计算问题是可以大量并行计算的时候才能发挥CUDA的作用。

    CUDA的本质是一个工具包(ToolKit);但是二者虽然不一样的。

    显卡驱动的安装:

    当我们使用一台电脑的时候默认的已经安装了NVIDIA的显卡驱动,因为没有显卡驱动根本用不了显卡嘛,但是这个时候我们是没有CUDA可以用的,我们可以更新我们的驱动,更新链接为:

    https://www.nvidia.com/Download/index.aspx?lang=en-us

    在这个里面可以根据自己的显卡类型选择最新的驱动程序。显卡驱动程序当前大小大概500多M。

    CUDA ToolKit的安装:

    CUDA的下载地址为:https://developer.nvidia.com/cuda-downloads

    我们可以选择两种安装方式,一种是在线安装(我还没用过),一中离线安装(我采用的)即本地安装,

    当我们选择离线安装,当我们选定相对应的版本之后,下载的时候发现这个地方的文件大小大概在2G左右,Linux系统下面我们选择runfile(local) 完整安装包从本地安装,或者是选择windows的本地安装。CUDA Toolkit本地安装包时内含特定版本Nvidia显卡驱动的,所以只选择下载CUDA Toolkit就足够了,如果想安装其他版本的显卡驱动就下载相应版本即可

    所以,NVIDIA显卡驱动和CUDA工具包本身是不具有捆绑关系的,也不是一一对应的关系,只不过是离线安装的CUDA工具包会默认携带与之匹配的最新的驱动程序。

    注意事项NVIDIA的显卡驱动器与CUDA并不是一一对应的哦,CUDA本质上只是一个工具包而已,所以我可以在同一个设备上安装很多个不同版本的CUDA工具包,比如我的电脑上同事安装了 CUDA 9.0、CUDA 9.2、CUDA 10.0三个版本。一般情况下,我只需要安装最新版本的显卡驱动,然后根据自己的选择选择不同CUDA工具包就可以了,但是由于使用离线的CUDA总是会捆绑CUDA和驱动程序,所以在使用多个CUDA的时候就不要选择离线安装的CUDA了,否则每次都会安装不同的显卡驱动,这不太好,我们直接安装一个最新版的显卡驱动,然后在线安装不同版本的CUDA即可。

    总结:CUDA和显卡驱动是没有一一对应的。

    (2)cuDNN是一个SDK,是一个专门用于神经网络的加速包,注意,它跟我们的CUDA没有一一对应的关系,即每一个版本的CUDA可能有好几个版本的cuDNN与之对应,但一般有一个最新版本的cuDNN版本与CUDA对应更好。

    总结:cuDNN与CUDA没有一一对应的关系

    (3)CUDA 工具包附带的 CUPTI

     CUPTI,即CUDA Profiling Tools Interface (CUPTI)。CUDA分析工具接口(CUPTI)能够分析和跟踪靶向CUDA应用程序的工具的创建。CUPTI提供以下API:

    • Activity API,
    • Callback API,
    • 事件API,
    • Metric API,和
    • Profiler API。

    使用这些API,您可以开发分析工具,深入了解CUDA应用程序的CPU和GPU行为。CUPTI作为CUDA支持的所有平台上的动态库提供。请参阅CUPTI文档。

    一、tensorflow各个版本需要的CUDA版本以及Cudnn的对应关系

    1.1 对应表格

    相应的网址为:

    https://www.tensorflow.org/install/source#common_installation_problems

    https://www.tensorflow.org/install/source_windows

    版本Python 版本编译器编译工具cuDNNCUDA
    tensorflow_gpu-2.0.0-alpha02.7、3.3-3.6GCC 4.8Bazel 0.19.27.4.1以及更高版本CUDA 10.0 (需要 410.x 或更高版本)
    tensorflow_gpu-1.13.02.7、3.3-3.6GCC 4.8Bazel 0.19.27.410.0
    tensorflow_gpu-1.12.02.7、3.3-3.6GCC 4.8Bazel 0.15.079
    tensorflow_gpu-1.11.02.7、3.3-3.6GCC 4.8Bazel 0.15.079
    tensorflow_gpu-1.10.02.7、3.3-3.6GCC 4.8Bazel 0.15.079
    tensorflow_gpu-1.9.02.7、3.3-3.6GCC 4.8Bazel 0.11.079
    tensorflow_gpu-1.8.02.7、3.3-3.6GCC 4.8Bazel 0.10.079
    tensorflow_gpu-1.7.02.7、3.3-3.6GCC 4.8Bazel 0.9.079
    tensorflow_gpu-1.6.02.7、3.3-3.6GCC 4.8Bazel 0.9.079
    tensorflow_gpu-1.5.02.7、3.3-3.6GCC 4.8Bazel 0.8.079
    tensorflow_gpu-1.4.02.7、3.3-3.6GCC 4.8Bazel 0.5.468
    tensorflow_gpu-1.3.02.7、3.3-3.6GCC 4.8Bazel 0.4.568
    tensorflow_gpu-1.2.02.7、3.3-3.6GCC 4.8Bazel 0.4.55.18
    tensorflow_gpu-1.1.02.7、3.3-3.6GCC 4.8Bazel 0.4.25.18
    tensorflow_gpu-1.0.02.7、3.3-3.6GCC 4.8Bazel 0.4.25.18

    现在NVIDIA的显卡驱动程序已经更新到 10.1版本,最新的支持CUDA 10.1版本的cuDNN为7.5.0

    1.2 CUDA的命名规则

    下面以几个例子来说

    (1)CUDA 9.2

    CUDA  9.2.148

    (2)CUDA 10.0

    CUDA 10.0.130.411.31(后面的411.31对应更具体的版本号)

    (3)CUDA 10.1

    CUDA 10.1.105.418.96(后面的418.96对应更具体的版本号)

    更多详细的请参考如下官网:

    https://developer.nvidia.com/cuda-toolkit-archive

    1.3 如何查看自己所安装的CUDA的版本:

    (1)直接在NVIDIA的控制面板里面查看NVCUDA.DLL的版本。

    注意:这里网上有很多说法是错误的,这个版本并不能绝对说明自己所安装的CUDA工具包一定这个版本

    (2)通过命令查看:nvcc -V 或者是nvcc --version都可以,但前提是添加了环境变量

    (3)直接通过文件查看,这里分为Linux和windows两种情况

    在windows平台下,可以直接进入CUDA的安装目录,比如我的是:

    C:\Program Files\NVIDIA GPU Computing Toolkit\CUDA\v9.2   里面有一个version.txt的文本文件,直接打开即可,也可以使用命令,即

    首先进入到安装目录,然后执行:type version.txt 即可查看

    在Linux平台下:

    同windows类似,进入到安装目录,然后执行  cat version.txt 命令

    1.4 如何查看自己的cuDNN的版本

    因为cuDNN本质上就是一个C语言的H头文件,

    (1)在windows平台下:

    直接进入安装目录:C:\Program Files\NVIDIA GPU Computing Toolkit\CUDA\v9.2\include  之下,然后找到

    cudnn.h 的头文件,直接到开查看,在最开始的部分会有如下定义:

    #define CUDNN_MAJOR 7
    #define CUDNN_MINOR 5
    #define CUDNN_PATCHLEVEL 0
    
    #define CUDNN_VERSION (CUDNN_MAJOR * 1000 + CUDNN_MINOR * 100 + CUDNN_PATCHLEVEL)

    即7500,也就是cudnn的版本为7.5.0版本;

    (2)在Linux下当然也可以直接查看,但是通过命令更简单,进入到安装目录,执行如下命令:

    cat /usr/local/cuda/include/cudnn.h | grep CUDNN_MAJOR -A 2  即可查询

    即5005,即5.0.5版本的cudnn。

     二、CUDA与相对应的Cudnn对应关系

    Download cuDNN v7.4.2 (Dec 14, 2018), for CUDA 10.0

    Download cuDNN v7.4.2 (Dec 14, 2018), for CUDA 9.2

    Download cuDNN v7.4.2 (Dec 14, 2018), for CUDA 9.0

    Download cuDNN v7.4.1 (Nov 8, 2018), for CUDA 10.0

    Download cuDNN v7.4.1 (Nov 8, 2018), for CUDA 9.2

    Download cuDNN v7.4.1 (Nov 8, 2018), for CUDA 9.0

    Download cuDNN v7.3.1 (Sept 28, 2018), for CUDA 10.0

    Download cuDNN v7.3.1 (Sept 28, 2018), for CUDA 9.2

    Download cuDNN v7.3.1 (Sept 28, 2018), for CUDA 9.0

    Download cuDNN v7.3.0 (Sept 19, 2018), for CUDA 10.0

    Download cuDNN v7.3.0 (Sept 19, 2018), for CUDA 9.0

    Download cuDNN v7.2.1 (August 7, 2018), for CUDA 9.2

    Download cuDNN v7.1.4 (May 16, 2018), for CUDA 9.2

    Download cuDNN v7.1.4 (May 16, 2018), for CUDA 9.0

    Download cuDNN v7.1.4 (May 16, 2018), for CUDA 8.0

    Download cuDNN v7.1.3 (April 17, 2018), for CUDA 9.1

    Download cuDNN v7.1.3 (April 17, 2018), for CUDA 9.0

    Download cuDNN v7.1.3 (April 17, 2018), for CUDA 8.0

    Download cuDNN v7.1.2 (Mar 21, 2018), for CUDA 9.1 & 9.2

    Download cuDNN v7.1.2 (Mar 21, 2018), for CUDA 9.0

    Download cuDNN v7.0.5 (Dec 11, 2017), for CUDA 9.1

    Download cuDNN v7.0.5 (Dec 5, 2017), for CUDA 9.0

    Download cuDNN v7.0.5 (Dec 5, 2017), for CUDA 8.0

    Download cuDNN v7.0.4 (Nov 13, 2017), for CUDA 9.0

    Download cuDNN v6.0 (April 27, 2017), for CUDA 8.0

    Download cuDNN v6.0 (April 27, 2017), for CUDA 7.5

    Download cuDNN v5.1 (Jan 20, 2017), for CUDA 8.0

    Download cuDNN v5.1 (Jan 20, 2017), for CUDA 7.5

    Download cuDNN v5 (May 27, 2016), for CUDA 8.0

    Download cuDNN v5 (May 12, 2016), for CUDA 7.5

    Download cuDNN v4 (Feb 10, 2016), for CUDA 7.0 and later.

    Download cuDNN v3 (September 8, 2015), for CUDA 7.0 and later.

    Download cuDNN v2 (March 17,2015), for CUDA 6.5 and later.

    Download cuDNN v1 (cuDNN 6.5 R1)

    三、NVIDIA显卡以及对应的显卡驱动的对应关系

    由于NVIDIA存在多个系列的显卡类型,把这里仅仅显示出GeForce系列的显卡以及各个显卡的计算能力(compute capability),详情可以参考官网链接:

    https://developer.nvidia.com/cuda-gpus

    (1)GeForce Desktop Products

    GPUCompute Capability
    NVIDIA TITAN RTX7.5
    Geforce RTX 2080 Ti7.5
    Geforce RTX 20807.5
    Geforce RTX 20707.5
    Geforce RTX 20607.5
    NVIDIA TITAN V7.0
    NVIDIA TITAN Xp6.1
    NVIDIA TITAN X6.1
    GeForce GTX 1080 Ti6.1
    GeForce GTX 10806.1
    GeForce GTX 10706.1
    GeForce GTX 10606.1
    GeForce GTX 10506.1
    GeForce GTX TITAN X5.2
    GeForce GTX TITAN Z3.5
    GeForce GTX TITAN Black3.5
    GeForce GTX TITAN3.5
    GeForce GTX 980 Ti5.2
    GeForce GTX 9805.2
    GeForce GTX 9705.2
    GeForce GTX 9605.2
    GeForce GTX 9505.2
    GeForce GTX 780 Ti3.5
    GeForce GTX 7803.5
    GeForce GTX 7703.0
    GeForce GTX 7603.0
    GeForce GTX 750 Ti5.0
    GeForce GTX 7505.0
    GeForce GTX 6903.0
    GeForce GTX 6803.0
    GeForce GTX 6703.0
    GeForce GTX 660 Ti3.0
    GeForce GTX 6603.0
    GeForce GTX 650 Ti BOOST3.0
    GeForce GTX 650 Ti3.0
    GeForce GTX 6503.0
    GeForce GTX 560 Ti2.1
    GeForce GTX 550 Ti2.1
    GeForce GTX 4602.1
    GeForce GTS 4502.1
    GeForce GTS 450*2.1
    GeForce GTX 5902.0
    GeForce GTX 5802.0
    GeForce GTX 5702.0
    GeForce GTX 4802.0
    GeForce GTX 4702.0
    GeForce GTX 4652.0
    GeForce GT 7403.0
    GeForce GT 7303.5
    GeForce GT 730 DDR3,128bit2.1
    GeForce GT 7203.5
    GeForce GT 705*3.5
    GeForce GT 640 (GDDR5)3.5
    GeForce GT 640 (GDDR3)2.1
    GeForce GT 6302.1
    GeForce GT 6202.1
    GeForce GT 6102.1
    GeForce GT 5202.1
    GeForce GT 4402.1
    GeForce GT 440*2.1
    GeForce GT 4302.1
    GeForce GT 430*2.1

    (2)GeForce Notebook Products(笔记本电脑)

    GPUCompute Capability
    Geforce RTX 20807.5
    Geforce RTX 20707.5
    Geforce RTX 20607.5
    GeForce GTX 10806.1
    GeForce GTX 10706.1
    GeForce GTX 10606.1
    GeForce GTX 9805.2
    GeForce GTX 980M5.2
    GeForce GTX 970M5.2
    GeForce GTX 965M5.2
    GeForce GTX 960M5.0
    GeForce GTX 950M5.0
    GeForce 940M5.0
    GeForce 930M5.0
    GeForce 920M3.5
    GeForce 910M5.2
    GeForce GTX 880M3.0
    GeForce GTX 870M3.0
    GeForce GTX 860M3.0/5.0(**)
    GeForce GTX 850M5.0
    GeForce 840M5.0
    GeForce 830M5.0
    GeForce 820M2.1
    GeForce 800M2.1
    GeForce GTX 780M3.0
    GeForce GTX 770M3.0
    GeForce GTX 765M3.0
    GeForce GTX 760M3.0
    GeForce GTX 680MX3.0
    GeForce GTX 680M3.0
    GeForce GTX 675MX3.0
    GeForce GTX 675M2.1
    GeForce GTX 670MX3.0
    GeForce GTX 670M2.1
    GeForce GTX 660M3.0
    GeForce GT 755M3.0
    GeForce GT 750M3.0
    GeForce GT 650M3.0
    GeForce GT 745M3.0
    GeForce GT 645M3.0
    GeForce GT 740M3.0
    GeForce GT 730M3.0
    GeForce GT 640M3.0
    GeForce GT 640M LE3.0
    GeForce GT 735M3.0
    GeForce GT 635M2.1
    GeForce GT 730M3.0
    GeForce GT 630M2.1
    GeForce GT 625M2.1
    GeForce GT 720M2.1
    GeForce GT 620M2.1
    GeForce 710M2.1
    GeForce 705M2.1
    GeForce 610M2.1
    GeForce GTX 580M2.1
    GeForce GTX 570M2.1
    GeForce GTX 560M2.1
    GeForce GT 555M2.1
    GeForce GT 550M2.1
    GeForce GT 540M2.1
    GeForce GT 525M2.1
    GeForce GT 520MX2.1
    GeForce GT 520M2.1
    GeForce GTX 485M2.1
    GeForce GTX 470M2.1
    GeForce GTX 460M2.1
    GeForce GT 445M2.1
    GeForce GT 435M2.1
    GeForce GT 420M2.1
    GeForce GT 415M2.1
    GeForce GTX 480M2.0
    GeForce 710M2.1
    GeForce 410M2.1

     

    展开全文
  • Ubuntu安装和卸载CUDA和CUDNN

    万次阅读 多人点赞 2018-06-14 12:08:15
    最近在学习PaddlePaddle在各个显卡驱动版本的安装和使用,所以同时也学习如何在Ubuntu安装和卸载CUDA和CUDNN,在学习过程中,顺便记录学习过程。在供大家学习的同时,也在加强自己的记忆。 卸载CUDA 为什么一...

    原文博客:Doi技术团队
    链接地址:https://blog.doiduoyi.com/authors/1584446358138
    初心:记录优秀的Doi技术团队学习经历

    目录

    前言

    最近在学习PaddlePaddle在各个显卡驱动版本的安装和使用,所以同时也学习如何在Ubuntu安装和卸载CUDA和CUDNN,在学习过程中,顺便记录学习过程。在供大家学习的同时,也在加强自己的记忆。本文章以卸载CUDA 8.0 和 CUDNN 7.05 为例,以安装CUDA 10.0 和 CUDNN 7.4.2 为例。

    安装显卡驱动

    禁用nouveau驱动

    sudo vim /etc/modprobe.d/blacklist.conf
    

    在文本最后添加:

    blacklist nouveau
    options nouveau modeset=0
    

    然后执行:

    sudo update-initramfs -u
    

    重启后,执行以下命令,如果没有屏幕输出,说明禁用nouveau成功:

    lsmod | grep nouveau
    

    下载驱动

    官网下载地址:https://www.nvidia.cn/Download/index.aspx?lang=cn ,根据自己显卡的情况下载对应版本的显卡驱动,比如笔者的显卡是RTX2070:
    在这里插入图片描述

    下载完成之后会得到一个安装包,不同版本文件名可能不一样:

    NVIDIA-Linux-x86_64-410.93.run
    

    卸载旧驱动

    以下操作都需要在命令界面操作,执行以下快捷键进入命令界面,并登录:

    Ctrl-Alt+F1
    

    执行以下命令禁用X-Window服务,否则无法安装显卡驱动:

    sudo service lightdm stop
    

    执行以下三条命令卸载原有显卡驱动:

    sudo apt-get remove --purge nvidia*
    sudo chmod +x NVIDIA-Linux-x86_64-410.93.run
    sudo ./NVIDIA-Linux-x86_64-410.93.run --uninstall
    

    安装新驱动

    直接执行驱动文件即可安装新驱动,一直默认即可:

    sudo ./NVIDIA-Linux-x86_64-410.93.run
    

    执行以下命令启动X-Window服务

    sudo service lightdm start
    

    最后执行重启命令,重启系统即可:

    reboot
    

    注意: 如果系统重启之后出现重复登录的情况,多数情况下都是安装了错误版本的显卡驱动。需要下载对应本身机器安装的显卡版本。

    卸载CUDA

    为什么一开始我就要卸载CUDA呢,这是因为笔者是换了显卡RTX2070,原本就安装了CUDA 8.0 和 CUDNN 7.0.5不能够正常使用,笔者需要安装CUDA 10.0 和 CUDNN 7.4.2,所以要先卸载原来的CUDA。注意以下的命令都是在root用户下操作的。

    卸载CUDA很简单,一条命令就可以了,主要执行的是CUDA自带的卸载脚本,读者要根据自己的cuda版本找到卸载脚本:

    sudo /usr/local/cuda-8.0/bin/uninstall_cuda_8.0.pl
    

    卸载之后,还有一些残留的文件夹,之前安装的是CUDA 8.0。可以一并删除:

    sudo rm -rf /usr/local/cuda-8.0/
    

    这样就算卸载完了CUDA。

    安装CUDA

    安装的CUDA和CUDNN版本:

    • CUDA 10.0
    • CUDNN 7.4.2

    接下来的安装步骤都是在root用户下操作的。

    下载和安装CUDA

    我们可以在官网:CUDA10下载页面
    下载符合自己系统版本的CUDA。页面如下:
    在这里插入图片描述

    下载完成之后,给文件赋予执行权限:

    chmod +x cuda_10.0.130_410.48_linux.run
    

    执行安装包,开始安装:

    ./cuda_10.0.130_410.48_linux.run
    

    开始安装之后,需要阅读说明,可以使用Ctrl + C直接阅读完成,或者使用空格键慢慢阅读。然后进行配置,我这里说明一下:

    (是否同意条款,必须同意才能继续安装)
    accept/decline/quit: accept
    
    (这里不要安装驱动,因为已经安装最新的驱动了,否则可能会安装旧版本的显卡驱动,导致重复登录的情况)
    Install NVIDIA Accelerated Graphics Driver for Linux-x86_64 410.48?
    (y)es/(n)o/(q)uit: n
    
    Install the CUDA 10.0 Toolkit?(是否安装CUDA 10 ,这里必须要安装)
    (y)es/(n)o/(q)uit: y
    
    Enter Toolkit Location(安装路径,使用默认,直接回车就行)
     [ default is /usr/local/cuda-10.0 ]:  
    
    Do you want to install a symbolic link at /usr/local/cuda?(同意创建软链接)
    (y)es/(n)o/(q)uit: y
    
    Install the CUDA 10.0 Samples?(不用安装测试,本身就有了)
    (y)es/(n)o/(q)uit: n
    
    Installing the CUDA Toolkit in /usr/local/cuda-10.0 ...(开始安装)
    

    安装完成之后,可以配置他们的环境变量,在vim ~/.bashrc的最后加上以下配置信息:

    export CUDA_HOME=/usr/local/cuda-10.0
    export LD_LIBRARY_PATH=${CUDA_HOME}/lib64
    export PATH=${CUDA_HOME}/bin:${PATH}
    

    最后使用命令source ~/.bashrc使它生效。

    可以使用命令nvcc -V查看安装的版本信息:

    test@test:~$ nvcc -V
    nvcc: NVIDIA (R) Cuda compiler driver
    Copyright (c) 2005-2018 NVIDIA Corporation
    Built on Sat_Aug_25_21:08:01_CDT_2018
    Cuda compilation tools, release 10.0, V10.0.130
    

    测试安装是否成功

    执行以下几条命令:

    cd /usr/local/cuda-10.0/samples/1_Utilities/deviceQuery
    make
    ./deviceQuery
    

    正常情况下输出:

    ./deviceQuery Starting...
    
     CUDA Device Query (Runtime API) version (CUDART static linking)
    
    Detected 1 CUDA Capable device(s)
    
    Device 0: "GeForce RTX 2070"
      CUDA Driver Version / Runtime Version          10.0 / 10.0
      CUDA Capability Major/Minor version number:    7.5
      Total amount of global memory:                 7950 MBytes (8335982592 bytes)
      (36) Multiprocessors, ( 64) CUDA Cores/MP:     2304 CUDA Cores
      GPU Max Clock rate:                            1620 MHz (1.62 GHz)
      Memory Clock rate:                             7001 Mhz
      Memory Bus Width:                              256-bit
      L2 Cache Size:                                 4194304 bytes
      Maximum Texture Dimension Size (x,y,z)         1D=(131072), 2D=(131072, 65536), 3D=(16384, 16384, 16384)
      Maximum Layered 1D Texture Size, (num) layers  1D=(32768), 2048 layers
      Maximum Layered 2D Texture Size, (num) layers  2D=(32768, 32768), 2048 layers
      Total amount of constant memory:               65536 bytes
      Total amount of shared memory per block:       49152 bytes
      Total number of registers available per block: 65536
      Warp size:                                     32
      Maximum number of threads per multiprocessor:  1024
      Maximum number of threads per block:           1024
      Max dimension size of a thread block (x,y,z): (1024, 1024, 64)
      Max dimension size of a grid size    (x,y,z): (2147483647, 65535, 65535)
      Maximum memory pitch:                          2147483647 bytes
      Texture alignment:                             512 bytes
      Concurrent copy and kernel execution:          Yes with 3 copy engine(s)
      Run time limit on kernels:                     Yes
      Integrated GPU sharing Host Memory:            No
      Support host page-locked memory mapping:       Yes
      Alignment requirement for Surfaces:            Yes
      Device has ECC support:                        Disabled
      Device supports Unified Addressing (UVA):      Yes
      Device supports Compute Preemption:            Yes
      Supports Cooperative Kernel Launch:            Yes
      Supports MultiDevice Co-op Kernel Launch:      Yes
      Device PCI Domain ID / Bus ID / location ID:   0 / 1 / 0
      Compute Mode:
         < Default (multiple host threads can use ::cudaSetDevice() with device simultaneously) >
    
    deviceQuery, CUDA Driver = CUDART, CUDA Driver Version = 10.0, CUDA Runtime Version = 10.0, NumDevs = 1
    Result = PASS
    

    下载和安装CUDNN

    进入到CUDNN的下载官网:https://developer.nvidia.com/rdp/cudnn-download ,然点击Download开始选择下载版本,当然在下载之前还有登录,选择版本界面如下,我们选择cuDNN Library for Linux
    在这里插入图片描述

    下载之后是一个压缩包,如下:

    cudnn-10.0-linux-x64-v7.4.2.24.tgz 
    

    然后对它进行解压,命令如下:

    tar -zxvf cudnn-10.0-linux-x64-v7.4.2.24.tgz 
    

    解压之后可以得到以下文件:

    cuda/include/cudnn.h
    cuda/NVIDIA_SLA_cuDNN_Support.txt
    cuda/lib64/libcudnn.so
    cuda/lib64/libcudnn.so.7
    cuda/lib64/libcudnn.so.7.4.2
    cuda/lib64/libcudnn_static.a
    

    使用以下两条命令复制这些文件到CUDA目录下:

    cp cuda/lib64/* /usr/local/cuda-10.0/lib64/
    cp cuda/include/* /usr/local/cuda-10.0/include/
    

    拷贝完成之后,可以使用以下命令查看CUDNN的版本信息:

    cat /usr/local/cuda/include/cudnn.h | grep CUDNN_MAJOR -A 2
    

    测试安装结果

    到这里就已经完成了CUDA 10 和 CUDNN 7.4.2 的安装。可以安装对应的Pytorch的GPU版本测试是否可以正常使用了。安装如下:

    pip3 install https://download.pytorch.org/whl/cu100/torch-1.0.0-cp35-cp35m-linux_x86_64.whl
    pip3 install torchvision
    

    然后使用以下的程序测试安装情况:

    import torch
    import torch.nn as nn
    import torch.nn.functional as F
    import torch.optim as optim
    import torch.backends.cudnn as cudnn
    from torchvision import datasets, transforms
    
    
    class Net(nn.Module):
        def __init__(self):
            super(Net, self).__init__()
            self.conv1 = nn.Conv2d(1, 10, kernel_size=5)
            self.conv2 = nn.Conv2d(10, 20, kernel_size=5)
            self.conv2_drop = nn.Dropout2d()
            self.fc1 = nn.Linear(320, 50)
            self.fc2 = nn.Linear(50, 10)
    
        def forward(self, x):
            x = F.relu(F.max_pool2d(self.conv1(x), 2))
            x = F.relu(F.max_pool2d(self.conv2_drop(self.conv2(x)), 2))
            x = x.view(-1, 320)
            x = F.relu(self.fc1(x))
            x = F.dropout(x, training=self.training)
            x = self.fc2(x)
            return F.log_softmax(x, dim=1)
    
    
    def train(model, device, train_loader, optimizer, epoch):
        model.train()
        for batch_idx, (data, target) in enumerate(train_loader):
            data, target = data.to(device), target.to(device)
            optimizer.zero_grad()
            output = model(data)
            loss = F.nll_loss(output, target)
            loss.backward()
            optimizer.step()
            if batch_idx % 10 == 0:
                print('Train Epoch: {} [{}/{} ({:.0f}%)]\tLoss: {:.6f}'.format(
                    epoch, batch_idx * len(data), len(train_loader.dataset),
                           100. * batch_idx / len(train_loader), loss.item()))
    
    def main():
        cudnn.benchmark = True
        torch.manual_seed(1)
        device = torch.device("cuda")
        kwargs = {'num_workers': 1, 'pin_memory': True}
        train_loader = torch.utils.data.DataLoader(
            datasets.MNIST('../data', train=True, download=True,
                           transform=transforms.Compose([
                               transforms.ToTensor(),
                               transforms.Normalize((0.1307,), (0.3081,))
                           ])),
            batch_size=64, shuffle=True, **kwargs)
    
        model = Net().to(device)
        optimizer = optim.SGD(model.parameters(), lr=0.01, momentum=0.5)
    
        for epoch in range(1, 11):
            train(model, device, train_loader, optimizer, epoch)
    
    
    if __name__ == '__main__':
        main()
    
    

    如果正常输出一下以下信息,证明已经安装成了:

    Train Epoch: 1 [0/60000 (0%)]	Loss: 2.365850
    Train Epoch: 1 [640/60000 (1%)]	Loss: 2.305295
    Train Epoch: 1 [1280/60000 (2%)]	Loss: 2.301407
    Train Epoch: 1 [1920/60000 (3%)]	Loss: 2.316538
    Train Epoch: 1 [2560/60000 (4%)]	Loss: 2.255809
    Train Epoch: 1 [3200/60000 (5%)]	Loss: 2.224511
    Train Epoch: 1 [3840/60000 (6%)]	Loss: 2.216569
    Train Epoch: 1 [4480/60000 (7%)]	Loss: 2.181396
    

    参考资料

    1. https://developer.nvidia.com
    2. https://www.cnblogs.com/luofeel/p/8654964.html

    深度学习与PyTorch实战

    展开全文
  • Pytorch错误:Torch not compiled with CUDA enabled

    万次阅读 多人点赞 2020-04-24 12:20:57
      在用Pytorch炼丹的过程中,很意外地碰到了一个错误提示AssertionError: Torch not compiled with CUDA enabled,如下图所示。 错误提示   代码本身可以确定是没有问题的,因为只是在往日已经跑过的代码上加入...
  • pytorch出现RuntimeError: CUDA out of memory.

    万次阅读 多人点赞 2019-03-21 16:09:02
    无论batch-size设置多小也是会出现这个问题的,我的原因是我将...RuntimeError: CUDA out of memory. Tried to allocate 823.88 MiB (GPU 0; 7.93 GiB total capacity; 6.96 GiB already allocated; 189.31 MiB fr...
  • 如何查看windows的CUDA版本

    万次阅读 多人点赞 2019-04-12 00:25:59
    最近开始学习一些关于图像处理的计算机视觉...只需要我们自己选择相应的系统,下载使用的工具方式,python的版本,以及CUDA版本号,就可以获得到相应的命令进行下载安装。 这时遇到一个问题,CUDA是什么? CUDA(C...
  • 鉴于CUDA下载速度慢且可能存在网络问题,故提供百度盘帮助下载(含cuda toolkit和对应的cudnn)。
  • cuda安装教程+cudnn安装教程

    万次阅读 多人点赞 2018-11-19 12:21:45
    cuda9.0+cudnn7.0安装教程   1、下载cuda9.0 下载链接:https://developer.nvidia.com/cuda-toolkit-archive   2、安装cuda 安装cuda时,第一次会让设置临时解压目录,第二次会让设置安装目录; 临时...
  • cudacudatoolkit

    千次阅读 多人点赞 2020-11-28 02:44:24
    Pytorch 使用不同版本的 cuda  由于课题的原因,笔者主要通过 Pytorch 框架进行深度学习相关的学习和实验。在运行和学习网络上的 Pytorch 应用代码的过程中,不少项目会标注作者在运行和实验时所使用的 Pytorch 和...
  • 补充:最新的Tensorlfow2.0 gpu版要求使用的CUDACUDA 10.0,安装错版本了会用不了,最新的pytorch 1.3.1要求使用CUDA 10.1,如果你两者都需要使用,可以先把CUDA 10.0和CUDA 10.1都安装上,然后linux下把/usr/...
  • win10下CUDA和CUDNN的安装(超详细)!亲测有效!

    万次阅读 多人点赞 2019-07-08 10:27:02
    CUDA10安装配置 CUDA10的安装包可直接从NVIDIA官网下载。根据相应的系统选项,我选择的是cuda_10.1.168_425.25_win10.exe(大小为2.3G),安装的时候建议选择自定义而不是“精简”(从下面的英文解释可以看出,其实...
  • CUDA是什么-CUDA简介

    万次阅读 多人点赞 2020-03-10 11:15:18
    在大家开始深度学习时,几乎所有的入门教程都会提到CUDA这个词。那么什么是CUDA?她和我们进行深度学习的环境部署等有什么关系?通过查阅资料,我整理了这份简洁版CUDA入门文档,希望能帮助大家用最快的时间尽可能...
  • 1.cuda的安装  1.1 最简单的方法——分开安装驱动和cuda  1.2 更万能的方法——同时安装驱动和cuda  1.3 终极杀手锏 2.cudnn的安装 安装之前首先要确认你需要安装的cuda和cudnn的版本,假如你后续还需要...
  • 百度网盘提供,包含以下三种版本的cuda toolkit和对应的cudnn版本,适合windows10系统。 cudnn-10.1-windows10-x64-v7.6.4.38.zip cuda_10.1.243_426.00_win10.exe cudnn-11.0-windows-x64-v8.0.4.30.zip cuda_...
  • Win10安装CUDA10和cuDNN

    万次阅读 多人点赞 2018-10-12 15:50:48
    官方安装教程 CUDA:https://docs.nvidia.com/cuda/cuda-installation-guide-microsoft-windows/index.html cuDNN:...WIN10安装CUDA10 CUDA ...
  • win10下pytorch-gpu安装以及CUDA详细安装过程

    万次阅读 多人点赞 2019-08-17 09:23:55
    win10下pytorch-gpu安装以及CUDA详细安装过程 1.Cuda的下载安装及配置 首先我们要确定本机是否有独立显卡。在计算机-管理-设备管理器-显示适配器中,查看是否有独立显卡。 可以看到本机有一个集成显卡和独立...
  • CUDA、CUDNN在windows下的安装及配置

    万次阅读 多人点赞 2019-08-10 08:30:56
    参考文章 ...Wind10安装anaonda+cuda10.1+cudnn+pytorch+tensorflow-gpu win10+GTX1050Ti+anaconda3+tensorflow1.14.0+cuda10.0+cudnn7.6.1.34(带GPU使用检测) 一、安装前的准备 (1)查看自己N卡...
  • Ubuntu 20.04 CUDA&cuDNN安装方法

    万次阅读 多人点赞 2020-04-28 20:21:45
    下载cuda 输入nvidia-smi命令查看支持的cuda版本 如果无法查看,则说明尚未安装nvidia驱动,点击附加驱动,选择对应版本的驱动即可自动下载。 从https://developer.nvidia.com/cuda-toolkit-archive下载对应...
  • ubuntu 18.04 安装GPU +CUDA+cuDNN : 目前,大多情况下,能搜到的基本上都ubuntu 14.04.或者是ubuntu 16.04的操作系统安装以及GPU 环境搭建过程,博主就目前自身实验室环境进行分析,总结一下安装过程。 1.实验室...
  • CUDA安装教程

    万次阅读 多人点赞 2020-04-09 09:40:11
    CUDA安装程序 1.在英伟达官网上下载CUDA
  • Ubuntu 16.04 上 CUDA_10.0及cuDNN的安装

    万次阅读 多人点赞 2019-05-16 13:00:14
    CUDA提供两种安装方式:package manager安装和runfile安装, package manager 安装方式相对简单一些,但是我在阅读别人博客的过程中发现选择这种方式在安装过程中问题可能多一点,失败的概率较大。为了减少不必要的...
  • CUDAcuda安装 (windows版)

    千次阅读 多人点赞 2021-05-24 12:38:17
    CUDAcuda安装 (windows版)前言官方教程安装工具的准备CUDA toolkit DownloadcuDNN Download2. CUDA 安装与配置过程测试环境是否安装成功2、cuDNN配置运行官方自带的demo 前言 windows10 版本安装 CUDA ,首先...
  • CUDA-Ubuntu卸载cuda10.1

    千次阅读 2019-11-15 16:57:10
    综述 因为显卡版本问题我准备换cuda9.0 因此需要卸载cuda10.1 步骤 cd /usr/local/cuda/bin sudo ./cuda-uninstaller 删除即可
  • 因tensorflow版本的原因,现需要卸载原来的cuda8.0版本,重新安装cuda9.0版本。 一、卸载cuda8.0 使用cuda自带的卸载工具进行卸载。 cd /usr/local/cuda/bin sudo ./uninstall_cuda_9.0.pl 安装指示卸载即可。 ...
  • Tensorflow不同版本要求与CUDA及CUDNN版本对应关系

    万次阅读 多人点赞 2018-10-21 13:48:40
    1.2.0 2.7, 3.3-3.6 GCC 4.8 Bazel 0.4.5 tensorflow-1.1.0 2.7, 3.3-3.6 GCC 4.8 Bazel 0.4.2 tensorflow-1.0.0 2.7, 3.3-3.6 GCC 4.8 Bazel 0.4.2 Version Python version Compiler Build tools cuDNN CUDA ...
  • 卸载CUDA9安装CUDA8

    万次阅读 热门讨论 2018-07-15 14:37:53
    作者:teeyohuang ...但是发cuda9很难卸载干净,安装cuda8时又给我自动安装到cuda9去了,后来终于成功干净彻底地删除cuda9了,于是记录一下 亲测有效! 1.正常卸载操作 sudo apt-get --purge...
  • cuda/cuda 10.1安装教程

    千次阅读 2020-03-09 15:53:00
    准备材料 下载地址&安装教程:...cuda 10.1 安装示例: #下载安装包 wget https://developer.download.nvidia.cn/compute/cuda/10.1/secure/Prod/local_installers/cuda_10.1.16...

空空如也

空空如也

1 2 3 4 5 ... 20
收藏数 170,511
精华内容 68,204
关键字:

cuda