显卡深度学习(深度学习的显卡对比评测:2080ti vs 3090 vs A100)

显卡大幅降价了但是还可以再等等,新的40系列显卡也要发售了,所以我们先看看目前上市的显卡的性能对比,这样也可以估算下40显卡的性能,在以后购买时作为参考。

深度学习的显卡对比评测:2080ti vs 3090 vs A100

但是在本文之前一定要说下的是:本文并不推荐现在就买显卡,除非必须,现在一定不要买显卡,谁买谁吃亏,目前的情况是,“等” 就对了

深度学习的显卡对比评测:2080ti vs 3090 vs A100

回到正题,在这篇文章中我整理了几个在 NVIDIA GeForce RTX 3090 GPU 进行的深度学习性能基准测试。

一般的情况下我们都会使用 TensorFlow github 中的“tf_cnn_benchmarks.py”脚本来进行深度学习的评测。 因为大多数的测试都是基于这个脚本,如果你是pytorch也可以参考,显卡的基准测试与使用的框架无关,差别不会超过5%。

首先使用 1、2 和 4 个 GPU 配置(针对 2x RTX 3090 与 4x 2080Ti 部分)运行了相同的测试。 确定的批量大小是可以容纳可用 GPU 内存的最大批量。

然后还会比较 2022 年最流行的深度学习 GPU 的性能:除NVIDIA 的 RTX 3090以外还包括了、A100、A6000、A5000 和 A4000等产品。

3090对比其他消费级的产品

首先说结果:NVIDIA RTX 3090 在所有型号上均优于所有 GPU(图像/秒)。2x RTX 3090 > 4x RTX 2080 Ti 。对于深度学习,RTX 3090 是市场上性价比最高的 GPU,可大幅降低 AI 工作站的成本。

RTX 3090 ResNet 50 TensorFlow Benchmark

深度学习的显卡对比评测:2080ti vs 3090 vs A100

1x GPU

2x GPU

batch size

RTX 2080 Ti

522.52

959.78

128

RTX 6000

637.56

1248.54

512

RTX 8000

604.76

1184.52

1024

TITAN RTX

646.13

1287.01

512

RTX 3090

1139.15

2153.53

512

RTX 3090 ResNet 152 TensorFlow Benchmark

深度学习的显卡对比评测:2080ti vs 3090 vs A100

1x GPU

2x GPU

batch size

RTX 2080 Ti

209.27

348.8

64

RTX 6000

281.94

519.76

256

RTX 8000

285.85

529.05

512

TITAN RTX

284.87

530.86

256

RTX 3090

457.45

857.14

25

RTX 3090 Inception V3 TensorFlow Benchmark

深度学习的显卡对比评测:2080ti vs 3090 vs A100

1x GPU

2x GPU

batch size

RTX 2080 Ti

310.32

569.24

128

RTX 6000

391.08

737.77

256

RTX 8000

391.3

754.94

512

TITAN RTX

397.09

784.24

256

RTX 3090

697.98

1296.86

256

RTX 3090 Inception V4 TensorFlow Benchmark

深度学习的显卡对比评测:2080ti vs 3090 vs A100

1x GPU

2x GPU

batch size

RTX 2080 Ti

150.59

247.16

64

RTX 6000

203.9

392.14

256

RTX 8000

203.67

384.29

512

TITAN RTX

207.98

399.16

256

RTX 3090

360

679.61

256

2x NVIDIA RTX 3090 Vs 4x RTX 2080 Ti

深度学习的显卡对比评测:2080ti vs 3090 vs A100

1x GPU

2x GPU

4x GPU

batch size

RTX 2080 Ti

522.52

959.78

1836.61

128

RTX 3090

1139.15

2153.53

N/A

512

与 RTX 2080 Ti 的 4352 个 CUDA 核心相比,RTX 3090 的 10496 个 CUDA 核心是其CUDA的两倍多, CUDA 核心是 CPU 核心的 GPU 等价物,并针对同时运行大量计算(并行处理)进行了优化。 更多 CUDA 内核通常意味着更好的性能和更快的图形密集型处理。3090 拥有 24GB GDDR6X 内存,也是2080 Ti 11G的2倍多,所以取得这样的结果也是情理之中的。

RTX 3090 vs. RTX 3080 Ti vs A6000 vs A5000 vs A100

深度学习的显卡对比评测:2080ti vs 3090 vs A100

深度学习的显卡对比评测:2080ti vs 3090 vs A100

深度学习的显卡对比评测:2080ti vs 3090 vs A100

深度学习的显卡对比评测:2080ti vs 3090 vs A100

RTX 3090 GPU的2.5 插槽设计,只能在风冷时在 2-GPU 配置中进行测试。 4-GPU 配置需要水冷。所以这也限制了他的测试,如果我们需要购买多块3090一定要注意机箱的大小。

3090一定要上水冷

RTX 3090 可能遇到的一个问题是散热,主要是在多 GPU 配置中。4 x RTX 3090 配置需要水冷。不仅是散热问题,还因为大小问题。

过热导致性能下降高达 60% ,所以水冷是很好的解决方案;提供 24/7 稳定性、低噪音和更长的硬件寿命。此外,任何水冷式 GPU 都可以保证以最大可能的性能运行。水冷 RTX 3090 将保持在 50-60°C 与风冷时 90°C 的安全范围内(90°C 是 GPU 将停止工作和关闭设定值)。 2x 或 4x 风冷 GPU 噪音非常大,尤其是鼓风机式风扇。将工作站放在实验室或办公室是不可能的——更不用说服务器了。水冷解决了台式机和服务器中的这种噪音问题。与风扇相比,噪音降低了 20%(水冷却为 49 dB,最大负载时风扇为 62 dB)。

最后总结

对于大多数用户而言,NVIDIA RTX 3090 或 NVIDIA A5000 将为他们提供物超所值的服务。使用大批量可以让模型训练得更快、更准确,从而节省大量时间。RTX 3090 上 24 GB 的 VRAM 对于大多数用例来说绰绰有余,几乎可以为任何型号和大批量提供空间。

NVIDIA 的 RTX 3090 是目前深度学习和 AI 的为佳 GPU。它具有卓越的性能,非常适合为神经网络提供动力。 RTX 3090 是 30 系列中**能够通过 NVLink 桥接器进行扩展的 GPU 型号。当与 NVLink 网桥配对使用时,可以将显存扩充为 48 GB 来训练大型模型。

40系列

AMD的7000系列据说要比NV的40系列性能的高,但是目前深度学习框架支持的不好,所以对于深度学习来说还只能用 NV的卡,这个目前来说没有办法。

新的40系列的显卡已经公布了上市的时间今年的第三季度,虽然功率高了(600W),但是相应的算力也高了,18432个CUDA核心、96MB缓存。据说4080就能达到 目前3090的水平,根据上面的测试,1万8的CUDA的表现至少要比 1万出头的3090提高60-70%,所以就像我们最上面说的:不是必要的话现在不要买,买了就吃亏,买了就上当。

声明:所有白马号原创内容,未经允许禁止任何网站及个人转载、采集等一切非法引用。本站已启用原创保护,有法律保护作用,否则白马号保留一切追究的权利。发布者:白马号,转转请注明出处:https://www.bmhysw.com/article/12983.html

(0)
打赏 微信扫一扫 微信扫一扫 支付宝扫一扫 支付宝扫一扫
白马号白马号

相关推荐

  • ALIENWARE如何重装系统?ALIENWARE重装Win10系统的方法

    ALIENWARE如何重装系统?ALIENWARE重装Win10系统的方法 步骤一:备份重要数据 步骤二:下载Win10系统镜像 步骤三:制作Win10系统安装盘 步骤四:设置BIOS启动项 步骤五:安装Win10系统 步骤一:备份重要数据 在重装系统前,首先需要备份重要的数据,例如照片、文档、音乐等。可以将数据备份到外部硬盘或U盘中,以免在重装系统过程中丢…

    2023-06-21
    00
  • 电脑光驱怎么安装(笔记本没有光驱怎么重装系统)

    摘要:光驱的应用已经慢慢被U盘所取代,不过光驱也有光驱的好处,比如,刻录一张光盘的成本比较低,还能用来读写光碟内容。一些用户可能经常会用到光驱,但不知道怎么安装,安装光驱只需将光驱放入电脑相应的光驱位置,再用数据线将电脑与光驱连接,最后固定好即可。光驱可以用于重装系统,如果没有光驱需要重装系统的话也可以使用U盘。下面一起来了解一下光驱怎么安装的知识吧! 电脑…

    2022-07-07
    00
  • 电脑如何卸载软件干净(台式/笔记本windows10操作步骤)

    在这个信息化的时代,几乎每个人都有一台电脑,有时候电脑会变得很慢,这时候可能是电脑上的垃圾软件过多造成的。那么我们该如何正确地卸载电脑上的软件呢,下面就给大家介绍一款我极力推荐的卸载工具。 卸载软件(GeekUninstaller) 卸载软件(GeekUninstaller)最新版能够对电脑软件进行反安装、修改、强制移除、移除项目等实用操作。卸载软件(Gee…

    2022-04-28
    00
  • win11资源管理器经常未响应怎么办(win11资源管理器动不动就未响应 )

    自2021月国庆节后,越来越多的人通过Dev通道升级到了windows11,而新出货的机器也同样自带安装有windows11,接到一些用户反馈,windows 11 的资源管理器会出现卡顿,打开文件会出现卡慢,并且还会出现多次点击后无反应的情况。经过小编自己的体验和用户反馈才得知确实如此,只能说windows 11 这次确实优化不给力。 解决方案如下: 1、…

    2022-12-13 投稿
    00
  • 电脑开机无法进入桌面解决方法

    电脑开机无法进入桌面解决方法 无法进入桌面的原因 解决方法 总结 无法进入桌面的原因 当我们开机后,电脑无法进入桌面,这可能是由以下原因引起: 系统文件损坏 硬件故障 病毒感染 驱动程序冲突 其他软件问题 解决方法 针对不同的原因,我们可以采取以下解决方法: 1. 系统文件损坏 如果是系统文件损坏导致无法进入桌面,我们可以尝试以下方法: 使用系统恢复盘进行修…

    2023-06-02
    00

联系我们

QQ:183718318

在线咨询: QQ交谈

邮件:183718318@qq.com

工作时间:周一至周五,9:30-18:30,节假日休息

关注微信