日本电子维修技术 显卡油管上的DGX Station A100s开箱与性能比较



https://www.youtube.com/watch?v=0mAesfFt4us

老黄的datacenter as a product策略中性能最弱的那个。

贴心的小斜坡。

4.JPG (171.69 KB, 下载次数: 0)

2021-4-21 19:39 上传


顶部是冷排。

1.JPG (182.88 KB, 下载次数: 0)

2021-4-21 19:39 上传



稍微有点over-engineering,4张80GB的A100,合起来就是320GB显存。

2.JPG (201.96 KB, 下载次数: 0)

2021-4-21 19:39 上传

3.JPG (214.93 KB, 下载次数: 0)

2021-4-21 19:39 上传



大小其实不大,就是有点高,主要是有滑轮。

7.JPG (136.72 KB, 下载次数: 0)

2021-4-21 19:39 上传



测试,跑transformer模型,具体参数在7分钟左右。
对比的机器是双RTX8000。

5.JPG (148.99 KB, 下载次数: 0)

2021-4-21 19:39 上传

6.JPG (160.63 KB, 下载次数: 0)

2021-4-21 19:39 上传



结论就是基本算是3倍的性能(同GPU数量的前提下)。

性能基本比较明了了,持币待购的小伙伴们应该可以出手了,毕竟:买的越多赚的越多。



评论
风车车的新玩具


@风车车

评论
树导看这个


https://www.chiphell.com/thread-2312884-1-1.html

评论
算力多少?

评论
好牛,好奢侈

评论
这个压缩机性能怎么样


评论
不知道吃鸡多少FPS

评论
为了省钱,赶紧买买买

评论
别说了,赶紧挖矿

评论
终于有人发测评了,之前b站的up 无情开评 打算做测评,结果视频都做好了受到 某些方面 影响不能发不出来。

评论

我有那个x570版的。

https://www.chiphell.com/thread-2276249-1-1.html

评论

蛤,兔总早到手了?

评论

应该不会太高,A100单卡210,4卡A100是840MHZ吧。A100s内存带宽1.6T升级到了2T,应该到1G左右。

评论

应该是太早了,不让发。或者是采购时有协议的。我之前借到一张A100跑了各种实验,最后也不让我发。

评论

他做视频测评的应该是 机架式的 DGX A100

评论

是的,应该是有相关的协议

评论
这个视频中有点不公正的是transformer是序列模型比较吃显存的,不过也没看到rtx8000有明显的显存overhead。双方都是锁定1024batchsize。a100s或许还有提升的空间。

评论
这套散热系统真是口水

评论
哇,这散热好像好给力,这做工也养眼。

评论
都看到了啊,不买就是亏。

评论
呼叫矿老板!!这个挖矿厉害啊。算力高!

评论
这个机器的设计工业气息浓厚,超赞!

评论
这东西大概要大几十万了

评论
老黄买ARM,就是为了把这里面的U,也换成NV造的吧

一体式解决方案,对那些炼丹师来说,简直太美好了。。。

当然,现在炼丹师应该比不过矿工。。。

评论

50w+吧。

评论

用这个挖矿真的亏啊。这个最少50万,可以买最少20张3090,算力等于2.4G,这个撑死1.2G。

评论

但是这个的残值应该会更高....还不用自己装矿机

评论
买的越多赚的越多。

评论

这玩意一般是公费买,找人接盘还是比较难的。3090这种东西锻炼好了游戏玩家还是抢着要。

评论

确实是....车车快发开箱贴

评论
有钱就能买到吗?

评论
说50W的小伙伴们还是太低估老黄啦。。。

评论

买这个来炼丹,那可不是一般的财大气粗。

评论

4 张卡就不止 50W,整个系统我记得卖 $199,000,国内至少 150W

有这钱还真不如买两个 Dell 或超微 GPU 节点,每个节点 4 块 A100。

评论

150W 也到不了,120W差不多。。。
另外还有dgx system更贵。。。

评论

再说花100W买这个的人,也都不差钱

评论

20W USD x 6.5 = 130W CNY
20W USD 的机器卖到中国可能只考虑汇率吗?
DGX A100 卖 150W 都算便宜的了。

同样花 100 多万,我可以买 8 块 A100,为什么只买 4 块,公费也不是大风吹来的。
圈子内只有微软这种财大气粗的「土豪」才买 DGX A100,买了 100 台结果 2 台拆封直接开不了机 —— 出货量这么小的机器,你能确保系统稳定性?

评论

国内很多大学,科研单位还有互联网企业 都买dgx啊 毕竟号称主打AI嘛,
再说有gpu节点也可以买dgx啊
再说冤大头不差钱的可真的不止微软,我们买个软件都几百万。。。哈哈哈

评论

buy.jpg (51.58 KB, 下载次数: 0)

2021-4-26 22:34 上传



这个DGX应该是换了EPYC了吧?


评论

AMD 7742

评论

15万刀=1M 人民币

评论

抱歉,按目前我这面的消息,北京这一块除了微软,还真没成批买的。最多买一个节点试试。

Dell 和超微的 GPU 节点(4 卡 A100,SMX 封装带 NVLink)不会超过 80 万,除了不支持 NVSwitch,与 DGX A100 并无二致。

不用 DGX,同样的配置一台 GPU 节点就能省 40 - 60 万。四舍五入可以再买一个 4 张 A100 的节点了。

你要是知道现在谁一次采购几十条几百台 DGX,不妨说来听听,我们也算涨涨见识。

评论

我没说哪家成批买,我说是DGX 的用户很多家
另外我说的是不差钱的公司不止微软一家 ,意思是dgx 也不算很贵的东西 如果表达有误请原谅
另外dgx station 并不能像dgx system那样组POD,买来就当个单机使用了,就像你说的试试看
如果有需要,就买更贵的dgx system 组pod了,像我们就是买个dgx station试试水,好用回头再买system,那个就更没性价比了。。。

评论

DGX 的独占优势就是 NVSwitch,多节点显存直接访问。而只买一台的话这个功能就完全用不上了,的确是很浪费~

如果你真的准备买 DGX,那还真是 The More you buy, the more you save.


评论

反正又不是我的钱,哈哈哈

评论

我们训练模型早就一个node 8张A100了(p4d.24xlarge),这个才4张有啥奇特之处?当然我们是丐版A100只有40g内存。
10分钟前我跑的实验就用了4台8xA100。

另外A100如果不用TF16,FP16的话,正常训练FP32其实比V100快不了多少。

这个视频有种围观农民摆摊的感觉。
电路 电子 维修 我现在把定影部分拆出来了。想换下滚,因为卡纸。但是我发现灯管挡住了。拆不了。不会拆。论坛里的高手拆解过吗? 评论 认真看,认真瞧。果然有收 电路 电子 维修 求创维42c08RD电路图 评论 电视的图纸很少见 评论 电视的图纸很少见 评论 创维的图纸你要说 版号,不然无能为力 评论 板号5800-p42ALM-0050 168P-P42CLM-01
 ·日本留学生活 求个大阪合租
·日本留学生活 自家房招租求
·日本留学生活 东京地区出9成新lv钱包
·日本育儿教育 孩子从国内过来如何学习日语
·日本育儿教育 明年四月横滨招月嫂
·日本育儿教育 请问咋让娃突破识字关?感谢分享中文共读和学习经验的妈妈
 ·中文新闻 东区明星迈克尔·格列柯,53 岁,将在第一次出生两年后第二次
·中文新闻 《爱情岛》明星卡米拉·瑟洛和杰米·朱维特在透露即将迎来第三

维修经验

CPUcpu-z 1.77版低调发布

日本维修技术更新: New benchmark “submit and compare” feature New clocks dialog reporting all system’s clock speeds in real-time Preliminary support for Intel Kaby Lake AMD Bristol Ridge processors 主要是增加了支持I、A两个新架构的 ...

维修经验

CPU这几天经常开机黑屏,热重启后又正常

日本维修技术这几天经常开机黑屏,热重启后又正常,今天热重启也不管用了。折腾半天总算点亮,显示超频失败,以前出这个画面我是不理它的,直接重启就能正常进系统了,今天不敢托大,因为 ...

维修经验

CPU超频求助!关于华擎H170和6700K

日本维修技术问题见楼主的show贴 https://www.chiphell.com/thread-1634895-1-1.html 这次华擎的H170 Hyper最大的特色应该是自带时钟发生器可以自由超外频 可是楼主好久没有折腾超频了。。。 两图中除了CPU外频 以 ...

维修经验

CPU液态金属会侵蚀cpu核心吗?

日本维修技术前阵子看到有人说,液态金属时间长了会侵蚀cpu铜盖,那么问题来了,这货会不会侵蚀核心呢? 评论 这玩意儿好像只对铝起反应 评论 不是说,cpu的盖子是铜的吗。。。 评论 不会,核 ...

维修经验

CPUm6i究竟支不支持e3 1231v3

日本维修技术官网上看支持列表没写有e3 1231v3,装机帖又有人晒,百度也没个明确答案,那究竟能不能点亮?有在用的chher说一下么 评论 升级最新bios肯定可以支持 评论 我的p67evo官网上也没说支持12 ...

维修经验

CPU华擎 HYPER 妖板 正确玩法

日本维修技术600元的 B150,10相供电,释放洪荒之力 注意必须官网 Beta 区的 BIOS 有 AVX 的 CPU 可能会掉缓存 启动时按 X 键激活 SKY OC,重启后进入 BIOS 160924164727.jpg (95.63 KB, 下载次数: 1) 2016-9-24 17:47 上传 ...

维修经验

CPUE5 2686 V3和i7 6800K如何选择

日本维修技术默认用,不超频,两者功耗是一模一样的 E5 2686 V3:2.0主频,3.5睿频, 18核心36线程 ,45M L3 咸鱼大约2500~3000元 i7 6800K : 3.5主频,3.8睿频 ,6核心12线程 ,盒装3000元 评论 性能应该是26 ...

维修经验

CPUHD530硬解4K能力还是有点弱呀!

日本维修技术播放器用PotPlay 64bit,各种优化后,跑4K @120Hz视频只能到70帧左右的速度,勉强能用! 显示器用的4K的优派VP2780 未标题-1.jpg (211.97 KB, 下载次数: 0) 2016-9-26 21:29 上传 评论 这个估计你没优化 ...

维修经验

CPU6900k 1.25V到4.2体质怎么样

日本维修技术如图,体质怎么样,ring是35,没敢试了,都说ring高了毁硬件 评论 不错的U,但不算雕,上4.4就大雕了,这电压上4.5的目前没见有人发图 评论 谢谢前辈告知 评论 我这个用1.2V超的4.2,R ...

维修经验

CPUI3 6100 华擎B150M pro4超4.5g测试。

日本维修技术看看论坛没多少i3 6100的帖子,就转下自己发的show贴里面的数据,给大家参考下。家里还有当年的神U i3 540 oc 4.5G在给老妈用。 不知道数据上正常吗?有6100的朋友可以告诉下,另外是不有 ...

维修经验

CPU7系u会兼容100系主板吗?

日本维修技术RT,听说要推200系板,100系还能用吗以后。。 评论 兼容的 评论 感谢!以后换u就行了,目前消息200系板会有新的特性吗? 评论 24条PCI-E 3.0通道、支持Intel Optane混合存储技术、十个USB 3 ...

维修经验

CPU有心入5820k了,求教下温度问题

日本维修技术一直徘徊在6700k和5820k之间,6700k现在这德行直接把我推向了5820k啊,从2600k升级上来,三大件都要换,现在唯一疑惑的是IB-E ex这种顶级风冷能不能压住4.5g的5820呢?毕竟刚刚买一个多月。 ...

维修经验

CPU6600&6600K才100的差价

日本维修技术太少了吧。。。 6600.JPG (106.91 KB, 下载次数: 0) 2016-10-1 10:30 上传 评论 毕竟只是i5而已…… 评论 上z170 6600也能超,等于没区别,差价能有100已经不错了 评论 然后又见不超频人士推荐超频 ...