日本电子维修技术 显卡实验室要弄一台新的服务器做深度学习，g
预算10w
要求4张显卡（目前想用RTX 2080Ti）
CPU核心数目至少8（目前想LGA2066）
64-128RAM
1-5T disk
比较纠结的事GPU怎么选，2080Ti适合Deep learning么，4张Titan V又超过预算了
评论
如果20系能干专业活还要Quadro干啥？肯定驱动锁死。
评论
主要是预算问题…… Quadro的物理规格还是不如同价位的GTX/RTX
评论
the more you buy the more you save4个titan volta走起
评论
现在好像买不到32G的titan V吧
所以还是quadro走起
评论
Quadro的话…… 4*P5000会比4*2080Ti好么
就目前实验室1080Ti和M4000相比，相同的训练花费时间M4000要用1080Ti的2.5倍，所以感觉略纠结
评论
同样价格的quadro肯定不会比geforce好。。。
但如果要超大显存，只有quadro。。。
评论
买个二手矿机不就行了。。。。
评论
非常适合，但有些问题。现在在外面回去跟你详细讨论。我遇到一样的问题。
评论
才1t的数据要那么大算力？
评论
搬个小板凳坐好，很好奇2080Ti算起这些玩意来是个啥效果
评论
就一句：目前不带nvlink交换机芯片，没法做多卡nvlink互联
我的意见还是RTX专业卡两张。
另外就我对大学实验室一贯尿性的了解，你弄一套特别好的，不如三台一般的，要一起用分布式训练便是。参考：
https://www.tensorflow.org/deploy/distributed
评论
问题是dl很吃内存
评论
性价比肯定 2080ti.
5张RTX80ti 价钱才刚好凑够一张RTX6000
4张R80ti 显存叠加也够44G，R6000才24G
期待评测对比
评论
赞成，不过10w拿来做两套dl的差不多。
评论
2080ti不是有tensorcore 肯定可以 可以对比一下titan V
评论
每台机器单卡2080ti+9900k+64G内存，三套应该差不多，不过没有外扩显卡的能力了；
RTX5000的话则只能2套
评论
谢谢~框架一般我们也用tensorflow哈哈哈
评论
嗯呐，关键4张卡和2张卡的显存算起来是差不多的……上面预算给的紧就很难受
评论
其实最大好处是，如果你之后还有其他人做，三台电脑，你们不会互相抢
评论
深度学习机器至少要64G内存的，不然随便用用就没了。cpu一般不是瓶颈，我写的程序只用4个核就够了，所有计算都放在显卡上
评论
老板说是什么就是什么了
如果你自己是新手老板，看学校有什么合作伙伴
如果不是学校，看公司的章程，问IT部门
评论
取决于是否需要11GB以上的显存，需要的话只能买Quadro
Titan V支持FP16，如果能用上的话还行，用不上就尴尬了
另外可能还需要双电源，4张卡预留1200W
评论
nv控制消费级的显存大小，是为了有深度学习需求的公款消费者去买专业卡，看看aws上的p2, p3显存多大
评论
1，不推荐买titan v，titan v是用于通用科学计算，而非单一类别的科学计算。特别是深度学习用不上的fp64单元大量占用晶体管。
2，不推荐买不带tensor core的显卡，目前很多框架已经支持无缝tensor core调用了，不需要以前那种繁琐的编程，需要自己算tile展开之类，以后tensor core的利用率会越来越高。
3，不推荐买无法nvlink统一寻址的显卡。这也是拒绝titan v的原因，不支持nvlink统一寻址的话，跨gpu访问将会面对极高的延迟，基本上别用了，亲测。这其实是一种劣等的分布式设计。
所以，根据上面的描述，所有volta架构前的显卡全部否决。然后根据上面的描述，titan v否决，除非你能搞到volta ceo版，他有32GB显存。v100不是预算内能买到的。
那么可选的只有quadro rtx系列和rtx 20系。
不推荐quadro rtx系列的原因当然一个是价格，你的预算只买得起5000，sp性能可能只跟2070差不多（我没具体了解）。第二，如果铁了心花高价买quadro rtx，不如等真正的图灵计算卡（如果有的话）或post图灵计算卡。
rtx 2080ti基本上是唯一的选择，rtx的sp与tensor core性能是非常值得一看的，标称已经接近titan v，而且超频能力据称比titan v强，另外它还有多倍int能力，推理性能强到爆表了（当然实验室未必会用到极限推理能力，刷paper当然需要数据好看，除了专门做模型压缩降维或推理性能优化的）。
当然它有些限制，比如它的nvlink只能连两张卡，所以如果买4张，你需要组两组，这种奇葩的非对称结构可能需要自己调整分布式的代码吧。
最大的担心当然是老黄在软件上封锁rtx 2080ti的深度学习能力，或封锁虽然可怜但很有用的1way nvlink，虽然可能性很低。不过等卡发售了马上就知道了。
评论
Tesla T4的ppt上有一项提到Tensor Core 混合精度，应该是支持FP16了
老黄要砍一刀很可能在这里下手，只限制显存容量似乎太良心了
评论
十分感谢
评论
干货满满，感谢分享~❤
评论
硬件上都是支持的，T4主要还是推理卡。
评论
行家啊！兄弟论坛应该有打赏机制 这个答案是值钱的
评论
才发现这个成年老帖了
评论
多卡得买涡轮散热的吧？ 电路 电子 维修 求创维42c08RD电路图 评论 电视的图纸很少见 评论 电视的图纸很少见 评论 创维的图纸你要说 版号，不然无能为力 评论 板号5800-p42ALM-0050 168P-P42CLM-01 电路 电子 维修 我现在把定影部分拆出来了。想换下滚，因为卡纸。但是我发现灯管挡住了。拆不了。不会拆。论坛里的高手拆解过吗？ 评论 认真看，认真瞧。果然有收
·日本留学生活 求个大阪合租
·日本留学生活 自家房招租求
·日本留学生活 东京地区出9成新lv钱包
·日本育儿教育 孩子从国内过来如何学习日语
·日本育儿教育 明年四月横滨招月嫂
·日本育儿教育 请问咋让娃突破识字关？感谢分享中文共读和学习经验的妈妈
·中文新闻 东区明星迈克尔·格列柯，53 岁，将在第一次出生两年后第二次
·中文新闻 《爱情岛》明星卡米拉·瑟洛和杰米·朱维特在透露即将迎来第三