去年年底的时候,分享了一篇低成本组装人工智能服务器的文章:

下图是我去年分享的购买配件的表格:
配件 | 价格 | 购买途径 |
---|---|---|
主板+cpu:精粤X99M PLUS D4+2680V4 | 373.8 | 拼多多 |
CPU散热 X79/X99专用 杂牌 | 32.46 | 淘宝 |
ddr4:三星32g 2400(4R*4)*2 | 423.52 | 拼多多 |
硬盘:七彩虹m.2 1T | 338.8 | 京东 |
显卡:tesla p40 24G | 823 | 淘宝 |
显卡散热器:涡轮散热器 | 48 | 淘宝 |
电源:鑫谷全模组850W | 398.98 | 淘宝 |
机箱:开放机箱 | 48 | 拼多多 |
十个月过去了,显卡的价格发生了变化。我当时购买tesla p40 24G的时候只花了823块大洋,但是现在这块显卡的价格涨上来了,我刚去京东看了下,二手的价格也在2300左右,有点恐怖。淘宝便宜一点,但也要一千七八百块钱。那这么一来的话,这个价格你再买tesla p40 24G就不划算了,因为同等价位,你能买到性能比他更好的。
两千左右的价位,你可以购买一块rtx2080ti魔改22G的显卡。正好最近我也换了一块这张卡,之前的tesla p40 24G我给卖掉了。所以更新后的配置如下:
配件 | 价格 | 购买途径 |
---|---|---|
主板+cpu:精粤X99M PLUS D4+2680V4 | 373.8 | 拼多多 |
CPU散热 X79/X99专用 杂牌 | 32.46 | 淘宝 |
ddr4:三星32g 2400(4R*4)*2 | 423.52 | 拼多多 |
硬盘:七彩虹m.2 1T | 338.8 | 京东 |
显卡:RTX2080TI 魔改22G版 | 2200 | 淘宝 |
显卡散热器:涡轮散热器 | 48 | 淘宝 |
电源:金河田650W | 218.98 | 淘宝 |
机箱:开放机箱 | 48 | 拼多多 |
总价格:3683.56大洋。
大家注意下,电源我也把850w的换成了650w的。也能便宜一百多块钱,其实我用设备测试了下,650w也用不到,由于我是安装的centos系统,以docker容器的形式安装应用,不接显示器,远程连接使用。应用在启动但未运行的情况下,功耗大概是70w~90w,然后在生成图片满载的时候,功耗大概是300w~420w,所以500w的电源也妥妥够用。
接下来给大家演示下这样的硬件配置下,AI应用的响应时间,先来文生图:

sd1.5模型,512×512,大概1.79秒一张,嘎嘎块。

sdxl模型,1024×1024,大概8.59秒一张,tesla P40的话,我记得大概30多秒。
最后再来看一下最近比较流行的flux.1模型:

1024×1024,耗时43.32秒。tesla P40的话,大概8-9分钟一张。