今天我终终终于拿到我的2080Ti显卡啦~!
也是另一个广州的老哥发顺丰给我的,钱包呼的一下不见2200……
你可能好奇这个显存这么这么大,实际上原卡应该是11G的显存,但是咧……
原版RTX2080ti显卡配备的是11GB GDDR6显存,通常包含11个1GB的显存芯片。为了增加显存容量,魔改者会替换这些显存芯片,使用更大容量的显存芯片,比如2GB的芯片,从而将总显存提升至22GB。RTX2080ti显卡能够魔改至22G显存,而其他显卡不行的原因,主要在于RTX2080ti是基于NVIDIA的Turing架构,它与NVIDIA的专业级显卡共享相同的核心,因此在驱动和硬件兼容性方面可以进行魔改。
听说早些时候这个卡只要2000出头,现在都涨到2500上下了……我在闲鱼逛了好久找到一个2200的,遂入手
选购2080ti主要就是想用大显存跑大模型,用我之前那张GTX 970来跑大模型实在太憋屈了……只能勉强跑动qwen_7b,再大的就再跑不起了,换了大显存卡之后,qwen2.5:32b随便跑都没问题。
刚刚翻了下我这台机子的配置,我印象里面我是花了1500多的,原来实际上更少吗……
CPU | E3 2696V3 | 240 |
显卡 | RX560XT 8G | 225 |
内存 | 三星 32G*2 | 142 |
主板 | 精粤X99M-PRO D3 | 291 |
电源 | 振华冰山战斗蝶550W | 160 |
机箱 | 笨牛E15 | 89 |
风扇 | 杂牌 | 125.5 |
硬盘 | 自个笔记本滴 | 0 |
显示器 | AOC | 115 |
合计 | 1388.5 |
显卡比整台电脑都贵……
然后我在这个平台上利用ollma + open-webui搭建了个大模型平台,可以来找我要网址看看效果:
我的总体感觉是3.5之上,4未满,但是现在的硬件平台应该跑不起更大参数的模型了,我估计要自己喂点数据给他进行微调应该会更好。
最后一次更新于2024-09-27
不过貌似头像cdn又寄了
By 然 at September 29th, 2024 at 09:17 am.
@然
已修复,https://cravatar.cn/avatar/的证书应该有问题,但是他们开了HSTS,没救了,换成了https://weavatar.com/avatar/。
回头我还是自己搞个头像源吧。
By Soulxyz at September 29th, 2024 at 09:27 am.
好!很有精神!
By 然 at September 29th, 2024 at 09:16 am.