前言
170HX,从服役到退役仅相隔半年,作为史上最短命的矿卡,内部有却有着庞大的芯片,完整的HBM显存,只是英伟达商业策略进行了封印,如今,这一封印出现了松动;算力、显存容量、PCIe已被解除封印。
不出意外,他将是显卡历史上第一个可以原地不动解锁巨额显存容量的显卡,这会不会为个人用户家庭部署大模型带来了新的性价比选择?
目前皮蛋熊已经初步跑通了重载版本的PoC,但转头一看,居然github上有人和我进度接近,放出了初版PoC,各位小伙伴可以先围观一下(不确定何时失效或更新):
感谢jonpry大佬的开创性壮举,他完成了
算力的完整解锁:FP32/FP64/TF32/INT8等所有算力限制完全去除,完整解锁
显存解锁:将10G版本的显卡解锁到40G稳定运行,解锁到80G提高DRAM刷新率稳定运行
PCIe带宽:解锁到PCIe 2.0x16(通道数目通过焊接交流耦合电容完成)
社区中还有人在尝试:
显存解锁到32G/64G/96G
解锁ECC、NVLINK等组件
PCIe进一步解锁
这里祝他们好运
接下来,我们就跟随大佬们的脚步,一步步把PoC做出来。
相关信息汇总
显存部分:GA100封装中存在两个厂家的显存(原理图中预留了三家),6个HBM Stack是满die的,有来自于启动链路的屏蔽:
一个是三星,广泛存在10G版本的170HX中,原理图上是8Gb颗粒,一个stack会堆叠8片die,也就是GA100周围的6个stack全满可以用的话,理论上是48G,但论文作者解锁成功80G了,说明三星应该有提供HBM2e 16Gb版本的颗粒给GA100,所以这里应该能够解锁40/80G.
一个是海力士;广泛存在8G版本的170HX中,原理图上是16Gb的颗粒,理论上这卡大概率可以解锁到64G显存(实际上还没有人放出显存的PoC,所以目前只有按照这个猜);
一个是镁光:原理图上strap点位有,但从新闻上和实际A100的各种GPU-Z图上没有,所以结论是没有这个料;
这里有一个HBM的原理介绍: 【用最好的动画为你讲解--HBM的原理】
我们可以知道,HBM2E中单stack需要有8个die才能提供1024bit的位宽;比如170hx 10G版本里面有5120bit的位宽,那如果按照满stack算,至少有5个满stack,或者四个满stack,两个残stack;
这里有一个重要知识,我查询后发现三星和海力士没有给GA100提供小容量的货,只有单die 1GB/2GB的颗粒。那说明单stack一定可以达到8/16G;


评论区