您现在的位置是:时尚 >>正文
AI技术重大突破:内存涨价将遇狙击 内存用量大降
时尚3人已围观
简介如今的内存涨价已经失控,一年来价格涨了5-10倍,主要推动力就来自AI数据中心需求,但这波涨价缺货很可能也会遇到狙击,技术突破也是来自AI优化。大家都知道AI大模型对内存的容量及带宽都有极高的需求,所 ...
如今的技术将遇狙击内存涨价已经失控,一年来价格涨了5-10倍,重大涨主要推动力就来自AI数据中心需求,突破但这波涨价缺货很可能也会遇到狙击,内存内存技术突破也是用量来自AI优化。
大家都知道AI大模型对内存的大降容量及带宽都有极高的需求,所以高性能AI芯片大多上了HBM内存,技术将遇狙击其用量是重大涨DDR5内存的2-3倍,导致了这一次的突破内存缺货涨价。
内存缺货因AI而起,内存内存最终解决还得靠AI本身,用量想要减少内存用量就得优化内存架构,大降OpenAI分拆出来的技术将遇狙击一个团队在这方面已经取得了重大突破,主要是重大涨内存效率方面的,技术很快会宣布。突破

虽然这个技术具体是啥没公布,但已经有AI领域的网友提到了这可能跟KVCache缓存有关,熟悉DeepSeek的网友对这个词应该不会陌生,V4价格能这么低的原因就是KVCache利用到了极致。
OpenAI的这个技术突破有可能也是在这方面作文章,既然内存又贵还缺货,那就减少对内存的需要,将数据放到容量更大、价格更低的NAND闪存芯片上。

如果再联系到业界此前在研究的HBF闪存,OpenAI很有可能这次会把这种高性能闪存推向实际部署,虽然延迟、写入速度上还无法跟HBM内存相比,但1638GB/s的读写带宽跟HBM4是一样的。

这个技术最终大规模部署的话,那么AI算力中心对内存的用量肯定会大幅减少,内存缺货、涨价的动力就严重受限了。
但是坏消息是这可能会加速闪存的涨价,只不过闪存本身的价格比内存低很多,权衡之下肯定还是优先减少内存用量。
Tags:
相关文章
《心之眼》开发商遭员工起诉:偷装侵入式监控软件
时尚近日英国独立工会(IWGB)表示,《心之眼》开发商 Build a Rocket Boy遭多名员工起诉,指控公司为其工作电脑安装“侵入式监控软件”Teramind。今年3月有40名开发人员签署集体申诉 ...
【时尚】
阅读更多“果”里掘金鼓起群众“钱袋子”_
时尚近日,来安县张山镇桃花村的无花果农场里,露水尚未散尽,游客李荣就挎着小竹篮钻进了大棚。她从滁州开车赶来,说是“奔着这口鲜甜来的”。棚内略显闷热,她却兴致不减,踮着脚摘下一颗紫红 ...
【时尚】
阅读更多李子园甜牛奶熟悉的味道,20年如一日,只为初心不改
时尚发布者:质斌 浏览量:19789发布时间:2018/8/15 18:19:20 在更新换代迅速的21世纪,饮料品种琳琅满目,而在这些产品中,李子园甜牛奶以其怀旧风格显得独树一 ...
【时尚】
阅读更多