(文 / 不雅察者网 吕栋 裁剪 / 张广凯)开云体育(中国)官方网站
8 月 25 日,不雅察者网获悉,华为将于 8 月 27 日推出新款 AI SSD(固态硬盘),这种硬盘并非用于个东谈主电脑中的耗尽级 SSD,而是用在大模子磨真金不怕火和推理的数据中心中。
知情东谈主士对不雅察者网称,华为推出新款 AI SSD,旨在破解 AI 磨真金不怕火推理中的"显存墙"艰苦。传统 HBM(高带宽内存)存在容量兑现,而华为通逾期期翻新提供大容量 SSD,同期提高数据婉曲效果,可大幅提高算力卡效果,为 AI 欺骗提供更强撑执。
单纯看这一讯息可能不太好长入,但鸠合华为近期在数据存储限制的动向,就不出丑出,华为是想通过软硬两手,镌汰对高性能 HBM 的依赖,让可得到的 HBM 更高效施展作用,同期也能提高 SSD 的价值。
当下,国产 DRAM(动态就地存储器)和 HBM 还与国际存在代际差距,同期好意思国还对 HBM 的出口和制造进行严格经管,关联词国产 NAND 闪存时期一经取得长足发展,国产耗尽级和企业级 SSD 的竞争力彰着提高。
若是能减少高性能 HBM 的使用,充分施展 SSD 的作用,就能一定过程镌汰模子磨真金不怕火和推理的老本,缓解中国 AI 产业界对高性能 HBM 的依赖,是另一种"系统补单点"的想维。
就在前不久,华为曾推出一项名为 UCM(推理牵记数据科罚器)的时期。这种时期不错凭据牵记热度,在 HBM、DRAM、SSD 等存储介质均分级缓存数据,相称于推论了 HBM 的容量,让模子能记着的 KV Cache 数据更多,同期能更智能、更快速的调用数据。
KV Cache 不错优化计划效果、减少重迭运算,但会对 HBM 显存酿成盛大压力,而 UCM 的关节作用便是缩小 HBM 压力,让 SSD 在磨真金不怕火和推理中施展更大作用,这可能亦然华为很快又推出新款 AI SSD 的原因。
"华为这次布局,或对环球 SSD 阛阓形成冲击。"前述东谈主士对不雅察者网称,鸠合华为自研 XtremeLink、SpeedFlex PCB 等时期,成为国产 SSD 粉碎的关节一步。华为将与国内训推一体机厂商相助,成心于中国构建全新 AI 生态链,应酬环球化挑战。
" AI SSD 聚焦提高磨真金不怕火效果和推理体验 , 存储器限制不会仅有 HBM 独步天下开云体育(中国)官方网站,有望形成百花皆放的竞争态势。华为计划与一体机厂商相助,蜕变现存场地,为 AI 存储器阛阓注入新活力,带来更多可能性。"他说谈。