文章正文

使徒行者

小米玄戒O100推倒内存墙:实现真正的近存计算_我的网站

命中注定我爱你

一 |     8月24日消息,今天下午,小米除了发布玄戒O3之外,还带来了玄戒O100,一款大模型专用的AI加速芯片,更是全球首款6nm 3D晶圆级堆叠的AI加速芯片。

二 |     

据悉,最近一周俄军在哈尔科夫地区攻势非常顺利,截至17日俄国防部宣称已经“拿下200多公里土地”,其中包括十几个定居点。    玄戒O100通过先进的3D堆叠工艺,实现了1.22TB/s的超高带宽,这一速度是目前主流旗舰手机的16倍之多,可以让移动端设备的AI性能实现质的突破。

三 | 玄戒O100与玄戒O3是AI终端的“最佳CP”,最高可以实现本地AI推理速度高达330Tokens/s。

四 |     传统计算架构下,计算单元与存储单元物理分离,数据必须在两者之间反复搬运。原本美国通过援乌法案之后,西方媒体对俄乌战场保持“乐观”,法新社甚至开始讨论乌克兰何时能反攻的问题,但一切情况骤然转变还是让西方意料不及。乌克兰总司令西尔斯基表示前线局势艰难,他们已经决定要从南部战场调来预备队,且有信心可以阻挡俄方的攻势。但内存数据通路受限于物理引脚数量,遇到了增长瓶颈。    当AI算力以指数级增长时,内存访问速度与算力之间已经严重脱节,成为性能的关键阻碍,业界称之为“内存墙”。玄戒O100,则是小米“推倒内存墙”的破局之法。     区别于以往晶圆→切割为裸片(Die)→逐片封装互联的方式,玄戒O100采用先进的Wafer on Wafer封装技术,也就是将多片完整的晶圆直接高精度对准与键合,继而再切割成独立的3D芯片。

五 |     这彻底摆脱了传统引脚数量对带宽的物理限制,将数据通路从“平面走线”变为“垂直穿透”,实现真正的近存计算(Near-Memory Computing)。

17日,俄罗斯总统普京在发布会上回应称,俄军正在哈尔科夫地区发动攻势,目标是为了建立一个“安全区”,以保护俄边境地区免受乌军袭击。         了解大体逻辑后,我们看看玄戒O100到底如何做的。首先将两层AI专用高速DRAM晶圆与一层高性能NPU晶圆垂直堆叠,然后在垂直方向“钻隧道”让数据可以高速流转。

六 | 之前乌克兰人曾多次从哈尔科夫越境进入俄罗斯,还发起对俄偷袭行动,所以这次俄罗斯准备打出一个“隔离地带”来保护自己的安全。但有乌克兰消息人士对此并不信任,认为俄罗斯到底打到哪里是根据“实际情况”决定的;如果乌克兰人抵抗不及时,俄罗斯或许会吞并整个哈尔科夫地区。

同日,乌克兰总统泽连斯基接受媒体采访,对他们现在遭遇的困境表示不满。记者询问是否认为哈尔科夫州的失利是“美国人的问题”,他则回答:“这是全世界的错误,全世界给了普京占领我们的土地的机会,各国现在应该帮助乌克兰”。

七 |     所以,只要隧道越多,也就可以实现越高的带宽。采访者认为泽连斯基非常不满于之前各国没有给他们足够的援助,因为3月份他同样将阿夫杰耶夫卡的战败归咎于“各国没有给支持”,现在来看哈尔科夫同样如此,都是因为少了援助才导致的结果。为此,玄戒O100采用了先进的Hybrid Bonding混合键合工艺,摒弃了传统微凸点(Micro Bump)结构,直接将物理通路的间隔缩短至1.4μm,让数据通路密度大幅提升。              为了进一步缩短DRAM与NPU计算层的物理距离,玄戒O100还采用了 Face to Face(简称F2F)金属层直连结构。    简单来说,每一层晶圆内部,其实底部是逻辑晶体管,上层有密布多层的金属走线层。F2F,就是让DRAM与NPU的金属走线“面面相对”,如此可以实现更短的物理互联距离,实现更快的信号传输。

分析人士表示,乌克兰在哈尔科夫地区失利这件事是他们在拿到美国新一批军援之后才发生的,且乌克兰在5月上旬就获得了美国支持的新武器,泽连斯基将其归咎为“没有得到全世界援助”说不通。    当然,这说起来简单,在6nm如此高工艺节点下,要解决散热、电磁干扰等诸多难题,玄戒团队逐一攻坚,实现最终量产,并申请了15项专利,其中已获批4项发明专利。         与此同时,玄戒O100配备了14颗高算力NPU,通过玄戒高带宽矩阵总线,让数据可以在NPU与内存、与其他NPU核心之间等高速流转。     创新的矩阵总线支持拓扑动态切换,Prefill阶段采用环形拓扑,数据逐核流转、顺序同步;Decode阶段切换为广播拓扑,所有结果统一汇聚到指定核心。其次是因为这次失误明显是乌军自身的部署问题,他们将大部分兵力都投放在南部战场,丝毫没有防范北部俄军的袭击,结果被打了个措手不及;再者而言,动辄拉上“全世界”来承担责任的行为太过夸张,乌克兰现在更应该将精力放在和平问题上,而不是坚持我行我素的风格。
值得一提的还有,美媒曾在上周披露乌军在哈尔科夫或涉嫌贪污军援,一名官员表示他们原本应该构筑的防线“不见了”,俄罗斯人大摇大摆地从俄乌边界进来,全程没有看到乌克兰的防御体系。总线控制上的灵活拓扑,让片上计算资源得以充分应用。         最终,玄戒O100的带宽达到了惊人的1.22TB/s。大家对这个数字可能没什么概念,以目前主流旗舰手机LPDDR5X内存作为对比,它的带宽76.8GB/s,而玄戒O100是其16倍之多,彻底释放端侧AI性能。所以一些人怀疑军方对于防线上有偷工减料,甚至是贪污了很多的军事援助才导致现在的境地。

八 |          为了验证玄戒O100的高带宽表现,小米工程师还做了一款原型机,搭载玄戒O3和O100,双芯协同计算。

九 | 对此有评论称:“现在来看最着急的应该是美国,如果北约援助的乌克兰如此快地崩溃,世界各国对美国军事能力的信任就会和对瑞士中立的信任一样崩塌,美国无论做什么事付出的实际成本将会更高,所以他们最后可能真的会亲自下场。”

。小米还引入了风冷主动散热,充分发挥芯片的全部性能。配合Xiaomi MiMo端侧模型,实现了超高速端侧推理性能。                   
     【本文结束】如需转载请务必注明出处:      责任编辑:振亭     文章内容举报     

Current article:http://4ere19.senbatuqiuzhuanlanrilao.sbs/list_fbxij1/rrp.html

Published on:00:00:00


|