绝命毒师第五季

小米玄戒O100推倒内存墙：实现真正的近存计算_我的网站

A |     8月24日消息，今天下午，小米除了发布玄戒O3之外，还带来了玄戒O100，一款大模型专用的AI加速芯片，更是全球首款6nm 3D晶圆级堆叠的AI加速芯片。    玄戒O100通过先进的3D堆叠工艺，实现了1.22TB/s的超高带宽，这一速度是目前主流旗舰手机的16倍之多，可以让移动端设备的AI性能实现质的突破。玄戒O100与玄戒O3是AI终端的“最佳CP”，最高可以实现本地AI推理速度高达330Tokens/s。     传统计算架构下，计算单元与存储单元物理分离，数据必须在两者之间反复搬运。          　　上半年，我国数字产业加快发展，总体呈现向优向好发展态势，业务收入保持较快增长，盈利水平大幅改善，出口需求保持旺盛，核心技术加快创新突破，新领域新赛道发展动能增强，为稳定经济增长、培育发展新质生产力、赋能千行百业数智转型提供有力支撑。　　一、发展质效稳步提升　　收入稳中有进      　　数字产业实现收入20.71万亿元，同比增长13.6%，增速同比加快4.1个百分点，环比一季度加快0.7个百分点。但内存数据通路受限于物理引脚数量，遇到了增长瓶颈。　　利润大幅增长      　　受国内人工智能需求增长和出口增势强劲双重拉动，数字产业盈利水平持续改善，实现利润总额1.79万亿元，同比增长19.3%，增速较上年同期加快10.3个百分点。    当AI算力以指数级增长时，内存访问速度与算力之间已经严重脱节，成为性能的关键阻碍，业界称之为“内存墙”。玄戒O100，则是小米“推倒内存墙”的破局之法。     区别于以往晶圆→切割为裸片（Die）→逐片封装互联的方式，玄戒O100采用先进的Wafer on Wafer封装技术，也就是将多片完整的晶圆直接高精度对准与键合，继而再切割成独立的3D芯片。

B |     这彻底摆脱了传统引脚数量对带宽的物理限制，将数据通路从“平面走线”变为“垂直穿透”，实现真正的近存计算（Near-Memory Computing）。         了解大体逻辑后，我们看看玄戒O100到底如何做的。

C | 首先将两层AI专用高速DRAM晶圆与一层高性能NPU晶圆垂直堆叠，然后在垂直方向“钻隧道”让数据可以高速流转。    所以，只要隧道越多，也就可以实现越高的带宽。为此，玄戒O100采用了先进的Hybrid Bonding混合键合工艺，摒弃了传统微凸点（Micro Bump）结构，直接将物理通路的间隔缩短至1.4μm，让数据通路密度大幅提升。              为了进一步缩短DRAM与NPU计算层的物理距离，玄戒O100还采用了 Face to Face（简称F2F）金属层直连结构。

D | 收入利润率达8.6%，较上年同期提升0.7个百分点。    简单来说，每一层晶圆内部，其实底部是逻辑晶体管，上层有密布多层的金属走线层。F2F，就是让DRAM与NPU的金属走线“面面相对”，如此可以实现更短的物理互联距离，实现更快的信号传输。

E |     当然，这说起来简单，在6nm如此高工艺节点下，要解决散热、电磁干扰等诸多难题，玄戒团队逐一攻坚，实现最终量产，并申请了15项专利，其中已获批4项发明专利。         与此同时，玄戒O100配备了14颗高算力NPU，通过玄戒高带宽矩阵总线，让数据可以在NPU与内存、与其他NPU核心之间等高速流转。　　二、重点区域、重点集群带动有力　　东部大省产业集聚态势显著      　　广东、江苏、北京、上海、浙江等数字产业收入前10大省(市)合计完成业务收入17.21万亿元，同比增长13.2%，占全国总量的83.1%，占比较上年同期提升0.3个百分点，对全国数字产业收入增长贡献率达87%。     创新的矩阵总线支持拓扑动态切换，Prefill阶段采用环形拓扑，数据逐核流转、顺序同步；Decode阶段切换为广播拓扑，所有结果统一汇聚到指定核心。　　中部地区增速加快      　　中部地区实现数字产业收入2.86万亿元，同比增长28.3%，较上年同期加快18.7个百分点，高于全国14.7个百分点，其中安徽、湖北增速领先。　　产业集群蓬勃发展      　　截至目前，围绕集成电路、人工智能等数字产业领域，各地累计培育建设16个国家级先进制造业集群，依托集群培育一批骨干数字企业，这些企业成为推进技术创新、促进产业高端升级、塑造集群竞争优势的关键支撑。总线控制上的灵活拓扑，让片上计算资源得以充分应用。

F |          最终，玄戒O100的带宽达到了惊人的1.22TB/s。大家对这个数字可能没什么概念，以目前主流旗舰手机LPDDR5X内存作为对比，它的带宽76.8GB/s，而玄戒O100是其16倍之多，彻底释放端侧AI性能。         为了验证玄戒O100的高带宽表现，小米工程师还做了一款原型机，搭载玄戒O3和O100，双芯协同计算。

G | 　　三、数字基础设施持续优化升级　　“双千兆”网络建设提质升级      　　截至6月底，5G基站达到510.2万个，具备千兆网络服务能力的10GPON端口达3286万个，5G-A商用网络加快建设应用，5G RedCap基站数达224.7万个，万兆光网在小区、工厂、园区等场景试点部署。小米还引入了风冷主动散热，充分发挥芯片的全部性能。配合Xiaomi MiMo端侧模型，实现了超高速端侧推理性能。                   

。　　算力基础设施体系加速完善      　　我国智能算力规模达2185 EFLOPS(FP16)，同比增长177%，全国算力设施整体上架率达71.4%，建成万卡以上智算设施52个。　　融合应用效能持续释放      　　建成5G行业虚拟专网超8万个，5G、千兆光网应用已融入94个国民经济大类。全国“5G+工业互联网”在建项目超2.6万个，建成1260家分类分级、特色鲜明的5G工厂。　　四、数字制造业继续保持“量效”齐升　　生产保持较快增长      　　电子行业增加值同比增长14.8%，增速较一季度加快1.2个百分点，高于整体工业9.4个百分点。其中，电子器件、电子元件及专用材料、智能消费设备行业增速较快。　　效益显著提升      　　规模以上电子信息制造业实现营业收入12.15万亿元，同比增长17.8%;实现利润总额7036亿元，同比增长66%。

H | 其中，集成电路、计算机整机制造、电子专用材料行业的利润拉动作用最大。　　五、数字服务业保持稳步增长      　　信息通信业总体运行平稳，按上年不变单价计算的电信业务总量同比增长8.3%，增速较上年同期提高0.6个百分点。     　　软件和信息技术服务业业务收入同比增长9.5%，其中，软件产品收入同比增长6.9%，信息技术服务收入同比增长10.4%。     　　规模以上互联网企业业务收入同比增长10.1%，增速较上年同期加快7个百分点，利润总额同比增长16.6%。

Current article:http://v6r.shouyouxumianpouluanteng.shop/list_9zf/w7qce.html

Published on:11:25:54