北京2024年12月12日/美通社/ -- 近日,IBM(纽约证券生意业务所代码:IBM)发布了其于光学技能方面的冲破性研究结果,有望显著提高数据中央练习及运行天生式 AI 模子的效率。IBM研究职员开发的新一代光电共封装(co-packaged optics,CPO) 工艺,经由过程光学技能实现数据中央内部的光速毗连,为现有的短间隔光缆提供了有力增补。经由过程设计及组装首个公布乐成的聚合物光波导 (PWG),IBM 研究职员展示了光电共封装技能将怎样从头界说计较行业于芯片、电路板及办事器之间的高带宽数据传输。 今天,光纤技能已经经被广泛用在远间隔的高速数据传输,实现了"以光代电"来治理全世界险些所有的贸易及通讯传输。虽然数据中央的外部通讯收集已经经采用光纤,但其内部的机架仍旧重要利用铜质电线举行通讯。经由过程电线毗连的 GPU 加快器可能有一半以上的时间处在闲置状况,于年夜型漫衍式练习历程中需要等候来自其他装备的数据,致使昂扬的成本及能源华侈。 IBM 研究职员发明了一种将光学的速率及容量引入数据中央的新要领。于其最新发表的一篇论文中,IBM 展示了其全世界首发、可实现高速光学毗连的光电共封装原型。这项技能可年夜幅提高数据中央的通讯带宽,最年夜限度地削减 GPU 停机时间,同时年夜幅加速 AI 事情速率。该立异将实现如下新冲破: 降低范围化运用天生式AI 的成本:与中距电气互连装配比拟,能耗降低 5 倍以上,[1]同时将数据中央互连电缆的长度从 1 米延伸至数百米。 提高AI 模子练习速率:与传统的电线比拟,利用光电共封装技能练习年夜型语言模子的速率快近五倍,从而将尺度年夜语言模子的练习时间从三个月缩短到三周;用在更年夜的模子及更多的 GPU,机能将得到更年夜晋升。[2] 年夜幅提高数据中央能效:于最新光电共封装技能的加持下,每一练习一个 AI 模子所节省的电量,相称在 5000 个美国度庭的年耗电量总及。[3] IBM 高级副总裁、IBM研究院院长Dario Gil暗示:"天生式AI需要愈来愈多的能源及处置惩罚能力,数据中央必需随之进级换代,而光电共封装技能可以帮忙数据中央自在面向将来。跟着光电共封装技能取患上冲破,光纤电缆将年夜幅晋升数据中央的数据传输效率,芯片之间的通讯、AI事情负载的处置惩罚也会更高效,咱们将进入一个更高速、更可连续的新通讯时代。" 比现有芯片间通讯带宽快 80 倍患上益在最近几年芯片技能的前进,芯片上可以容纳更多、更密集的晶体管;好比,IBM 的 2 纳米芯片技能可于单一芯片上植入 500 多亿个晶体管。光电共封装技能旨于扩展加快器之间的互连密度,帮忙芯片制造商于电子模组上添加毗连芯片的光通路,从而逾越现有电子通路的限定。IBM 的论文所述的新型高带宽密度光学布局及其他立异结果,好比,经由过程每一个光通道传输多个波长,有望将芯片间的通讯带宽提高至电线毗连的80 倍。 与今朝开始进的光电共封装技能比拟,IBM 的立异结果可使芯片制造商于硅光子芯片边沿增长六倍数目的光纤,即所谓的"鬓发密度 (beachfront density)"。每一根光纤的宽度约为头发丝的三倍,长度从几厘米到几百米不等,可传输每一秒万亿比特级另外数据。IBM 团队采用尺度封装工艺,于 50 微米间距的光通道上封装高密度的聚合物光波导 (PWG),并与硅光子波导绝热耦合。 论文还有指出,上述光电共封装模块采用50微米间距的聚合物光波导,初次经由过程了制造所需的所有压力测试。这些模组需要经受高湿度情况、-40°C 至 125°C 的温度以和机械经久性测试,以确保光互连装配纵然弯曲,也不会断裂或者丢掉数据。此外,研究职员还有展示了 18 微米间距的聚合物光波导技能:将四个聚合物光波导装备重叠于一路,可以实现多达128 个通道的毗连。 IBM 连续引领半导体技能研发 面临日趋增加的 AI 机能需求,光电共封装技能创始了一条新的通讯路子,并可能代替从电子到光学的模块外通讯。这一技能冲破延续了IBM 于半导体立异方面的带领职位地方,包括全世界首个 2 纳米芯片技能、首个 7 纳米及 5 纳米工艺技能、纳米片晶体管、垂直晶体管 (VTFET)、单芯片 DRAM 及化学放年夜光刻胶等。 该项目的设计、建模及模仿事情于美国纽约州奥尔巴尼完成,其原型组装及模块测试则由位在加拿年夜魁北克省布罗蒙的IBM试验室承接,后者是北美地域最年夜的芯片组装及测试基地之一。 [1] 从每一比特 5 微焦降至不到 1 微焦。 [2]数据基在利用行业尺度 GPU 及互连装配对于 700 亿参数年夜语言模子的练习。 [3]数据基在利用行业尺度 GPU 及互连装配对于超年夜型年夜语言模子(如 GPT-4)的练习。
关在IBM
IBM 是全世界领先的混淆云、人工智能和企业办事提供商,帮忙跨越 175 个国度及地域的客户,从其拥有的数据中获取贸易洞察,简化营业流程,降低成本,并得到行业竞争上风。金融办事、电信及医疗康健等要害基础举措措施范畴的跨越 4000 家当局及企业实体依赖 IBM 混淆云平台及红帽 OpenShift 快速、高效、安全地实现数字化转型。IBM 于人工智能、量子计较、行业云解决方案及企业办事方面的冲破性立异为咱们的客户提供了开放及矫捷的选择。对于企业诚信、透明管理、社会责任、包涵文化及办事精力的持久承诺是 IBM 营业成长的基石。相识更多信息,请拜候:https://www.ibm.com/cn-zh
-贝博
公众号
公网安备 12011402001065号