开云-IBM 发布光学技术关键突破,生成式AI迎来"光速时代"

[导读]新的光电共封装手艺或代替数据中间中的电互连装配,年夜幅提高AI 和其他计较利用的速度与能效 北京2024年12月12日 /美通社/ -- 近日,IBM(纽约证券买卖所代码:IBM)发布了其在光学手艺方面的冲破性研究功效,有望显著提高数据中间练习和运行生成式 AI 模子的效力。IB...

新的光电共封装手艺或代替数据中间中的电互连装配,年夜幅提高AI 和其他计较利用的速度与能效

北京2024年12月12日 /美通社/ -- 近日,IBM(纽约证券买卖所代码:IBM)发布了其在光学手艺方面的冲破性研究功效,有望显著提高数据中间练习和运行生成式 AI 模子的效力。IBM研究人员开辟的新一代光电共封装(co-packaged optics,CPO) 工艺,经由过程光学手艺实现数据中间内部的光速毗连,为现有的短距离光缆供给了有力弥补。经由过程设计和组装首个公布成功的聚合物光波导 (PWG),IBM 研究人员展现了光电共封装手艺将若何从头界说计较行业在芯片、电路板和办事器之间的高带宽数据传输。

IBM optics module

IBM optics module

今天,光纤手艺已被普遍用在远距离的高速数据传输,实现了"以光代电"来治理全球几近所有的贸易和通讯传输。固然数据中间的外部通讯收集已采取光纤,但其内部的机架依然首要利用铜质电线进行通讯。经由过程电线毗连的 GPU 加快器可能有一半以上的时候处在闲置状况,在年夜型散布式练习进程中需要期待来自其他装备的数据,致使昂扬的本钱和能源华侈。

IBM 研究人员发现了一种将光学的速度和容量引入数据中间的新方式。在其最新颁发的一篇论文中,IBM 展现了其全球首发、可实现高速光学毗连的光电共封装原型。这项手艺可年夜幅提高数据中间的通讯带宽,最年夜限度地削减 GPU 停机时候,同时年夜幅加速 AI 工作速度。该立异将实现以下新冲破:

下降范围化利用生成式 AI 的本钱:与中距电气互连装配比拟,能耗下降 5 倍以上,[1]同时将数据中间互连电缆的长度从 1 米耽误至数百米。 提高 AI 模子练习速度:与传统的电线比拟,利用光电共封装手艺练习年夜型说话模子的速度快近五倍,从而将尺度年夜说话模子的练习时候从三个月缩短到三周;用在更年夜的模子和更多的 GPU,机能将取得更年夜晋升。[2] 年夜幅提高数据中间能效:在最新光电共封装手艺的加持下,每练习一个 AI 模子所节流的电量,相当在 5000 个美国度庭的年耗电量总和。[3]

IBM 高级副总裁、IBM研究院院长 Dario Gil 暗示:"生成式AI需要愈来愈多的能源和处置能力,数据中间必需随之进级换代,而光电共封装手艺可以帮忙数据中间自在面向将来。跟着光电共封装手艺获得冲破,光纤电缆将年夜幅晋升数据中间的数据传输效力,芯片之间的通讯、AI工作负载的处置也会更高效,我们将进入一个更高速、更可延续的新通讯时期。"

比现有芯片间通讯带宽快 80 倍得益在最近几年芯片手艺的前进,芯片上可以容纳更多、更密集的晶体管;好比,IBM 的 2 纳米芯片手艺可在单一芯片上植入 500 多亿个晶体管。光电共封装手艺旨在扩年夜加快器之间的互连密度,帮忙芯片制造商在电子模组上添加毗连芯片的光通路,从而超出现有电子通路的限制。IBM 的论文所述的新型高带宽密度光学布局和其他立异功效,好比,经由过程每一个光通道传输多个波长,有望将芯片间的通讯带宽提高至电线毗连的80 倍。

与今朝最早进的光电共封装手艺比拟,IBM 的立异功效可使芯片制造商在硅光子芯片边沿增添六倍数目的光纤,即所谓的"鬓发密度 (beachfront density)"。每根光纤的宽度约为头发丝的三倍,长度从几厘米到几百米不等,可传输每秒万亿比特级此外数据。IBM 团队采取尺度封装工艺,在 50 微米间距的光通道上封装高密度的聚合物光波导 (PWG),并与硅光子波导绝热耦合。

论文还指出,上述光电共封装模块采取50微米间距的聚合物光波导,初次经由过程了制造所需的所有压力测试。这些模组需要承受高湿度情况、-40°C 至 125°C 的温度和机械经久性测试,以确保光互连装配即便曲折,也不会断裂或丢掉数据。另外,研究人员还展现了 18 微米间距的聚合物光波导手艺:将四个聚合物光波导装备堆叠在一路,可以实现多达128 个通道的毗连。

IBM 延续引领半导体手艺研发面临日趋增加的 AI 机能需求,光电共封装手艺首创了一条新的通讯路子,并可能代替从电子到光学的模块外通讯。这一手艺冲破延续了IBM 在半导体立异方面的带领地位,包罗全球首个 2 纳米芯片手艺、首个 7 纳米和 5 纳米工艺手艺、纳米片晶体管、垂直晶体管 (VTFET)、单芯片 DRAM 和化学放年夜光刻胶等。

该项目标设计、建模和摹拟工作在美国纽约州奥尔巴尼完成,其原型组装和模块测试则由位在加拿年夜魁北克省布罗蒙的IBM尝试室承接,后者是北美地域最年夜的芯片组装和测试基地之一。

[1] 从每比特 5 微焦降至不到 1 微焦。 [2]数据基在利用行业尺度 GPU 和互连装配对 700 亿参数年夜说话模子的练习。 [3]数据基在利用行业尺度 GPU 和互连装配对超年夜型年夜说话模子(如 GPT-4)的练习。

关在IBMIBM 是全球领先的夹杂云、人工智能和企业办事供给商,帮忙跨越 175 个国度和地域的客户,从其具有的数据中获得贸易洞察,简化营业流程,下降本钱,并取得行业竞争优势。金融办事、电信和医疗健康等要害根本举措措施范畴的跨越 4000 家当局和企业实体依托 IBM 夹杂云平台和红帽 OpenShift 快速、高效、平安地实现数字化转型。IBM 在人工智能、量子计较、行业云解决方案和企业办事方面的冲破性立异为我们的客户供给了开放和矫捷的选择。对企业诚信、透明治理、社会责任、包涵文化和办事精力的持久许诺是 IBM 营业成长的基石。

媒体联系人

IBM Corporation logo.

IBM Corporation logo.

欲知详情,请下载word文档 下载文档

北京2024年8月27日 /美通社/ -- 在8月23日举行的2024年长三角生态绿色一体化成长示范区结合招商会上,软通动力信息手艺(团体)股分有限公司(以下简称 软通动力 )与长三角投资(上海)有限...

要害字: BSP 信息手艺

上海2024年8月26日 /美通社/ -- 本日,高端全合成润滑油品牌美孚1号联袂品牌体验官周冠宇,开启全新路程,助力泛博车主经由过程驾驶去摸索更广漠的世界。在全新发布的品牌视频中,周冠宇和分歧布景的消费者表达了对驾驶的酷爱...

要害字: BSP 汽车制造

上一篇:开云-法兰克福展览集团 下一篇:开云-曝苹果博通联合开发AI芯片:最快会在2026年亮相