IBM发布全新光电共封装工艺:AI模型训练速度将提升5倍
发布时间:2024-12-29 19:14:07 作者:玩站小弟 我要评论
12月12日消息,据报道,IBM在光学技术方面获得新进展,有望提升数据中心训练和运行生成式AI模型的效率。IBM推出了新一代光电共封装CPO)工艺。该技术利用光学连接,实现了数据中心内部的光速数据传输
。
12月12日消息,发封装据报道,布全IBM在光学技术方面获得新进展,新光训练有望提升数据中心训练和运行生成式AI模型的电共效率。
IBM推出了新一代光电共封装(CPO)工艺。工艺该技术利用光学连接,模型实现了数据中心内部的速度升倍光速数据传输,完美补充了现有的将提短距离光缆系统。
研究人员展示了光电共封装技术将如何重新定义计算行业在芯片、发封装电路板和服务器之间的布全高带宽数据传输。最大限度地减少GPU停机时间,新光训练同时大幅加快AI工作速度。电共
具体而言,工艺这一新技术带来了三大方面的模型显著优势:
首先,它极大地降低了规模化应用生成式AI的速度升倍成本。与中距离电气互连装置相比,光电共封装技术的能耗降低了五倍以上,同时,数据中心互连电缆的长度也从传统的1米扩展至数百米,进一步提升了数据中心的灵活性和扩展性。
其次,该技术显著提高了AI模型的训练速度。与传统的电线相比,使用光电共封装技术训练大型语言模型的速度几乎提升了五倍。
这意味着,原本需要三个月才能训练完成的标准大语言模型,现在仅需三周即可完成。对于更大的模型和更多的GPU,性能的提升将更为显著。
最后,光电共封装技术还显著提升了数据中心的能效。据估算,每训练一个AI模型所节省的电量,竟然相当于5000个美国家庭一年的耗电量总和。这一数据无疑彰显了该技术在节能减排方面的巨大潜力。
相关文章
[流言板]无人能挡!约基奇2次进攻命中三分,首节三分4投全中得16分
[流言板]无人能挡!约基奇2次进攻命中三分,首节三分4投全中得16分由篮球资讯发表在篮球资讯 50212月29日讯 今日NBA常规赛掘金对阵活塞的比赛正在进行中。比赛第一节,约基奇2次进攻命中三分,首2024-12-29- 11月11日讯今天凌晨,曼联在英超主场3-0击败莱斯特城,赛后德里赫特接受了MUTV采访。德里赫特说道:“3分真的很重要,打进了3球并零封对手。在今天的比赛中,我们在一些阶段表现不够好,所以这就是我们2024-12-29
- 9月18日讯 联赛杯第3轮,曼联对阵英甲球队巴恩斯利的比赛正在进行。上半场,安东尼造点并亲自主罚命中。据统计,自加盟曼联以来,安东尼共打进12粒进球,其中有5粒是在国内杯赛的比赛中打进。截至目前,安东2024-12-29
庆祝老东家夺冠!维尼修斯穿弗拉门戈球衣,庆祝球队夺巴西杯冠军
11月11日讯巴西杯决赛第二回合,39岁的费利佩-路易斯执教的弗拉门戈1-0击败米内罗竞技,两回合4-1战胜对手夺得冠军。皇马球员维尼修斯更新社媒,晒出自己身穿弗拉门戈球衣的照片以庆祝夺冠。维尼修斯出2024-12-29[流言板]火箭前30场21胜9负,为球队21世纪第三好的前30场战绩
[流言板]火箭前30场21胜9负,为球队21世纪第三好的前30场战绩由篮球资讯发表在篮球资讯 50212月28日讯 今日NBA常规赛,火箭以128-111战胜鹈鹕,本赛季战绩来到21胜9负。根据数据统2024-12-29- 11月11日讯日本球队FC今治升入J2联赛,浙江队发文送上祝贺。浙江队:“在昨日下午结束的日本J3联赛第36轮比赛中,FC今治客场5-0大胜鸟取,提前两轮锁定下赛季J2联赛参赛资格,升级成功。在此,浙2024-12-29
最新评论