首页 - 科技 > IBM发布全新光电共封装工艺：AI模型训练速度将提升5倍！

IBM发布全新光电共封装工艺：AI模型训练速度将提升5倍！

发布于：2024-12-12 作者：凹凸曼 阅读：40

据报道，IBM在光学技术方面获得新进展，有望提升数据中心训练和运行生成式AI模型的效率。

IBM推出了新一代光电共封装（CPO）工艺。该技术利用光学连接，实现了数据中心内部的光速数据传输，完美补充了现有的短距离光缆系统。

研究人员展示了光电共封装技术将如何重新定义计算行业在芯片、电路板和服务器之间的高带宽数据传输。最大限度地减少GPU停机时间，同时大幅加快AI工作速度。

具体而言，这一新技术带来了三大方面的显著优势：

首先，它极大地降低了规模化应用生成式AI的成本。与中距离电气互连装置相比，光电共封装技术的能耗降低了五倍以上，同时，数据中心互连电缆的长度也从传统的1米扩展至数百米，进一步提升了数据中心的灵活性和扩展性。

其次，该技术显著提高了AI模型的训练速度。与传统的电线相比，使用光电共封装技术训练大型语言模型的速度几乎提升了五倍。

这意味着，原本需要三个月才能训练完成的标准大语言模型，现在仅需三周即可完成。对于更大的模型和更多的GPU，性能的提升将更为显著。

最后，光电共封装技术还显著提升了数据中心的能效。据估算，每训练一个AI模型所节省的电量，竟然相当于5000个美国家庭一年的耗电量总和。这一数据无疑彰显了该技术在节能减排方面的巨大潜力。

IBM发布全新光电共封装工艺：AI模型训练速度将提升5倍


二维码

扫一扫关注我们

版权声明：本文内容由互联网用户自发贡献，本站不拥有所有权，不承担相关法律责任。如果发现本站有涉嫌抄袭的内容，欢迎发送邮件至 3941001135@qq.com举报，并提供相关证据，一经查实，本站将立刻删除涉嫌侵权内容。

上一篇：辟谣后突然反转：马斯克宣称1000%要把自由女神熔了！

下一篇：比亚迪法务部起诉博主“徐里里Xll”：要求赔偿500万！

相关文章

客服QQ：3941001135

客服邮箱：3941001135@qq.com

二维码

本站部分文字及图片均来自于网络，如有侵权请及时联系删除处理

Copyright © 2023 本站技术支持0571YP技术支持 苏ICP备2024129037号-1