智能制造網APP
智能制造網手機站
智能制造網小程序
智能制造網官微
智能制造網服務號
智能控制
機器人
儀器儀表
物聯網
3D打印
工業軟件
回放
預告
品牌
爽風
12月12日消息，據報道，IBM在光學技術方面獲得新進展，有望提升數據中心訓練和運行生成式AI模型的效率。
IBM推出了新一代光電共封裝(CPO)工藝。該技術利用光學連接，實現了數據中心內部的光速數據傳輸，完美補充了現有的短距離光纜系統。
研究人員展示了光電共封裝技術將如何重新定義計算行業在芯片、電路板和服務器之間的高帶寬數據傳輸。最大限度地減少GPU停機時間，同時大幅加快AI工作速度。
具體而言，這一新技術帶來了三大方面的顯著優勢：
首先，它極大地降低了規模化應用生成式AI的成本。與中距離電氣互連裝置相比，光電共封裝技術的能耗降低了五倍以上，同時，數據中心互連電纜的長度也從傳統的1米擴展至數百米，進一步提升了數據中心的靈活性和擴展性。
其次，該技術顯著提高了AI模型的訓練速度。與傳統的電線相比，使用光電共封裝技術訓練大型語言模型的速度幾乎提升了五倍。
這意味著，原本需要三個月才能訓練完成的標準大語言模型，現在僅需三周即可完成。對于更大的模型和更多的GPU，性能的提升將更為顯著。
最后，光電共封裝技術還顯著提升了數據中心的能效。據估算，每訓練一個AI模型所節省的電量，竟然相當于5000個美國家庭一年的耗電量總和。這一數據無疑彰顯了該技術在節能減排方面的巨大潛力。
浙公網安備 33010602000006號
智能制造網APP
智能制造網小程序
微信公眾號
