步入2024年以來,從各品牌手機競相接入大模型,到大眾汽車全部車型搭載ChatGPT,再到京東工業上線采購大模型、萬興科技運用大模型創作短視頻等,大模型正加速融入各個領域。
大模型的廣泛落地,在為企業數字化帶來革新和顛覆的同時,也給算力行業帶來難題。
日前,在ABB電氣創新周綠色數據中心論壇上,一眾專家圍繞“生成式AI為代表的算力需求帶來的挑戰和機遇”進行了深入探討。
會上,網宿科技子公司綠色云圖運營總監徐明微表示,大模型的訓練、推理、交互都需要海量AI算力的支撐。隨著AI算力需求爆發,帶來服務器功耗增長,行業必須要應用新的技術來高效帶走熱量,液冷技術將成為最佳解決辦法。
當前,AI算力已經成為我國算力發展的主要方向。IDC預測,到2026年中國智算規模將達到1271.4 EFLOPS,未來五年復合增長率達52.3%。與此同時,結合應用發展趨勢,未來80%的場景都將基于人工智能,所占據的算力資源將主要由智算中心承載。
徐明微指出,智算意味著更高密度的算力基礎設施建設,單機柜功率密度在40kW以上。而傳統數據中心單機柜密度通常在8-10kW,且機房寬度不超過15米,面對智算新趨勢,傳統機房不僅在空間布局上受到限制,在散熱方面更面臨嚴峻挑戰。
在能耗結構上,眾所周知的是,IT和空調制冷設備是數據中心的主要能耗來源,兩者占到數據中心總能耗的85%。傳統的數據中心以風冷技術為主流散熱方式,而由于空氣換熱系數低、散熱能力不足且受環境影響,風冷散熱已無法滿足高密度數據中心的散熱需求。
對此,徐明微認為,智算中心必須導向液冷技術。液冷技術具有低能耗、高散熱、節約空間、不受環境限制等特性,相較風冷系統PUE值在1.3-1.4左右,液冷系統可以降低PUE值到1.05-1.1,更能適配高密度、高算力的智算場景。
據悉,網宿科技子公司綠色云圖是國內液冷領域的先行者,自2015年起便已投入對液冷技術的研究,目前累計已取得發明專利超過百項,多款液冷產品入選工信部權威節能目錄。在應用方面,依托豐富的商用經驗和領先的技術能力,綠色云圖在高算力場景率先取得規模應用,不斷落地標桿案例,比如綠色云圖為武漢大學打造了液冷超算邊緣數據中心,有效支撐其大規模數據處理和高性能計算需求。
“我們相信,隨著未來高算力場景的不斷涌現以及社會對節能要求越來越高,數據中心會更多地部署液冷技術。我們將持續深耕液冷,用更綠色的數據中心滿足生成式AI為代表的算力需求。”徐明微表示。
版權與免責聲明:
凡本站注明“來源:智能制造網”的所有作品,均為浙江興旺寶明通網絡有限公司-智能制造網合法擁有版權或有權使用的作品,未經本站授權不得轉載、摘編或利用其它方式使用上述作品。已經本網授權使用作品的,應在授權范圍內使用,并注明“來源:智能制造網”。違反上述聲明者,本站將追究其相關法律責任。
本站轉載并注明自其它來源(非智能制造網)的作品,目的在于傳遞更多信息,并不代表本站贊同其觀點或和對其真實性負責,不承擔此類作品侵權行為的直接責任及連帶責任。如其他媒體、平臺或個人從本站轉載時,必須保留本站注明的作品第一來源,并自負版權等法律責任。如擅自篡改為“稿件來源:智能制造網”,本站將依法追究責任。
鑒于本站稿件來源廣泛、數量較多,如涉及作品內容、版權等問題,請與本站聯系并提供相關證明材料:聯系電話:0571-89719789;郵箱:1271141964@qq.com。