智能制造網(wǎng)APP
智能制造網(wǎng)手機(jī)站
智能制造網(wǎng)小程序
智能制造網(wǎng)官微
智能制造網(wǎng)服務(wù)號(hào)
智能控制
機(jī)器人
儀器儀表
物聯(lián)網(wǎng)
3D打印
工業(yè)軟件
回放
可再生能源的替代能源如風(fēng)能、太陽(yáng)能和流體動(dòng)力學(xué)工業(yè)油壓制動(dòng)器
品牌
11月20日消息，2024年世界互聯(lián)網(wǎng)大會(huì)今日在浙江烏鎮(zhèn)開(kāi)幕，騰訊獲得全新設(shè)立的世界互聯(lián)網(wǎng)大會(huì)杰出貢獻(xiàn)獎(jiǎng)—創(chuàng)新突破類(lèi)。
據(jù)“騰訊”公眾號(hào)介紹，騰訊Angel機(jī)器學(xué)習(xí)平臺(tái)也獲得了本年度世界互聯(lián)網(wǎng)大會(huì)領(lǐng)先科技獎(jiǎng)。
騰訊稱(chēng)，該獎(jiǎng)項(xiàng)被視為科技行業(yè)的最高榮譽(yù)之一，在270個(gè)申報(bào)項(xiàng)目中，共有20個(gè)項(xiàng)目獲獎(jiǎng)。
評(píng)選委員會(huì)點(diǎn)評(píng)騰訊Angel機(jī)器學(xué)習(xí)平臺(tái)：突破萬(wàn)億級(jí)模型分布式訓(xùn)練和推理以及大規(guī)模應(yīng)用部署等難題。
據(jù)了解，突破主要在通信、效率、規(guī)模三方面實(shí)現(xiàn)。
通信：
從網(wǎng)卡到交換機(jī)，再到路由協(xié)議，騰訊自研的RDMA網(wǎng)絡(luò)實(shí)現(xiàn)了集群高速互聯(lián)，單節(jié)點(diǎn)帶寬達(dá)到3.2T，相比于同類(lèi)領(lǐng)先產(chǎn)品，性能提升30%，成本降低70%。
效率：
自研了訓(xùn)練/推理框架，提出顯存加主存的一體化機(jī)制，實(shí)現(xiàn)多維并行和算子優(yōu)化，相比開(kāi)源框架，訓(xùn)練性能提升2.6倍，推理速度提升2.3倍。
規(guī)模：
實(shí)現(xiàn)了單任務(wù)萬(wàn)卡的線(xiàn)性擴(kuò)展，GPU集群加速比從50%提升到99%。
騰訊Angel機(jī)器學(xué)習(xí)平臺(tái)是干嘛的，如果你手握一堆數(shù)據(jù)，想從零開(kāi)始訓(xùn)練一個(gè)大模型，整個(gè)過(guò)程可以分成三層，Angel會(huì)在中間層發(fā)揮作用。
其中，底層GPU、云服務(wù)器等計(jì)算硬件提供算力支持，中層是機(jī)器學(xué)習(xí)平臺(tái)，負(fù)責(zé)處理數(shù)據(jù)、開(kāi)發(fā)算法和執(zhí)行訓(xùn)練任務(wù)，上層是訓(xùn)練好的大模型。
簡(jiǎn)單來(lái)說(shuō)，Angel機(jī)器學(xué)習(xí)平臺(tái)可以把一堆雜亂的數(shù)據(jù)經(jīng)過(guò)清洗、訓(xùn)練、加工等工序，變成一個(gè)強(qiáng)大的大模型。
浙公網(wǎng)安備 33010602000006號(hào)
智能制造網(wǎng)APP
智能制造網(wǎng)小程序
微信公眾號(hào)
