英偉達公司周一早些時候推出了新的英偉達EGX平臺,將人工智能引入網絡邊緣,該平臺能夠實時感知、理解和處理數據,而無需首先將數據發送到云端或數據中心。
將人工智能應用于智能手機、傳感器和工廠機器等邊緣設備是該技術不斷發展的下一個階段。早的人工智能算法非常復雜,只能在云數據中心運行的強大機器上處理,這意味著需要通過網絡發送大量信息。但這是不可取的,因為它需要大量帶寬并導致更高的延遲,而且使得“實時”人工智能難以實現。
企業真正想要的是可以在數據產生的地方執行的人工智能,無論是制造工廠、零售商店還是倉庫。幾家科技公司都在試圖解決這個問題,近的嘗試是英特爾公司今天推出的 “冰湖”芯片——這是該公司首款10納米芯片,此外還有數十家創業公司也瞄準了這個領域。
但是英偉達進入人工智能邊緣是值得注意的,因為該公司的圖形處理單元被廣泛認為是好的人工智能處理硬件。其中包括用于深度學習的Tesla V100和Quadro GV100,它可以實時進行光線跟蹤,即創建逼真圖像的過程。
新的英偉達EGX平臺可以從基于Jetson Nano處理器的輕型服務器——能夠以幾瓦的功耗每秒鐘處理0.5萬億次操作,擴展到基于邊緣服務器NVIDIA T4機架的微型數據中心——可以每秒完成10,000萬億次操作。芯片的節能功能對于人工智能來說非常重要,因為傳統的硬件運行此類任務時,耗電量非常巨大。
在媒體簡報中,英偉達企業和邊緣計算主管Justin Boitano表示,對NGX之類的平臺的需求將會很大,因為到2025年,世界上將有大約1500億臺機器傳感器和“物聯網”設備。他表示有很多這樣的傳感器將被用于“智能城市”等計劃,并將生成需要在現場進行處理的數據——這主要是出于更低延遲和實時響應的需求,數據主權法規的要求或對隱私問題的考慮。
Boitano表示: “人工智能確實是所有行業在視覺和言語方面的殺手級應用。”
如果真的想要充分利用這些芯片,合作伙伴關系也很重要。處于這個原因,英偉達正在整合NVIDIA Edge Stack軟件,而不是讓EGX運行在Red Hat的OpenShift Kubernetes容器編排平臺上以實現與現代軟件應用程序的兼容。
該平臺還集成了Mellanox Technologies股份有限公司的安全、存儲和網絡技術,英偉達計劃在年底前以69億美元的價格收購Mellanox Technologies股份有限公司。
Mellanox技術官Michael Kagan 表示:“Mellanox Smart NIC和交換機為數據訪問提供了理想的I / O連接,可從邊緣擴展到超大規模數據中心。”
英偉達正在與至少13家不同的服務器制造商合作銷售EGX平臺,包括思科系統公司、戴爾EMC、惠普企業公司和聯想集團控股有限公司等制造商。
NGX還兼容運行在主要云基礎架構服務(如Amazon Web Services和Microsoft Azure)上的人工智能應用程序,并且可以連接到物聯網服務,例如AWS IoT Greengrass和Azure IoT Edge。
(原標題:英偉達宣布推出首款面向邊緣設備的人工智能平臺)
版權與免責聲明:
凡本站注明“來源:智能制造網”的所有作品,均為浙江興旺寶明通網絡有限公司-智能制造網合法擁有版權或有權使用的作品,未經本站授權不得轉載、摘編或利用其它方式使用上述作品。已經本網授權使用作品的,應在授權范圍內使用,并注明“來源:智能制造網”。違反上述聲明者,本站將追究其相關法律責任。
本站轉載并注明自其它來源(非智能制造網)的作品,目的在于傳遞更多信息,并不代表本站贊同其觀點或和對其真實性負責,不承擔此類作品侵權行為的直接責任及連帶責任。如其他媒體、平臺或個人從本站轉載時,必須保留本站注明的作品第一來源,并自負版權等法律責任。如擅自篡改為“稿件來源:智能制造網”,本站將依法追究責任。
鑒于本站稿件來源廣泛、數量較多,如涉及作品內容、版權等問題,請與本站聯系并提供相關證明材料:聯系電話:0571-89719789;郵箱:1271141964@qq.com。