智能制造網APP
智能制造網手機站
智能制造網小程序
智能制造網官微
智能制造網服務號
智能控制
機器人
儀器儀表
物聯網
3D打印
工業軟件
回放
品牌
其他品牌
近日，由中國電子技術標準化研究院 、華為技術有限公司 、中國科學院軟件研究所 、北京航空航天大學 、浪潮電子信息產業股份有限公司等單位起草，TC28(全國信息技術標準化技術委員會)歸口的國家標準計劃《人工智能 服務器系統性能測試規范》征求意見稿已編制完成，現公開征求意見。
當前具有代表性的通用 AI 測試基準、HPC 性能測試基準或服務器技術規范，如 MLPerf、AI Benchmark、benchcouncil、AI-HPL、Linpack、DAWNBENCH、T/CESA 1043-2019《面向深度學習的服務器規范》、GB/T 9813.3《計算機通用規范 第 3 部分：服務器》《人工智能芯片 面向云側的深度學習芯片測試指標與測試方法》以及 AIIA DNN benchmark 等，在 AI 服務器系統性能測試方面，仍存在一些未解決的問題。
1) 通用服務器技術規范對 AI 服務器系統的性能測試的規定不深入、而且存在同質化傾向。在測試指標方面，僅端到端運行時間、能耗等不能準確反映AI 服務器系統。系統內部運行時效能方面，尚不存在標準化的測試方法。
2) 通用 AI 性能測試，使用公眾可獲得的模型、數據集。它們與行業(如金融、醫療)實際使用的模型、數據有較大差異。通用測試的結果，對行業指導意義不強，行業業務在 AI 服務器系統計算設施上的運行效果，無直接評判依據。
3) 當前的測試基準對測試科學(test technology)理論的實踐相對較薄弱。這些測試基準對性能的理解、解釋及測試方法僅限于穩定狀態運行時間，而未考慮真實運行環境及系統自身現實狀態。
針對以上問題，該標準擬結合測試技術，在通用及行業應用兩方面，研究并標準化測試方法、用例，達到較為全面、準確的測試效果。
人工智能服務器系統，包含人工智能服務器、集群和高性能計算設施等形態。人工智能服務器系統，是各類深度學習模型(包含大規模預訓練模型)的訓練和推理的核心載體，是各行業應用人工智能技術提升生產效率的核心工具。人工智能服務器系統專為處理人工智能計算任務設計，在架構、運算方式和用途用法上，與通用服務器系統有較大差別，其測試過程、負載和指標等，皆有獨特性。本文件提出人工智能服務器系統性能基準測試的方法，并對基準測試工具提出技術要求。
本文件規定了人工智能服務器系統，完成深度學習訓練及推理任務的性能(運行時間、能耗、實際吞吐率、能效、效率、彈性、承壓能力等)測試方法。本文件適用于人工智能服務器系統的性能評估。
浙公網安備 33010602000006號
智能制造網APP
智能制造網小程序
微信公眾號
