智能制造網APP
智能制造網手機站
智能制造網小程序
智能制造網官微
智能制造網服務號
智能控制
機器人
儀器儀表
物聯網
3D打印
工業軟件
回放
品牌
其他品牌
12月12日消息，由深度學習技術及應用國家工程實驗室主辦的WAVE SUMMIT+ 2021深度學習開發者峰會今日召開。此次峰會，飛槳開源框架v2.2重磅亮相。
百度深度學習技術平臺部高級總監馬艷軍與百度AI產品研發部總監忻舟，就飛槳新版 本特性與落地部署應用做了詳盡解讀。
飛槳新版本將如何在解決AI落地產業方面提供全新解答？一起看看。
踐行融合創新，飛槳核心技術持續積累與突破
峰會現場，馬艷軍表示，飛槳作為中國首個自主研發、功能豐富、開源開放的產業級深度學習平臺，核心技術持續積累與突破，全新發布的開源框架2.2版本，涉及深度學習開發、訓練、文本任務較佳優化、硬件高效適配、低門檻推理部署等多方面創新性技術，賦能開發者，為產業應用和前沿探索提供技術源動力。
開發方面，飛槳提供豐富的API，支持開發者便捷、高效地開發深度學習模型。飛槳框架v2.2的API更加豐富、高效并保持良好的兼容性，有針對性地豐富了100多個API，可支持更廣泛模型開發，尤其針對科學計算的模型應用，增加了傅里葉變換、Jacobian/Hessian/VJP/JVP等一系列API，支持量子計算、生命科學、計算流體力學、分子動力學等應用，助力前沿技術探索。
訓練方面，全新發布端到端自適應大規模分布式訓練技術。針對不同的模型和硬件，抽象成統一的分布式計算視圖和資源視圖，并通過硬件感知切分和映射功能及端到端的代價模型，搜索出最優的模型切分和硬件組合策略，將模型參數、梯度、優化器狀態按照最優策略分配到不同的計算卡上，達到節省存儲、負載均衡、提升訓練性能的目的。
基于全新的端到端自適應大規模分布式訓練技術，百度飛槳在鵬城云腦II集群上采用自適應優化，訓練速度達到優化前2.1倍。而近期發布的全球首個知識增強千億大模型鵬城-百度·文心，也是基于端到端自適應大規模分布式訓練技術。
文本任務方面，從文本處理、訓練、解碼到部署進行全面加速。升級對字符串張量的支持，為開發者提供端到端文本任務開發體驗。在預訓練模型方面，針對Transformer Encoder的網絡結構實現了較佳的性能優化，并通過自定義算子功能，融合了NVIDIA FasterTransformer的高性能算子?；谶@些優化，框架針對預訓練模型形成了訓推一體全流程開發體驗，讓部署代碼節省94%。
硬件接入方面，多層次、低成本的硬件適配方案降低了框架與芯片的適配成本。百度自研Kernel Primitive API、NNAdapter、編譯器CINN(預發布)三大優化方案，分別對AI算子庫、圖、編譯器后端進行軟硬件結合的深度融合優化，極大降低了硬件適配成本，賦能硬件生態圈。
持續降低應用門檻，飛槳模型庫、企業版全新升級
除了飛槳深度學習框架技術的發布，峰會還帶來了飛槳產業級開源模型庫和企業版的全新升級。
馬艷軍在會上表示，目前，百度飛槳官方支持的產業級開源算法模型超過400個，并發布13個PP系列模型，在精度和性能上達到平衡，將推理部署工具鏈徹底打通。
飛槳產業應用能力全方位升級的同時，飛槳企業版也在著力提升模型部署能力。會上，忻舟帶來了飛槳企業版模型部署升級和飛槳EsayDL桌面版的全新發布。
飛槳企業版包括EasyDL和BML雙平臺開發模式，致力于提升AI開發效率和資源使用效能，目前已經成為應用和落地最廣泛的AI開發平臺。此次模型部署的全新升級基于飛槳推理部署工具鏈，與平臺深度融合，打造自動高效的企業級部署功能。
首先是全自動模型組合壓縮，顯著提升推理性能?；赑addleSlim，根據不同模型和硬件的特點，設計了多條全自動組合壓縮流水線，能夠自動選擇最佳壓縮路徑。對常見的模型，精度損失控制在1%下，加速比能達到3-5倍。
其次基于飛槳推理引擎，廣泛適配推理芯片。新版本采用了飛槳推理引擎，廣泛適配推理芯片且性能優異。目前，平臺已完成9345種模型芯片的組合的真實測試和調優，可以覆蓋95%的需求場景，相比自行適配節省97%的開發時間。
最后是模型服務化與智能邊緣控制臺，大幅提高部署效率。尤其是全新發布的智能邊緣控制臺，提供了全可視化的操作界面，使得模型與業務集成的效率顯著提升，模型部署時間從天級別縮短至5分鐘。忻舟現場演示了如何5分鐘讓機器狗學會手勢識別的新技能。
最后，飛槳EasyDL桌面版全新發布。開發者不必繁瑣的配置各種環境，在桌面一鍵極速安裝即可實現本地高效建模，1分鐘安裝完成，15分鐘就可完成模型開發，本地實現數據管理、算力調度、部署應用，讓AI“觸手可得”。
源于產業實踐的百度飛槳產業級深度學習開源開放平臺，是百度踐行融合創新、降低行業發展門檻的AI大生產平臺。飛槳的一代一代迭代更新，更是中國人工智能產業的一步一步的向上攀登。AI促動中國產業繁榮，飛槳一直在路上。
(原標題：百度飛槳開源框架v2.2重磅亮相：降門檻 降成本 讓AI“觸手可得”)
浙公網安備 33010602000006號
智能制造網APP
智能制造網小程序
微信公眾號
