【環球網科技綜合報道】6月22日,在華爲開發者大會2024期間,華爲主機上雲軍團CEO、混合雲總裁尚海峯發佈大模型混合雲十大創新技術。尚海峯表示:“大模型的創新除了模型本身,更要腳踏實地深入千行萬業,創造業務價值。華爲雲Stack將持續圍繞AI-Native開展系統性創新,在場景上廣泛探索,在技術上形成突圍,攜手共贏AI的黃金時代。”
2023年,華爲雲推出業界首個大模型混合雲華爲雲Stack,幫助企業一站式建設自己的專屬大模型。
華爲雲Stack從計算、存儲、網絡、安全和運維五大維度打造了堅實的算力底座。通過多樣性算力調度和算子加速能力,實現了異構算力的融合,算力利用率顯著提升超過50%。結合高性能存儲的多層緩存機制和高吞吐無阻塞AI網絡,使得算力發揮最大價值。同時,四道大模型安全防線能智能攔截90%的新興攻擊,確保了數據的安全可靠。
華爲雲Stack提供ModelArts一站式開發平臺,支持大規模異構集羣調度管理、分佈式訓練、雲邊協同部署及全流程工作流,並提供模型開發套件、全鏈路數據工程套件、應用開發套件3大套件,加速數據、模型、應用的一站式開發。同時,華爲雲Stack原生集成超過30個業界主流的基礎模型,實現開箱即用。
大模型的應用是一個複雜的系統工程,不僅僅在於單點技術的持續演進,更需要基於場景和需求匹配合適的技術,通過全鏈路、多技術融合的系統性創新整體推進。在此次華爲開發者大會上發佈的十大創新技術中,包括多樣性算力調度、雲邊協同、AI-Native存儲等,這些技術覆蓋了從雲基礎設施到AI開發平臺及模型層的全方位創新。華爲混合雲數智領域總經理徐強在演講中詳細介紹了這些技術的特點和應用,並表示華爲雲Stack將持續深耕根技術,助力更多政企客戶建好、用好大模型,加速智能化轉型。
隨着大模型能力不斷變強,模型參數不斷增加,對端、邊、雲算力協同的整體架構設計提出了更高的要求。華爲混合雲CTO劉徵輝表示,依託全系列產品研發經驗,華爲雲Stack通過系統性創新,爲政企客戶打造大規模、高性能、高可靠、雲邊協同四項全能的雲化算力底座,加速大模型應用進程。
在應對大規模需求時,華爲雲Stack憑藉對AI集羣和海量訓練數據的支持,成功實現了數十億至千億級別的模型訓練集羣部署。談及性能提升,RoCE網絡的無阻塞互聯設計將訓練效率提高了50%,而高性能存儲的多層緩存機制則使小文件的加載效率飆升了20倍。在可靠性上,軟硬協同技術能夠在極短時間內感知並界定故障,確保月級長穩訓練。同時,智能化的運維管理策略覆蓋了80%以上的故障場景,顯著提高了故障恢復能力。結合業界領先的安全運營和AI數據安全方案,以及最高安全等級的算力平臺,華爲雲Stack爲用戶提供了無與倫比的高安全算力。在雲邊協同領域,華爲雲Stack推出了多種邊緣輕量化部署模式,使AI能夠高效地賦能生產現場。此外,通過其獨特的多雲合一管理架構和多雲擇優調度策略,實現了對多雲算力的優化管理。
目前,華爲雲Stack大模型混合雲已在政府、金融、煤礦、交通、電力等多個行業得到廣泛應用。在政府領域,華爲雲聯合廣州、紹興等城市,通過大模型提升了政務服務效率和城市管理水平;在金融領域,實現了大模型在信貸、遠程銀行等業務領域的深度應用;在煤礦領域,通過大模型推動了礦山的安全和效率提升。