網宿科技陳雲輝:一站式邊緣智能解決方案助力AIGC應用門檻大降

【環球網科技綜合報道】6月28日消息,近日,在全球邊緣計算大會上,網宿科技邊緣智能平臺資深架構師陳雲輝宣佈了一項重要進展——公司正式推出面向AIGC(生成式人工智能)的一站式邊緣智能解決方案。該方案通過Serverless GPU、AI網關、模型微調與推理服務三大層面,旨在大幅降低AIGC應用的落地門檻,助力用戶以低成本、高效率的方式實現AI應用創新。

隨着AIGC和大模型技術的快速發展,全球範圍內掀起了一股創新熱潮。然而,企業在實際部署這些先進技術時,往往面臨高門檻、長週期和高成本的挑戰。陳雲輝指出,儘管國內基礎大模型種類繁多,但用戶在選擇、部署及與現有業務整合過程中,仍需綜合考慮推理成本、性能評估、系統安全性、數據隱私保護等多個因素,這大大增加了實施難度。

在此背景下,網宿科技憑藉其在邊緣計算領域的深厚積累,推出了這一創新解決方案。據陳雲輝介紹,網宿Serverless GPU服務爲用戶提供了高度可擴展、按需使用的GPU算力資源,適用於AI模型推理、音視頻加速生產等多種計算密集型任務。該服務不僅免去了用戶管理GPU服務器和K8S的繁瑣,還通過邊緣側部署和GPU虛擬化技術,實現了低時延和高資源利用率,有效降低了用戶成本。

此外,網宿AI網關作爲大語言模型的統一API接口,幫助用戶管理和整合多個後端大模型接口,提高了AI應用的穩定性和可靠性,並降低了調用成本。對於需要強數據隱私保護和模型可控性的企業,網宿邊緣模型訓練推理平臺則提供了全球性的邊緣推理運行環境和模型微調服務,支持用戶高效訓練、推理和使用大模型。

陳雲輝進一步展望了AIGC的發展前景,他認爲大模型未來將逐漸演變爲基礎設施,爲各種應用提供基礎性和通用性的支持,同時開源能力也將不斷增強。網宿科技正是基於這一趨勢,不斷探索和完善其邊緣智能解決方案,以滿足市場的多樣化需求。

除了現有產品外,網宿科技還在積極探索AIGC工作流引擎和AI營銷創意平臺兩個新方向。其中,AIGC工作流引擎旨在簡化AI應用的工作流程,提升處理複雜任務的性能和容錯能力;而AI營銷創意平臺則面向最終用戶提供開箱即用的AI產品,賦能營銷工作。



Scroll to Top