【環球網科技綜合報道】7月11日，網宿科技宣佈正式推出其全新的AI服務——邊緣AI網關。

網宿科技CDN產品研發總監曾智全在發佈會上表示，隨着AI成爲新一輪創新的焦點，越來越多的企業希望利用AI技術來推動業務發展，但往往受限於技術或經驗的缺乏。網宿科技此次推出的邊緣AI網關，正是爲了幫助企業更簡單、更安全、更有效地應用AI技術。

據悉，網宿邊緣AI網關旨在爲企業在模型服務與AI應用之間搭建起一座橋樑。無論是個人開發者還是大型企業，都可以通過網宿邊緣AI網關更加便捷地管理和集成模型服務，進而更好地開展AI應用創新。

近年來，隨着GPT等大模型的興起，AI在各行各業的應用加速湧現。集成大模型已成爲提升應用體驗和功能深度的普遍趨勢。然而，企業在使用多個模型或提供商時，面臨着高昂的AI應用成本以及複雜的管理和運維難題。如何更好地管控模型使用、降低成本支出，並清晰地洞察AI使用現狀和服務問題，成爲企業構建AI應用的內在訴求。

此外，企業在使用模型服務的過程中，還面臨着敏感數據泄露、內容不合規等風險。目前，大多數企業組織還未着手解決或正在解決這些AI相關風險。

針對這些挑戰，網宿邊緣AI網關提供了一體化的解決方案。企業可以通過統一的控制平臺創建邊緣AI網關，添加通道，實現與多個AI服務商的模型對接，並且平臺支持多模型服務的可管、可控、可觀察。

在接入層面，網宿邊緣AI網關已經提前完成了與多個主流AI服務商的集成。企業開發人員無需頻繁修改代碼，只需在控制檯進行網關配置，即可一次接入並使用多個模型服務，大大提升了接入效率。

在管理層面，網宿邊緣AI網關支持特殊配置，企業可以在AI網關上靈活定義優先級、負載均衡、限速等策略，按需配置不同模型服務，實現成本可控或減少濫用。同時，企業還可以在請求失敗情況下實現無縫切換，提升AI服務的可靠性。另外，啓用緩存功能後，一旦請求在AI緩存中命中，則不必回到模型提供商，從而減少tokens數的消耗，降低成本並提高響應速度。

在運營層面，網宿邊緣AI網關提供數據可視化功能，聚合來自多個模型提供商的指標，並支持請求數、tokens數、緩存數、錯誤數等的分析展示。同時，提供實時日誌記錄，讓企業可以觀測和控制模型服務的使用情況，以優化模型服務策略。

除了高效接入與管理外，網宿邊緣AI網關還注重確保模型服務的安全性、高性能以及可定製化。在安全性方面，企業可以在網關上配置提示詞過濾規則或執行內容安全審計，以確保交互內容的安全、合規和尊重用戶。在服務性能上，依託網宿強大的全球資源網絡，用戶可以就近接入邊緣分佈式AI網關，確保訪問的穩定性和速度。

目前，網宿邊緣AI網關已開放限時免費測試，以支撐用戶的AI體驗。未來，網宿科技還將深入企業應用，聚焦特定的AI場景，打造更多如邊緣向量數據庫、邊緣模型推理服務等創新產品，計劃面向公衆開放。

屆時，企業將能夠輕鬆集成公共或自有模型，通過邊緣AI網關合理管控模型應用，並獲取多模型運行數據。同時，他們還可以與邊緣函數、邊緣KV存儲、應用引擎等組合使用，靈活構建和擴展邊緣AI應用，執行智能問答、內容創作、檢索增強、圖片識別等多樣化的AI任務。

隨着AI時代的不斷髮展，網宿科技在AI領域的能力佈局將持續深化。曾智全表示，網宿科技將致力於構建更加敏捷、適應性更強、更安全的AI生態系統，讓更多企業都能擁抱AI，並從中獲得創新與增長。