【環球網科技報道 記者 李文瑤】根據Gartner的最新預測，2024年全球終端用戶在公有云服務上的支出預計將達到6754億美元，較2023年的5610億美元增長20.4%。推動這一增長的兩大因素是生成式人工智能（GenAI）和應用現代化改造。

其中，生成式AI正在成爲任何人都無法忽視的生產力變量。在它的面前，以往的知識與技能壁壘開始鬆動甚至坍塌，併爲各領域機構的創新帶來新的無窮可能性。

由此而來的是，企業利用生成式AI進行業務創新的同時也不免面臨新的隱憂。例如，企業或機構向生成式AI模型提供數據——很可能是涉及核心業務及客戶信息等關鍵數據——是否能被妥善地保管、使用，及進行必要的隔離；還有生成式AI的一些“固有問題”，如怎樣實現負責任的AI，過濾有害內容，確保內容符合當地及企業政策等問題……

生成式AI帶來全新安全挑戰

生成式AI時代，數據安全不僅是技術挑戰，更是企業能否合規、信任、競爭力、創新與生存基石。

通常情況下，規模化生成式AI應用都發生在雲端，更多企業機構也將依賴於雲開展生成式AI的業務創新。因此，我們可以將生成式AI的安全話題，看作是對雲計算安全提出的新挑戰。

對此，亞馬遜首席安全官Steve Schmidt在接受《華爾街日報》採訪時表示，企業爲了安全地使用生成式AI，首先應考慮三個問題：

第一個是考慮數據在哪裏？企業需要知道用數據訓練模型的整個工作流程中，這些數據來自哪，以及是如何被處理和保護的。

第二個是考慮如何處理模型推理時的輸入和輸出數據？訓練數據並不是企業需要關注的唯一敏感數據集，企業查詢本身也應該成爲數據保護計劃的一部分。

第三個是考慮生成式AI模型的輸出是否準確？不同的生成式AI的使用場景對準確度和風險的要求不同。如果企業正在使用大型語言模型來生成代碼，那麼企業就必須要確認這個代碼是否寫得足夠好，是否遵循了企業的最佳實踐等等。

Steve Schmidt認爲，在最開始階段編寫更加安全的代碼是生成式AI帶來的重大影響，對任何企業包括亞馬遜都是如此。從安全和成本的角度來看，一開始就編寫安全的代碼，比在編寫完成後、已經進行了集成測試，甚至交付給客戶後再去修改要好得多。可以說，代碼的編寫方式是信息安全中最大的槓桿因素之一，開始階段的小問題可能導致嚴重的安全後果，而生成式AI在這方面確實非常有幫助。Amazon Q Developer不僅能極大提升開發者的編碼效率，而且還能讓代碼更加安全。它內置了安全掃描功能，能夠掃描代碼以檢測難以發現的漏洞，並根據客戶的代碼，提供專屬修復建議，幫助開發者及時快速修復該漏洞。

而目前，亞馬遜雲科技對客戶生成式AI的保護始於其基礎設施。亞馬遜雲科技獨有的雲服務器虛擬化引擎Amazon Nitro將主機CPU/GPU的I/O功能卸載至專門的硬件上，不但提供了更加一致的性能，其增強的安全性可以在客戶端和雲端全程保護客戶的代碼和數據在處理過程中的安全。

Steve Schmidt說，“我認爲利用生成式AI提升安全代碼的編寫工作能夠有效地推動整個行業進入更高級別的安全領域。”

生成式AI的兩面性：帶來風險的同時也能防範風險

事實上，對於雲計算用戶來說，數據與隱私安全並非生成式AI帶來的“新話題”。但生成式AI也確實帶來了像“負責任的AI（Responsible AI）”這種AI時代獨有的安全考驗。當企業在使用Amazon Bedrock這類生成式AI服務時，不得不考慮過濾有害內容，確保內容符合當地及企業政策等問題。

爲此，從雲服務的角度來看，亞馬遜雲科技Amazon Bedrock配備了幫助客戶實施負責任AI的防護機制（Guardrails for Amazon Bedrock）。相比於一些AI大模型僅通過內部控制模塊來過濾內容，Amazon Bedrock的防護機制能讓客戶進一步定製AI應用程序，以便符合不同標準的內容政策。

值得關注的是，在雲環境中，生成式AI並不僅僅是“被保護者”，它本身也能成爲提升安全的強大工具，從業務初期就能揭示那些潛伏的、未被意識到的風險。

Steve Schmidt舉例稱，代碼編寫方式是信息安全中最大的變量之一，一些小問題就可能導致嚴重的安全後果。包括生成式AI模型本質上也是代碼，也可能因爲代碼編寫的漏洞而存在安全隱患。從安全角度來看，從一開始就編寫出安全的代碼，無疑比在編寫完成後，已經進行了測試，甚至已經交付後再去修改要好得多。

爲了幫助雲計算客戶達成符合安全需求的代碼編寫，亞馬遜雲科技將AI能力運用到代碼生成器上，以服務或功能的方式提供給客戶。一些原有的安全服務也正在逐漸通過生成式AI獲得新的功能。例如漏洞管理服務Amazon Inspector，它的Amazon Lambda函數代碼掃描功能從去年開始使用生成式AI和自動推理的輔助代碼修復，以簡化更新易受攻擊代碼的過程。Amazon Detective也在去年增加了使用生成式AI來構建安全事件描述的能力。生成式AI可以自動分析調查發現組並以自然語言提供洞察，幫助安全工程師加快安全調查。

Gartner預測，到2025年，生成式AI的採用將導致企業機構所需的網絡安全資源激增，使應用和數據安全支出增加15%以上。而這些基於生成式AI的創新服務和新的升級，爲安全工作創造了更便捷、更高效的新可能。