【環球網科技綜合報道】8月7日消息,月之暗面旗下Kimi開放平臺宣佈了一項重大價格調整政策,針對其上下文緩存(Context Caching)功能,將Cache存儲費用直接降價50%。
據官方介紹,上下文緩存作爲一種高效的數據管理技術,自公測以來便以其顯著降低使用成本和提升模型響應速度的優勢,贏得了衆多開發者的青睞。該技術允許系統預先存儲可能會被頻繁請求的大量數據或信息,從而在用戶再次請求相同信息時,能夠直接從緩存中快速提供,避免了重複計算和數據檢索的過程,極大地節省了時間和資源。
官方表示,在保持API價格不變的前提下,通過降低Cache存儲費用,開發者在使用長文本旗艦大模型時將能夠享受到更加實惠的價格,進一步激發市場活力。
據悉,降價後的上下文緩存收費模式依然清晰透明,主要包括Cache創建費用、存儲費用以及調用費用三個部分。其中,Cache創建費用按照實際存儲的Tokens量計費;存儲費用在Cache存活時間內按分鐘收取,降價後費用將直接減半;而調用費用則根據用戶通過chat接口請求已創建成功的Cache次數進行收取,若請求內容與存活中的Cache匹配成功,將按調用次數計費。
業內認爲,此次降價政策的實施,預計將爲衆多開發者帶來實質性的成本節約,同時也將推動上下文緩存技術在更多業務場景中的應用。無論是提供大量預設內容的QA Bot、針對固定文檔集合的頻繁查詢工具,還是對靜態代碼庫或知識庫的週期性分析應用,都將從這一降價政策中受益,實現更高效、更經濟的模型運行。