7月31日，第十二屆互聯網安全大會（ISC.AI 2024）數字安全峯會在北京召開。峯會以“打造安全大模型，引領安全行業革命”爲主題，呼籲行業以大模型重塑安全體系，守護數字經濟穩健發展。大會匯聚了多位院士專家，以及360、華爲、微軟等國內外企業領袖，深入剖析人工智能技術發展帶來的安全挑戰與解決方案，共同探索安全大模型驅動數字安全發展新路徑。

人工智能安全問題不容忽視，亟須產研攜手共探新解法。人工智能技術的廣泛應用正推動各行各業轉型升級，同時爲安全行業的發展注入了強勁動力。中國工程院院士吳世忠表示，由AI技術帶來的新型安全問題已成爲現實，安全行業將迅速邁進AI驅動的新時代。然而，大模型安全研究可以說剛剛開始。無論是安全研究還是安全產業，都必須緊跟科技進步和應用創新，才能服務好發展、保障好發展。

“當前，AI應用系統安全責任與風險嚴重失衡。”中國工程院院士、國家數字交換系統工程技術研究中心（NDSC）主任鄔江興強調了當前AI系統面臨的窘境。他提出，基於內生安全架構可發現或糾正AI應用系統安全問題，AI應用系統中必須包含必要多樣性和相對正確公理的內生安全構造，在不可信的過程中找到相對可信的結果。智能時代需要選擇正確的技術路徑，實現更安全的AI應用系統。

隨着人工智能技術的飛速發展，所有行業和產品都在被重塑，安全行業同樣面臨着一場革命。360集團創始人、ISC大會主席周鴻禕表示，用AI重塑安全的本質是讓安全做到“自動駕駛”，360首推安全大模型，爲購買360標準產品的用戶免費提供大模型標準能力，實現大模型普惠和安全行業新質生產力變革。作爲兼具數字安全能力和AI技術雙重優勢的廠商，360基於深厚的全棧大模型底層技術、世界上規模最大的安全知識庫、亞洲最大的高級安全專家團隊和多領域全覆蓋、強實戰的安全場景能力，打造了國內首個安全大模型“360安全大模型”，並在終端、安全運營、安全服務等諸多業務場景落地實踐。目前360全線安全產品已集成安全大模型能力，併爲所有購買360標準產品的用戶免費提供大模型標準能力。

隨着生成式人工智能驅動AI發展進入新階段，AI治理隨之也成爲一個突出問題。先進計算與關鍵軟件（信創）海河實驗室主任、中國新一代人工智能發展戰略研究院執行院長龔克在演講中指出，AI治理應遵循有利發展、爲人服務和基於倫理三點原則，要清楚認識到技術自身的不足，以及人對於AI技術的惡用、濫用、誤用等風險。他強調，防止AI“作惡”要建立明確的倫理標準、提高透明度、加強問責、完善法律法規、內置安全機制等。此外，要堅持開放創新，在信創基礎上發展安全可控的AI生態。 （蘇德悅）