在北京舉辦的一場以“大模型時代：安全如何洗牌”為主題的TVP AI與安全高峰論壇上，來自安全領域的頂尖專家和行業領袖匯聚一堂，共同探討了大模型技術給安全行業帶來的深刻變革與挑戰。此次論壇由騰訊云TVP和中國計算機學會（CCF）聯合主辦，旨在通過深入的技術交流和思想碰撞，為安全行業的未來發展提供新的思路和方向。

論壇開場，賽博英杰科技創始人兼CEO譚曉生表示，隨著人工智能技術的飛速發展，尤其是ChatGPT等大模型的推出，安全行業正面臨前所未有的機遇與挑戰。他指出，開發者和企業在利用新技術提升安全能力的同時，也必須關注新技術本身的安全問題，這是一個與十年前大數據概念興起時相似的經歷。

騰訊安全副總裁董志強在致辭中強調，大模型技術正在重構網絡安全戰場。他指出，攻擊者利用大模型技術使得攻擊手段更加工業化且成本降低，而防御方則相對滯后，這加劇了攻防不對稱，增加了防御難度。大模型在訓練和部署階段也面臨數據脫敏、越權訪問等安全隱患。針對這些問題，董志強建議使用小模型或專用安全模型，并加強合規管理措施。

論壇上半場圍繞“AI賦能安全”展開，深信服科技AI安全業務總經理張振禮分享了AI如何推動安全能力升級的實踐探索。他提出，安全領域需要統一規劃大模型算力，實現各類場景的適配；同時，安全大模型需要具備快速融合和集成優秀基礎模型的能力。張振禮還介紹了深信服在AI安全領域的落地實踐，如開發基于AI的安全助手和提供AI安全培訓體系。

安恒信息高級副總裁王欣則聚焦于AI智能體的發展，他認為智能體與網絡安全體系的融合將是未來的發展趨勢。通過引入智能中臺，實現數據、知識、情報及安全產品的整合，可以應對各類安全場景，提升整體安全效能和響應速度。王欣還分享了AI智能體給行業帶來的變革，如業務專家角色的轉變和智能體在任務調度與執行中的重要作用。

360集團首席科學家潘劍鋒在演講中探討了安全大模型的發展路徑。他提出，當前大模型主要模擬人腦的“快思考”，而在需要本質性理解的“慢思考”場景中，大模型仍有待提升。潘劍鋒分享了360在安全語料生產、模型分區訓練和慢思考實現方面的實踐經驗，旨在通過持續探索提升大模型在安全領域的效能。

騰訊安全副總裁吳石則介紹了騰訊在AI+安全方面的研究與實踐。他強調，大模型雖然提升了威脅檢測效率與安全防護能力，但仍存在處理低頻威脅、對抗性樣本防御及實時決策等方面的性能瓶頸。吳石分享了騰訊通過優化prompt、利用外掛知識庫和數據庫以及開發Agent等方式提升大模型安全能力的經驗。

在下午的論壇中，北京大學人工智能研究院助理教授楊耀東就“大模型的安全價值對齊”問題發表了演講。他指出，確保大模型符合人們的價值觀和意圖是一個重要挑戰，當前的對齊工作主要以強化學習為主，但仍面臨模型抗拒對齊等問題。楊耀東提出了通過事前Moderation、事中數據對齊和事后后置對齊器等方式提升模型安全性的思路。

Certik首席安全官李康、中國科學院信息工程研究所主任陳愷、火山引擎大模型應用防火墻產品負責人鄭炎亭以及中國科學院計算技術研究所實驗室主任曹娟等專家也分別就AI系統的安全風險、AI模型的安全性分析、大模型應用落地的安全風險與防護實踐以及AIGC內容安全治理趨勢與實踐等議題進行了深入探討。

論壇還設置了分組討論和觀點PK環節，數十位專家圍繞大模型時代安全行業的發展方向、安全大模型的選擇策略以及隱私敏感場景下大模型的使用等熱點問題展開了激烈討論。通過思想交流與碰撞，與會者共同探索了AI與安全共生發展的新模式。