2024年4月，在中國軟件評測中心（工業和信息化部軟件與集成電路促進中心）聯合數據安全關鍵技術與產業應用評價工業和信息化部重點實驗室、中國計算機行業協會數據安全專業委員會開展的大模型安全性測評“磐石·X”榜單計劃中，天融信天問大模型順利通過了五大維度測評，獲得A級證書，成為首批通過大模型安全性測評“磐石·X”榜單計劃的單位之一。

本次“磐石·Y”大模型安全實踐優秀案例分享，從多角度、全方位、立體式呈現大模型安全防護方案，為更多行業用戶在大模型產品選型提供重要參考，護航大模型的高質量發展。

天融信天問大模型

天問大模型使用高質量數據進行增量預訓練、微調和人工對齊等操作，同時結合RAG、思維鏈等技術，大幅降低了幻覺、偏執等大模型內容安全問題。采用關鍵字過濾、規則匹配、模型檢測等多種技術手段，防護大模型輸入提示詞和輸出響應內容，確保天問大模型在網絡安全、數據安全、內容安全、模型安全和提示安全等方面達到先進水平。

天融信持續推動天問大模型在研發、應用、部署、運營、管理和服務等方面的工程化進程，將AI技術與行業實踐深度融合。在檢測防護方面，研發的TAI系列智慧引擎，廣泛應用于天融信多款檢測和防護產品中，通過智慧引擎整體提升檢測效果，既能檢測各種傳統攻擊行為，也能夠檢測未知威脅，提高整體的安全檢測能力，大幅提高安全檢測的效率和準確性。在大數據防護方面，可為運維工程師創建安全分析模型提供有力引導，通過自然語言輸入，如描述安全事件或提出創建分析檢測需求，大模型能快速分析并提取關鍵特征和模式，為運維人員提供有價值的參考和啟示。在智能交互方面，提供智能問答能力，提升產品風險分析能力和處置效率，降低產品應用門檻；并提供面向各行業客戶推出的安全問答與能力訂閱服務。

安全解決方案

天融信天問大模型支持云端部署，并以云服務方式提供外部使用，為了防止模型被濫用或惡意利用，天融信提出了前后端聯合的安全防護方案，整體防護架構如下：

天問大模型防護方案由大模型系統前端接入防護和大模型系統后端安全加固兩部分構成。前端接入防護主要實現大模型安全接入和數據泄露防護。后端安全加固實現對大模型系統核心軟硬件威脅檢測與分析、系統操作安全審計及容災備份功能。天融信API安全網關可以提供流量管控、身份認證、訪問控制、API檢測等功能，可以有效拒絕非法訪問用戶和流量。天融信數據防泄漏可以提供prompt注入檢測、敏感詞過濾、隱私信息過濾、基于語義的內容檢測等功能，實現大模型輸入輸出內容的敏感數據識別、攔截。除上述安全防護措施外，天問大模型系統還引入人工審查機制，保障大模型輸入輸出的內容安全性，降低不良信息輸入和輸出概率。

成果與效益

天融信天問大模型的惡意域名監測智慧引擎在某運營商試點項目中運用，監測到IPv6下DGA惡意域名5672個，涉及DGA家族超過12種，監測捕獲到IPv6環境下僵尸網絡32個，預計每年能帶來2144萬元的經濟效益。對IPv6 DNS日志進行基于人工智能神經網絡技術的檢測分析，填補了維護IPv6 DNS服務安全的空白，有效地遏制了IPv6環境下網絡安全風險的蔓延，有力地防范了新互聯網環境下的未知風險。

實踐經驗總結

天融信將安全性視為天問大模型的核心需求。天問大模型系統在對外提供服務時，全生命周期中都可能存在安全風險，包括：輸入輸出風險、外部工具風險、軟件平臺風險、硬件平臺風險、AI模型文件風險、訓練語料風險、系統管理和運營風險等。

為此，天融信將在現有安全防護基礎上，圍繞天問大模型系統，打造大模型全生命周期安全防護體系，不斷優化和改進現有大模型安全防護技術手段，推動大模型安全管理相關工作，構建完整的安全管理體系，保障天問大模型系統的安全性、可靠性和大模型服務運營合規化。

（來源 ：中國數據安全產業網）