中新網北京3月6日電(記者 吳濤)隨著人工智能大模型的發(fā)展，大模型數據安全和自身安全問題越來越受到重視。全國政協(xié)委員、全國工商聯(lián)副主席、奇安信科技集團董事長齊向東建議，開展體系化的大模型安全防護，落實《生成式人工智能服務安全基本要求》，筑牢人工智能安全防線。
齊向東表示，以大模型為核心的人工智能技術是創(chuàng)新范式變革與產業(yè)升級的關鍵引擎，然而技術躍升與安全風險始終伴生演進。人工智能大模型面臨四大安全挑戰(zhàn)，包括數據安全挑戰(zhàn)、應用安全挑戰(zhàn)、基礎環(huán)境安全挑戰(zhàn)和大模型自身安全挑戰(zhàn)。
“以數據安全挑戰(zhàn)為例，大模型在訓練、推理、使用過程中涉及海量數據，通過數據投毒、數據污染等手段，會使大模型輸出背離主流價值觀或包含事實性錯誤的內容。一些不法分子還會借助提示詞注入、劫持、爬蟲等手段，竊取大模型用戶重要信息、敏感數據?！饼R向東稱。
齊向東建議，從技術層面全面排查加固人工智能大模型基礎設施，構建大模型紅域，打造適用于人工智能的縱深防御體系，形成覆蓋終端、應用、數據、大模型、算力與基礎設施的多維度核心防護能力。同時，給予威脅情報、大網數據監(jiān)測等情報賦能，有效抵御針對大模型的新型攻擊和惡意訪問，實現“對外防攻擊、對內防內鬼”。
齊向東還建議重點打造大模型數據安全“雙控機制”，保障大模型穩(wěn)定運行。對大模型數據輸入側及輸出側開展有效管控，確保大模型數據安全、內容安全、應用安全。要求部署大模型的關鍵信息基礎設施運營單位在網絡和數據安全建設上的投入比例不低于信息化建設的15%。(完)