AI技術正以前所未有的速度融入千行百業(yè)。越來越多的機關、企事業(yè)單位開始推進大模型私有化部署，廣泛應用于企業(yè)辦公、科技研發(fā)、公共服務等領域。但與此同時，其背后的安全隱患也逐漸凸顯。近期多項研究發(fā)現(xiàn)，近90%私有化部署的服務器在互聯(lián)網(wǎng)上“裸奔”，部分模型本身也容易被攻擊，存在安全漏洞。

對于數(shù)據(jù)安全的定義，有專家指出：“狹義的數(shù)據(jù)安全是免受篡改和破壞，但是廣義的數(shù)據(jù)安全包括數(shù)據(jù)的可靠性、安全性、服務內容的安全性?！痹谌斯ぶ悄軙r代，數(shù)據(jù)安全的內涵還在不斷拓展。AI技術讓企業(yè)、個人享受到了前所未有的便利，但同時也帶來了更大的數(shù)據(jù)安全挑戰(zhàn)。首先，在訓練大模型的過程中，就涉及海量數(shù)據(jù)，如果處理不當或者違規(guī)在未設防模型中處理涉密數(shù)據(jù)、個人隱私數(shù)據(jù)、商業(yè)敏感數(shù)據(jù)等，就很可能導致數(shù)據(jù)被非法獲取、泄露。而在數(shù)據(jù)收集后的處理環(huán)節(jié)，若犯罪分子惡意利用大模型部署的安全漏洞破壞相關系統(tǒng)，或者注入惡意數(shù)據(jù)影響模型準確性，將可能導致公共服務中斷、企業(yè)經(jīng)濟損失、安全事故頻發(fā)等，干擾經(jīng)濟正常運轉和社會有序運行。

事實上，為了保證數(shù)據(jù)安全，已有不少技術手段應運而生，如數(shù)據(jù)加密、訪問控制、多因素認證機制、模型水印技術等。還有一些企業(yè)開始以AI“對抗”AI，通過機器學習等方式識別安全風險，實現(xiàn)快速響應。但與此同時，部分管理者對AI安全的認知相對滯后、風險意識淡薄、單位安全防范教育缺失等，也給數(shù)據(jù)安全埋下了不少隱患。比如，在使用開源框架上線服務時，為了追求速度就默認開啟不設密碼的公網(wǎng)訪問模式，不配置合理的安全防護措施，忽略了最基本的防火墻配置——這就好比把不設密碼的保險箱隨意放在大街上，“攻擊者”不費吹灰之力便能竊取里面的重要數(shù)據(jù)。此外，雖然我國已出臺多部關于人工智能和網(wǎng)絡數(shù)據(jù)的政策法規(guī)，但面對快速發(fā)展的人工智能，相關法律還存在一定空白，尚需進一步健全完善。

技術發(fā)展得越快，安全保障的需求就越迫切。當AI技術飛速“狂奔”，無論是開發(fā)者、企業(yè)還是普通用戶，都更應提高警惕，共同筑牢AI大模型“安全墻”。在技術層面，AI企業(yè)要主動承擔安全責任，提高技術水平，利用先進的安全技術保障和運行監(jiān)測，讓大模型運行更安全、可靠、穩(wěn)定。在安全意識上，企業(yè)在部署大模型前，必須做好全面風險評估和安全規(guī)劃，制定安全方案，自覺開展安全培訓，避免因工作失誤導致安全事故。從規(guī)范層面看，有必要以詳細、具體的法律法規(guī)明確數(shù)據(jù)使用的范圍、統(tǒng)一AI安全認證的標準和規(guī)范等，為AI數(shù)據(jù)安全提供法治支撐。

AI大模型的應用場景仍在不斷拓展，唯有時刻保持警惕、不斷創(chuàng)新，才能為AI大模型穿上更有效的“防護服”，進一步筑牢安全基座。