AI技術(shù)正以前所未有的速度融入千行百業(yè)。越來越多的機(jī)關(guān)、企事業(yè)單位開始推進(jìn)大模型私有化部署，廣泛應(yīng)用于企業(yè)辦公、科技研發(fā)、公共服務(wù)等領(lǐng)域。但與此同時(shí)，其背后的安全隱患也逐漸凸顯。近期多項(xiàng)研究發(fā)現(xiàn)，近90%私有化部署的服務(wù)器在互聯(lián)網(wǎng)上“裸奔”，部分模型本身也容易被攻擊，存在安全漏洞。
對于數(shù)據(jù)安全的定義，有專家指出：“狹義的數(shù)據(jù)安全是免受篡改和破壞，但是廣義的數(shù)據(jù)安全包括數(shù)據(jù)的可靠性、安全性、服務(wù)內(nèi)容的安全性。”在人工智能時(shí)代，數(shù)據(jù)安全的內(nèi)涵還在不斷拓展。AI技術(shù)讓企業(yè)、個(gè)人享受到了前所未有的便利，但同時(shí)也帶來了更大的數(shù)據(jù)安全挑戰(zhàn)。首先，在訓(xùn)練大模型的過程中，就涉及海量數(shù)據(jù)，如果處理不當(dāng)或者違規(guī)在未設(shè)防模型中處理涉密數(shù)據(jù)、個(gè)人隱私數(shù)據(jù)、商業(yè)敏感數(shù)據(jù)等，就很可能導(dǎo)致數(shù)據(jù)被非法獲取、泄露。而在數(shù)據(jù)收集后的處理環(huán)節(jié)，若犯罪分子惡意利用大模型部署的安全漏洞破壞相關(guān)系統(tǒng)，或者注入惡意數(shù)據(jù)影響模型準(zhǔn)確性，將可能導(dǎo)致公共服務(wù)中斷、企業(yè)經(jīng)濟(jì)損失、安全事故頻發(fā)等，干擾經(jīng)濟(jì)正常運(yùn)轉(zhuǎn)和社會有序運(yùn)行。
事實(shí)上，為了保證數(shù)據(jù)安全，已有不少技術(shù)手段應(yīng)運(yùn)而生，如數(shù)據(jù)加密、訪問控制、多因素認(rèn)證機(jī)制、模型水印技術(shù)等。還有一些企業(yè)開始以AI“對抗”AI，通過機(jī)器學(xué)習(xí)等方式識別安全風(fēng)險(xiǎn)，實(shí)現(xiàn)快速響應(yīng)。但與此同時(shí)，部分管理者對AI安全的認(rèn)知相對滯后、風(fēng)險(xiǎn)意識淡薄、單位安全防范教育缺失等，也給數(shù)據(jù)安全埋下了不少隱患。比如，在使用開源框架上線服務(wù)時(shí)，為了追求速度就默認(rèn)開啟不設(shè)密碼的公網(wǎng)訪問模式，不配置合理的安全防護(hù)措施，忽略了最基本的防火墻配置——這就好比把不設(shè)密碼的保險(xiǎn)箱隨意放在大街上，“攻擊者”不費(fèi)吹灰之力便能竊取里面的重要數(shù)據(jù)。此外，雖然我國已出臺多部關(guān)于人工智能和網(wǎng)絡(luò)數(shù)據(jù)的政策法規(guī)，但面對快速發(fā)展的人工智能，相關(guān)法律還存在一定空白，尚需進(jìn)一步健全完善。
技術(shù)發(fā)展得越快，安全保障的需求就越迫切。當(dāng)AI技術(shù)飛速“狂奔”，無論是開發(fā)者、企業(yè)還是普通用戶，都更應(yīng)提高警惕，共同筑牢AI大模型“安全墻”。在技術(shù)層面，AI企業(yè)要主動承擔(dān)安全責(zé)任，提高技術(shù)水平，利用先進(jìn)的安全技術(shù)保障和運(yùn)行監(jiān)測，讓大模型運(yùn)行更安全、可靠、穩(wěn)定。在安全意識上，企業(yè)在部署大模型前，必須做好全面風(fēng)險(xiǎn)評估和安全規(guī)劃，制定安全方案，自覺開展安全培訓(xùn)，避免因工作失誤導(dǎo)致安全事故。從規(guī)范層面看，有必要以詳細(xì)、具體的法律法規(guī)明確數(shù)據(jù)使用的范圍、統(tǒng)一AI安全認(rèn)證的標(biāo)準(zhǔn)和規(guī)范等，為AI數(shù)據(jù)安全提供法治支撐。
AI大模型的應(yīng)用場景仍在不斷拓展，唯有時(shí)刻保持警惕、不斷創(chuàng)新，才能為AI大模型穿上更有效的“防護(hù)服”，進(jìn)一步筑牢安全基座。
(編輯： 吳嘉祺)
