需加重視的潛在風(fēng)險(xiǎn)

近期多項(xiàng)研究發(fā)現(xiàn),，近90%私有化部署的服務(wù)器在互聯(lián)網(wǎng)上“裸奔”,，部分模型本身也容易被攻擊，存在安全漏洞,。目前個(gè)別單位所謂的“設(shè)防”也只是簡(jiǎn)單地設(shè)置密碼，易被攻破,，個(gè)別單位甚至連防護(hù)密碼都沒有,。可以預(yù)見,，未來(lái)隨著大模型普及使用,，有針對(duì)性的惡意手段和風(fēng)險(xiǎn)場(chǎng)景勢(shì)必激增。因此,，網(wǎng)絡(luò)安全防護(hù)必須與技術(shù)發(fā)展同步迭代,。

——敏感數(shù)據(jù)安全問(wèn)題。大模型在訓(xùn)練,、推理,、使用過(guò)程中會(huì)涉及海量數(shù)據(jù)，如用戶在輸入數(shù)據(jù)時(shí)不當(dāng)存儲(chǔ)和處理,，特別是違規(guī)在未設(shè)防模型中處理涉密數(shù)據(jù),、個(gè)人隱私數(shù)據(jù)、商業(yè)敏感數(shù)據(jù)時(shí),，存在數(shù)據(jù)被非法獲取,、泄露風(fēng)險(xiǎn)。

——關(guān)鍵領(lǐng)域安全問(wèn)題,。人工智能離不開高科技設(shè)備,，如這類設(shè)備被植入后門程序會(huì)讓智能工廠、金融機(jī)構(gòu),、能源設(shè)施等關(guān)鍵領(lǐng)域面臨風(fēng)險(xiǎn),。違法犯罪分子如惡意利用大模型部署的安全漏洞破壞相關(guān)系統(tǒng)，將可能導(dǎo)致公共服務(wù)中斷、企業(yè)經(jīng)濟(jì)損失,、安全事故頻發(fā)等惡性事件,，干擾經(jīng)濟(jì)正常運(yùn)轉(zhuǎn)和社會(huì)有序運(yùn)行。

——侵犯用戶利益,。普通用戶如未加防護(hù)使用大模型服務(wù)工具,，攻擊者也可以遠(yuǎn)程調(diào)用接口竊取模型參數(shù)、訓(xùn)練數(shù)據(jù),、知識(shí)庫(kù)等核心資產(chǎn),，或刪除、污染私有模型文件,，導(dǎo)致模型失效或輸出偏差,。同時(shí)，攻擊者可通過(guò)未授權(quán)的接口調(diào)用模型推理功能,，濫用GPU資源,。如處理數(shù)據(jù)量過(guò)大，大模型服務(wù)器就會(huì)因算力耗盡導(dǎo)致癱瘓,。

大模型安全風(fēng)險(xiǎn)的產(chǎn)生原因

——開源框架存在不足,。許多單位為了快速上線服務(wù)，直接使用開源框架,，默認(rèn)開啟不設(shè)密碼的公網(wǎng)訪問(wèn)模式,，不配置合理的安全防護(hù)措施，忽略最基本的防火墻配置,。攻擊者未經(jīng)授權(quán)即可自由訪問(wèn)模型服務(wù),、竊取敏感數(shù)據(jù)，甚至通過(guò)歷史漏洞執(zhí)行惡意指令,，從而導(dǎo)致數(shù)據(jù)泄露和服務(wù)中斷,。

——風(fēng)險(xiǎn)意識(shí)存在欠缺。部分管理者對(duì)AI安全的認(rèn)知相對(duì)滯后,，部分群眾認(rèn)為“安全是專家的事”,，不了解部署AI服務(wù)需要像保護(hù)銀行卡密碼一樣謹(jǐn)慎，在享受AI帶來(lái)便利時(shí)未考慮背后隱藏的風(fēng)險(xiǎn),。

——安防教育有待加強(qiáng),。一些企事業(yè)單位缺乏必要的安全防范教育，導(dǎo)致員工國(guó)家安全意識(shí)和素養(yǎng)不高,，安全防范意識(shí)不強(qiáng),，對(duì)于大模型缺乏用心管理，安防教育缺乏必要的認(rèn)識(shí),。

——專門法律存在空白,。我國(guó)近年來(lái)已經(jīng)出臺(tái)了多部關(guān)于人工智能和網(wǎng)絡(luò)數(shù)據(jù)方面的政策法規(guī)和指導(dǎo)意見,，但隨著人工智能迅猛發(fā)展，應(yīng)運(yùn)而生的法律問(wèn)題尚需進(jìn)一步完善相關(guān)立法,。

國(guó)家安全機(jī)關(guān)提示

大模型是推動(dòng)科技進(jìn)步的重要力量,，但其安全防護(hù)須臾不可松懈，無(wú)論是開發(fā)者,、企業(yè)還是普通用戶,，都應(yīng)提高警惕，共同守護(hù)技術(shù)紅利不被惡意利用,。

——做好安全防護(hù),，筑牢安全防范屏障。AI企業(yè)在開發(fā)和應(yīng)用大模型的過(guò)程中需重視自身應(yīng)承擔(dān)的安全責(zé)任和義務(wù),，可通過(guò)加強(qiáng)與安全廠商聯(lián)系合作,，以嚴(yán)密的安全技術(shù)保障和運(yùn)行監(jiān)測(cè)，強(qiáng)化大模型運(yùn)行時(shí)的安全性,、可靠性和穩(wěn)定性,。

——培養(yǎng)安全意識(shí)，打造協(xié)同防御生態(tài),。單位,、企業(yè)在部署大模型前，需要進(jìn)行全面的風(fēng)險(xiǎn)評(píng)估和安全規(guī)劃,，通過(guò)制定安全政策、開展安全培訓(xùn)等方式,，提高全員安全意識(shí),。廣大民眾要增強(qiáng)大模型使用的安全意識(shí)，注意學(xué)習(xí)相關(guān)安全知識(shí),，養(yǎng)成良好使用習(xí)慣,，選擇從官方渠道下載大模型工具，使用時(shí)不要隨意連接陌生網(wǎng)絡(luò),，確保大模型應(yīng)用安全穩(wěn)定,。

（編輯：映雪 ）

---