當(dāng)前,全球科技革命與產(chǎn)業(yè)變革加速演進(jìn),人工智能(AI)正從“輔助工具”躍升為驅(qū)動(dòng)社會變革的核心引擎。國務(wù)院近日出臺《關(guān)于深入實(shí)施“人工智能+”行動(dòng)的意見》(以下簡稱《意見》),以六大重點(diǎn)行動(dòng)和八項(xiàng)基礎(chǔ)支撐促進(jìn)技術(shù)與應(yīng)用“雙向賦能”?!兑庖姟吠苿?dòng)AI深度融入科學(xué)研究、產(chǎn)業(yè)發(fā)展、民生改善等領(lǐng)域,積極規(guī)劃AI在安全治理方面的應(yīng)用,為智能化時(shí)代治理現(xiàn)代化布局“中國方案”。
從“賦能變量”到“發(fā)展增量”的戰(zhàn)略躍升
《意見》推動(dòng)AI成為高質(zhì)量發(fā)展的“關(guān)鍵增量”,其核心價(jià)值突出體現(xiàn)在賦能、減負(fù)、提質(zhì)、增效4個(gè)維度。
AI賦能的新領(lǐng)域:拓展科學(xué)研究的“認(rèn)知邊界”——AI正成為基礎(chǔ)研究的“加速器”,如阿爾法折疊(AlphaFold)破解了困擾科學(xué)界半個(gè)世紀(jì)的蛋白質(zhì)折疊難題?!兑庖姟肪劢箛鴥?nèi)需求,支持科研范式轉(zhuǎn)型,加速創(chuàng)新成果轉(zhuǎn)化,推動(dòng)AI+賦能產(chǎn)業(yè)發(fā)展,新業(yè)態(tài)、新優(yōu)勢、新模式走進(jìn)千行百業(yè),惠及千家萬戶。
工作減負(fù)的新手段:釋放“效率紅利”——AI通過自動(dòng)化技術(shù)將人們從危險(xiǎn)繁重的工作中解放出來,創(chuàng)造更多更好的智能化就業(yè)機(jī)會和工作方式?!兑庖姟逢P(guān)注民生,提振消費(fèi),生動(dòng)詮釋了“以人民為中心”的理念——技術(shù)進(jìn)步的最終目的是讓人民更幸福,讓生活更便捷。
提高質(zhì)量的新途徑:強(qiáng)化重點(diǎn)領(lǐng)域的“增長動(dòng)能”——智能制造中,車企通過AI維護(hù)系統(tǒng)將設(shè)備故障率降低20%;在教育領(lǐng)域,AI學(xué)習(xí)系統(tǒng)根據(jù)學(xué)生實(shí)際定制學(xué)習(xí)路徑;醫(yī)療領(lǐng)域,AI成為醫(yī)生的“智能助手”?!兑庖姟穼Ξa(chǎn)業(yè)及教育、醫(yī)療、消費(fèi)等民生領(lǐng)域的精準(zhǔn)支持,體現(xiàn)了技術(shù)應(yīng)用的普惠性與實(shí)踐性。
增加效益的新方式:推進(jìn)治理能力的“精準(zhǔn)提升”——社會治理領(lǐng)域,讓AI多思考,讓群眾少煩惱;安全治理領(lǐng)域,智慧警務(wù),動(dòng)態(tài)防控,應(yīng)急效率大幅提升;生態(tài)治理領(lǐng)域,實(shí)時(shí)監(jiān)測,模擬推演,人與自然和諧共生?!兑庖姟窞閲抑卫眢w系和能力現(xiàn)代化加裝AI新引擎。
綜上,《意見》緊扣全球科技趨勢,以戰(zhàn)略性布局引領(lǐng)方向、科學(xué)性設(shè)計(jì)推動(dòng)融合、指導(dǎo)性舉措明確路徑、及時(shí)性部署搶抓機(jī)遇,為AI高質(zhì)量發(fā)展與應(yīng)用提供了堅(jiān)實(shí)支撐。
從“技術(shù)紅利”到“安全可控”的系統(tǒng)考慮
《意見》將“堅(jiān)持安全可控”作為四項(xiàng)基本原則之一,要求著力防范AI引發(fā)的安全風(fēng)險(xiǎn)。
模型的內(nèi)在風(fēng)險(xiǎn):技術(shù)局限帶來的“不可控性”——當(dāng)前大模型的“黑箱”特征顯著:不可解釋性導(dǎo)致決策邏輯難被理解、魯棒性不足使其易受對抗攻擊、幻覺問題會生成虛假但看似合理的內(nèi)容。這些缺陷若不加約束,AI可能從工具異化為風(fēng)險(xiǎn)源。
新型的倫理挑戰(zhàn):價(jià)值沖突下的“認(rèn)知危機(jī)”——AI的價(jià)值觀本質(zhì)上是數(shù)據(jù)的投射,訓(xùn)練數(shù)據(jù)中的偏見會被模型放大。更隱蔽的是,AI可能無意識地傳播與主流價(jià)值觀相悖的內(nèi)容,成為社會負(fù)面情緒的“放大器”,影響社會和諧穩(wěn)定。
衍生的應(yīng)用風(fēng)險(xiǎn):數(shù)字空間的“新型威脅”——深度偽造技術(shù)可生成以假亂真的音視頻,源于AI對海量數(shù)據(jù)依賴的隱私泄露風(fēng)險(xiǎn),AI驅(qū)動(dòng)的網(wǎng)絡(luò)攻擊……這些風(fēng)險(xiǎn)直接威脅著個(gè)人安全與社會穩(wěn)定。
需要強(qiáng)調(diào)的是,這些安全風(fēng)險(xiǎn)并非AI技術(shù)發(fā)展的終點(diǎn),而是發(fā)展過程中的階段性挑戰(zhàn)。隨著可解釋性、安全對齊、風(fēng)險(xiǎn)測評等技術(shù)的快速發(fā)展,這些風(fēng)險(xiǎn)將得到系統(tǒng)性解決。
從“單點(diǎn)防控”到“多元協(xié)同”的治理創(chuàng)新
為統(tǒng)籌發(fā)展與安全,《意見》明確要求“構(gòu)建安全治理新體系,開創(chuàng)多元共治新格局”,通過制度完善、技術(shù)賦能、生態(tài)協(xié)同,為AI健康發(fā)展筑牢安全保障防線。
構(gòu)建“四位一體”協(xié)同治理體系。一是完善法律法規(guī)體系,探索鼓勵(lì)創(chuàng)新與風(fēng)險(xiǎn)防控并重的政策機(jī)制,審慎包容制定促進(jìn)健康發(fā)展的管理規(guī)范;二是構(gòu)建多元公共安全體系,覆蓋自然人、機(jī)器人、數(shù)字人等主體,確保人機(jī)交互安全穩(wěn)妥,形成動(dòng)態(tài)敏捷的治理格局;三是建設(shè)“人機(jī)物”融合的網(wǎng)絡(luò)空間治理體系,細(xì)化監(jiān)管規(guī)則,通過智能化平臺提升內(nèi)容審核與風(fēng)險(xiǎn)處置能力;四是建立人機(jī)協(xié)作的智能應(yīng)急體系,利用AI輔助決策提升防災(zāi)救援效率。
提升四大領(lǐng)域安全治理能力。技術(shù)安全方面,融入原生能力筑牢安全根基,開發(fā)可解釋AI技術(shù)讓決策過程透明化;通過對抗訓(xùn)練與多場景測試提升模型抗攻擊能力和魯棒性;針對幻覺問題,研發(fā)內(nèi)容真實(shí)性檢測算法降低虛假信息風(fēng)險(xiǎn)。倫理安全方面,強(qiáng)化對齊技術(shù),打造安全護(hù)欄。內(nèi)在價(jià)值對齊方面,通過強(qiáng)化學(xué)習(xí)將中華優(yōu)秀傳統(tǒng)文化與社會主義核心價(jià)值觀嵌入模型,引導(dǎo)生成內(nèi)容傳承中華血脈;外在安全護(hù)欄方面,優(yōu)化內(nèi)容審核與行為約束技術(shù),確保輸出文本符合主流道德。應(yīng)用安全方面,指導(dǎo)重點(diǎn)領(lǐng)域,完善安全保障。制定涵蓋數(shù)據(jù)保密、網(wǎng)絡(luò)安全、供應(yīng)鏈安全等環(huán)節(jié)的安全管理辦法;引導(dǎo)安全行業(yè)加快數(shù)智轉(zhuǎn)型,打造忠誠可靠的智能安全服務(wù)大軍;對社會公眾,通過安全意識培訓(xùn)和“AI安全周”等科普活動(dòng)提升風(fēng)險(xiǎn)意識。國家安全方面,統(tǒng)籌國際國內(nèi),突破重點(diǎn)難點(diǎn)。國內(nèi)層面,加快建設(shè)全維度安全測評體系,支撐技術(shù)自主可控;國際層面,參與全球治理規(guī)則和技術(shù)標(biāo)準(zhǔn)制定,推動(dòng)“智能向上向善”的人類命運(yùn)共同體理念走深走實(shí)。
《意見》統(tǒng)籌“賦能”與“安全”,是我國搶抓科技革命機(jī)遇、推動(dòng)高質(zhì)量發(fā)展的戰(zhàn)略舉措。我們有信心通過技術(shù)創(chuàng)新和治理創(chuàng)新,有效管控和防范風(fēng)險(xiǎn),為建設(shè)智能、包容、安全的未來貢獻(xiàn)力量。