欧美在线日韩-欧美在线区-欧美在线看欧美视频免费网站-欧美在线精品一区二区在线观看-www..com黄-vr专区日韩精品中文字幕

《法治周末》記者 仇飛

3月5日，國(guó)務(wù)院總理李強(qiáng)在政府工作報(bào)告中指出，持續(xù)推進(jìn)“人工智能+”行動(dòng)，將數(shù)字技術(shù)與制造優(yōu)勢(shì)、市場(chǎng)優(yōu)勢(shì)更好結(jié)合起來(lái)，支持大模型廣泛應(yīng)用，大力發(fā)展智能網(wǎng)聯(lián)新能源汽車、人工智能手機(jī)和電腦、智能機(jī)器人等新一代智能終端以及智能制造裝備。

當(dāng)前，“人工智能+”行動(dòng)正在如火如荼地開(kāi)展，以大模型為代表的人工智能技術(shù)深刻重塑著生產(chǎn)生活方式和科技創(chuàng)新模式，賦能千行百業(yè)。然而，人工智能也有“成長(zhǎng)”的煩惱，隨著人工智能技術(shù)的深度應(yīng)用，大模型所面臨和帶來(lái)的安全挑戰(zhàn)也日益嚴(yán)峻。

人工智能時(shí)代，該如何把好“安全關(guān)”、交出人工智能“安全卷”？今年全國(guó)兩會(huì)期間，多位代表委員建言獻(xiàn)策。

構(gòu)建高可靠AI安全體系

傳統(tǒng)產(chǎn)業(yè)轉(zhuǎn)型升級(jí)的過(guò)程中，人工智能發(fā)揮著“領(lǐng)頭雁”效應(yīng)。作為傳統(tǒng)產(chǎn)業(yè)數(shù)字化轉(zhuǎn)型中最重要的變革驅(qū)動(dòng)力量，人工智能已在研發(fā)、生產(chǎn)、管理全環(huán)節(jié)廣泛應(yīng)用，涌現(xiàn)出上百種場(chǎng)景和模式。

“但是，人工智能也大幅提升了網(wǎng)絡(luò)攻擊的烈度和廣度，網(wǎng)絡(luò)攻擊窗口不斷擴(kuò)大、網(wǎng)絡(luò)攻擊手段不斷革新、網(wǎng)絡(luò)犯罪門(mén)檻持續(xù)降低，給傳統(tǒng)產(chǎn)業(yè)發(fā)展帶來(lái)了新風(fēng)險(xiǎn)、新挑戰(zhàn)，引發(fā)了社會(huì)高度關(guān)注。”全國(guó)政協(xié)委員、全國(guó)工商聯(lián)副主席、奇安信科技集團(tuán)董事長(zhǎng)齊向東認(rèn)為，人工智能發(fā)展面臨的安全問(wèn)題大致可以分三類：人工智能大模型自身的安全問(wèn)題，其中，開(kāi)發(fā)風(fēng)險(xiǎn)、數(shù)據(jù)風(fēng)險(xiǎn)、應(yīng)用風(fēng)險(xiǎn)和基礎(chǔ)環(huán)境風(fēng)險(xiǎn)這四大安全風(fēng)險(xiǎn)比較突出；利用人工智能開(kāi)展網(wǎng)絡(luò)攻擊的問(wèn)題；通過(guò)攻擊人工智能引發(fā)的“網(wǎng)絡(luò)攻擊大爆炸”。未來(lái)人工智能會(huì)成為社會(huì)的基礎(chǔ)設(shè)施，當(dāng)大模型嵌入智慧城市、工控系統(tǒng)、智慧政務(wù)等關(guān)鍵領(lǐng)域時(shí)，會(huì)放大漏洞等傳統(tǒng)安全威脅，一旦人工智能大模型遭到攻擊可能會(huì)牽一發(fā)而動(dòng)全身，引發(fā)社會(huì)服務(wù)中斷、生產(chǎn)停滯、隱私數(shù)據(jù)泄露等安全事件。

針對(duì)這些安全問(wèn)題，齊向東建議，要從技術(shù)保障、制度保障、成果應(yīng)用三方面入手，系統(tǒng)提升安全能力，確保人工智能安全發(fā)展。

“第一，建立適配大模型的縱深防御體系，筑牢人工智能的安全根基。第二，制定大模型安全強(qiáng)制合規(guī)要求，夯實(shí)人工智能安全發(fā)展的制度保障。要明確大模型安全的組織架構(gòu)，界定安全主體責(zé)任，對(duì)基礎(chǔ)安全、數(shù)據(jù)安全、應(yīng)用系統(tǒng)開(kāi)發(fā)安全、運(yùn)行安全等方面提出清晰的技術(shù)保障要求。同時(shí)，做好大模型運(yùn)行安全監(jiān)測(cè)和內(nèi)容風(fēng)控，定期開(kāi)展安全評(píng)估測(cè)試，完善應(yīng)急響應(yīng)機(jī)制，一旦發(fā)現(xiàn)異常行為或潛在的安全事件，第一時(shí)間進(jìn)行處置，將安全威脅消除在萌芽狀態(tài)。第三，推廣‘AI+安全’創(chuàng)新成果落地，走好提升安全能力的必經(jīng)之路。”齊向東說(shuō)。

在全國(guó)政協(xié)委員、360集團(tuán)創(chuàng)始人周鴻祎看來(lái)，人工智能尤其是大模型的安全問(wèn)題不能以傳統(tǒng)網(wǎng)絡(luò)安全的解題方法來(lái)應(yīng)對(duì)，智能體的安全、知識(shí)數(shù)據(jù)的安全、客戶端的安全以及基座模型的安全，構(gòu)成人工智能安全的全新領(lǐng)域，解決方法的關(guān)鍵是“以模制模”。

周鴻祎所說(shuō)的“以模制模”，即做安全大模型，“用聰明的大模型智力能力管理知識(shí)庫(kù)的使用、管理智能體的調(diào)用、管理基座模型的‘胡說(shuō)八道’和人對(duì)大模型的PUA攻擊（注入攻擊）”。

加強(qiáng)AI深度偽造治理

隨著生成式人工智能技術(shù)的發(fā)展，深度偽造技術(shù)也快速發(fā)展。AI深度偽造技術(shù)讓歌手“唱著”那些根本沒(méi)有唱過(guò)的“歌”、讓演員“演著”從沒(méi)有演過(guò)的“劇”，技術(shù)帶來(lái)新鮮感官體驗(yàn)的背后，其所造成的侵權(quán)甚至犯罪問(wèn)題也愈演愈烈：一些攻擊者利用人工智能“換臉變聲”輸出虛假信息，開(kāi)展網(wǎng)絡(luò)詐騙，或輸出背離主流價(jià)值觀的內(nèi)容危害認(rèn)知安全。

“AI深度合成技術(shù)所需素材獲取便利、技術(shù)使用門(mén)檻低、侵權(quán)主體及其手段隱蔽性強(qiáng)等特點(diǎn)，給治理整治帶來(lái)較大挑戰(zhàn)。”針對(duì)“AI換臉擬聲”等問(wèn)題，全國(guó)人大代表、小米集團(tuán)創(chuàng)始人雷軍建議，探索推出人工智能單行法，提高立法位階及其效力，在分級(jí)分類的基礎(chǔ)上進(jìn)行務(wù)實(shí)治理，明確“AI換臉擬聲”應(yīng)用邊界紅線，完善侵權(quán)證據(jù)規(guī)則，加大對(duì)利用人工智能技術(shù)實(shí)施犯罪行為的刑事處罰力度。

雷軍還建議，強(qiáng)化行業(yè)自律共治，壓實(shí)平臺(tái)等各方的責(zé)任。支持平臺(tái)企業(yè)開(kāi)發(fā)可精準(zhǔn)識(shí)別人工智能深度合成內(nèi)容的技術(shù)能力，優(yōu)化升級(jí)通信軟件和內(nèi)容平臺(tái)巡查審核機(jī)制、投訴舉報(bào)機(jī)制、應(yīng)急處理機(jī)制，確保及時(shí)阻斷問(wèn)題內(nèi)容的傳播。

全國(guó)人大代表，TCL創(chuàng)始人、董事長(zhǎng)李東生則提出，加強(qiáng)AI深度偽造欺詐管理。

李東生建議，加快人工智能深度合成內(nèi)容標(biāo)識(shí)管理規(guī)章制度的出臺(tái)；明確對(duì)人工智能深度合成服務(wù)商未履行標(biāo)識(shí)義務(wù)的懲罰制度，完善對(duì)深度合成內(nèi)容服務(wù)提供商未按要求進(jìn)行標(biāo)識(shí)的行為界定、分類細(xì)則，以及相應(yīng)的處罰標(biāo)準(zhǔn)；加強(qiáng)深度合成標(biāo)識(shí)技術(shù)標(biāo)準(zhǔn)的發(fā)布和管理，出臺(tái)深度合成內(nèi)容標(biāo)識(shí)的技術(shù)標(biāo)準(zhǔn)，保證標(biāo)識(shí)的有效性；從源頭下手，明確平臺(tái)、用戶的責(zé)任和義務(wù)，例如，相關(guān)內(nèi)容平臺(tái)出臺(tái)要求，明確用戶在發(fā)布深度合成的視頻、音頻等內(nèi)容時(shí)有義務(wù)對(duì)其進(jìn)行標(biāo)識(shí)；加強(qiáng)國(guó)際合作，形成人工智能生成內(nèi)容的有效監(jiān)管。

“近期，中國(guó)參加了在法國(guó)召開(kāi)的巴黎人工智能行動(dòng)峰會(huì)，我們也簽署了《巴黎人工智能宣言》，這是全球AI治理的一個(gè)重要嘗試，也標(biāo)志著全球AI治理邁入新階段。”李東生提到，考慮到技術(shù)創(chuàng)新和相關(guān)監(jiān)管需要，可提前明確相應(yīng)處罰措施，適度推后對(duì)未履行標(biāo)識(shí)義務(wù)的AI深度合成服務(wù)商的懲罰制度，有利于相關(guān)企業(yè)盡早做好合規(guī)的準(zhǔn)備。

完善人工智能立法

從2017年國(guó)務(wù)院印發(fā)《新一代人工智能發(fā)展規(guī)劃》，到2021年數(shù)據(jù)安全法、個(gè)人信息保護(hù)法相繼施行，再到2023年國(guó)家網(wǎng)信辦等7部門(mén)出臺(tái)《生成式人工智能服務(wù)管理暫行辦法》，近年來(lái)，有關(guān)人工智能的規(guī)范體系越來(lái)越完善。

國(guó)務(wù)院2023年度和2024年度的“立法工作計(jì)劃”均將“人工智能法草案”列入預(yù)備提請(qǐng)全國(guó)人大常委會(huì)審議草案的范圍。今年全國(guó)兩會(huì)，加快推動(dòng)人工智能立法，也受到代表委員的關(guān)注。

在全國(guó)政協(xié)委員、中國(guó)科學(xué)院院士李景虹看來(lái)，應(yīng)加快制定并出臺(tái)《人工智能促進(jìn)法》，通過(guò)基礎(chǔ)性立法，凝聚更廣泛的共識(shí)，形成更強(qiáng)的社會(huì)合力，推進(jìn)人工智能持續(xù)發(fā)展，造福于民。

李景虹認(rèn)為，應(yīng)面向長(zhǎng)遠(yuǎn)發(fā)展和當(dāng)前突出問(wèn)題，著力破解制約人工智能發(fā)展的認(rèn)知不足、法律法規(guī)和政策協(xié)調(diào)滯后、優(yōu)質(zhì)數(shù)據(jù)供給和保障不足、版權(quán)和知識(shí)產(chǎn)權(quán)保護(hù)及必要的豁免規(guī)則等基礎(chǔ)性問(wèn)題。進(jìn)一步明確政府相關(guān)部門(mén)和社會(huì)各方面的權(quán)利、責(zé)任和義務(wù)，加強(qiáng)普及教育和宣傳，推動(dòng)全社會(huì)深化理解人工智能。

“《人工智能促進(jìn)法》應(yīng)聚焦六個(gè)方面：促進(jìn)有效應(yīng)用、普惠服務(wù)、技術(shù)創(chuàng)新、人才培養(yǎng)（包括尖端人才和復(fù)合型人才）、就業(yè)保障（包括擴(kuò)大職業(yè)教育和全民通識(shí)教育）、國(guó)際合作。”李景虹建議。

人工智能重塑勞動(dòng)力市場(chǎng)已成必然趨勢(shì)。世界經(jīng)濟(jì)論壇今年1月發(fā)布的《2025年未來(lái)就業(yè)報(bào)告》預(yù)測(cè)，未來(lái)五年內(nèi)，全球職場(chǎng)將有22%的就業(yè)機(jī)會(huì)面臨變革，新創(chuàng)造的工作崗位達(dá)1.7億個(gè)，被替代的工作崗位9200萬(wàn)個(gè)，最終就業(yè)機(jī)會(huì)凈增7800萬(wàn)個(gè)。

“對(duì)此，我們應(yīng)發(fā)展AI新崗位，完善AI失業(yè)保障，打造AI就業(yè)友好型社會(huì)。”全國(guó)人大代表、科大訊飛董事長(zhǎng)劉慶峰建議，加強(qiáng)人工智能新職業(yè)的規(guī)劃與管理，包括系統(tǒng)性梳理AI時(shí)代產(chǎn)生的新崗位，強(qiáng)化崗位認(rèn)證工作，鼓勵(lì)高校、職校緊跟趨勢(shì)，調(diào)整人才培養(yǎng)計(jì)劃和課程設(shè)置等；構(gòu)建“就業(yè)監(jiān)測(cè)——預(yù)警——響應(yīng)”全鏈條監(jiān)測(cè)機(jī)制，如建立“AI就業(yè)動(dòng)態(tài)監(jiān)測(cè)平臺(tái)”，在長(zhǎng)三角、珠三角等制造業(yè)集聚區(qū)試點(diǎn)“失業(yè)風(fēng)險(xiǎn)預(yù)警系統(tǒng)”，并要求大規(guī)模部署AI的企業(yè)提交替代崗位數(shù)量、再就業(yè)方案等社會(huì)責(zé)任報(bào)告，確保技術(shù)應(yīng)用與社會(huì)公平協(xié)同發(fā)展；設(shè)置6個(gè)月至12個(gè)月的失業(yè)緩沖期，試點(diǎn)“AI失業(yè)保障專項(xiàng)保險(xiǎn)”，為最易被AI沖擊的崗位建立專項(xiàng)保障基金等。