欧美在线日韩-欧美在线区-欧美在线看欧美视频免费网站-欧美在线精品一区二区在线观看-www..com黄-vr专区日韩精品中文字幕

視覺中國供圖

《法治周末》記者 管依萌

頂流男星在澳門輸掉10億、張文宏醫生發帶貨視頻……AI造假、AI換臉、AI魔改、AI造謠等現象頻發，AI工具讓犯罪成本大大降低，人們被AI技術帶來的亂象困擾已久。

近年來，生成式人工智能、深度合成等新技術快速發展，為生成合成文本、圖片、音頻、視頻等信息提供了便利，在促進經濟發展、豐富網上內容、便利公眾生活的同時，也造成虛假信息傳播、破壞網絡生態等問題。社會廣泛呼吁加快專門立法、強化技術監管、壓實平臺責任。

近日，國家互聯網信息辦公室、工業和信息化部、公安部、國家廣播電視總局聯合發布《人工智能生成合成內容標識辦法》（以下簡稱《標識辦法》），自2025年9月1日起施行。配套的強制性國家標準《網絡安全技術人工智能生成合成內容標識方法》同步實施。

國家互聯網信息辦公室有關負責人表示，《標識辦法》旨在促進人工智能健康發展，規范人工智能生成合成內容標識，保護公民、法人和其他組織合法權益，維護社會公共利益。

AI造假亂象頻發

中國互聯網絡信息中心發布的第55次《中國互聯網絡發展狀況統計報告》披露，截至2024年12月，我國有3.31億人表示自己聽說過生成式人工智能產品，占整體人口的23.5%；有2.49億人表示自己使用過生成式人工智能產品，占整體人口17.7%。在生成式人工智能用戶中，利用生成式人工智能產品回答問題的用戶最為廣泛，占比達77.6%。

國家網信辦發布的數據顯示，截至2024年12月31日，共302款生成式人工智能服務在國家網信辦完成備案，其中2024年新增238款備案；對于通過API接口或其他方式直接調用已備案模型能力的生成式人工智能應用或功能，2024年共105款生成式人工智能應用或功能在地方網信辦完成登記。

各行各業都在積極擁抱生成式人工智能帶來的智能化升級浪潮。天眼查數據顯示，截至目前，我國擁有超過200萬家“人工智能”相關企業。

然而，北京盈科（上海）律師事務所數智化建設委員會副主任李悅表示，隨著生成式人工智能技術的突飛猛進，海量AI創作的文本、圖像、語音、視頻在豐富作品內容的同時，也帶來了深度偽造、虛假信息泛濫的新挑戰，從而引發新的社會沖突。不存在的言論、虛構的圖片、以假亂真的虛假新聞、被換的面部和聲音嚴重擾亂公眾對真實事件的認知。更有甚者，一些不法分子利用AI合成實施詐騙，稍不留神就可能上當受騙。這些現象不僅削弱了公眾對網絡信息的信任基礎，也衍生出新的不法行為。

2024年1月，香港一家跨國公司遭遇“變臉”詐騙，詐騙者通過公開渠道獲取相關資料，利用深度偽造技術合成該公司高管的形象和聲音，并制作出多人參與視頻會議的虛假視頻，詐騙金額高達兩億港元；2024年6月，“男子用AI偽造學生同事裸照”沖上微博熱搜，犯罪嫌疑人用AI“一鍵去衣”技術，深度偽造淫穢圖片近7000張，再以每張1.5元賣出，非法獲利近萬元。

全球安全技術公司邁克菲（McAfee）在2023年發布的調查報告中指出，只需提供3秒至4秒的錄音，網絡上的免費AI工具就能生成相似度達到85%的克隆人聲。在參與調查的7000多位全球受訪者中，有70%的人不確定是否能分辨AI合成語音，而大約有10%的人遭遇過AI語音詐騙。

今年全國兩會上，人工智能技術的濫用與虛假信息治理成為熱議焦點。多位代表委員指出，隨著生成式AI技術的迅猛發展，虛假視頻、音頻、圖文等內容“李逵”“李鬼”難辨，不僅誤導消費者、侵犯公民權益，更擾亂社會秩序，亟須通過完善立法、強化技術監管、壓實平臺責任等手段構建綜合治理體系。有人大代表提出“加強治理AI換臉擬聲違法侵權重災區”“加強AI深度偽造欺詐管理”等建議。

對人工智能生成合成內容進行標識

其實，針對AI已經有過多番整治。2月21日，中央網信辦發布2025年“清朗”系列專項行動整治重點，其中包含了整治AI技術濫用亂象：突出AI技術管理和信息內容管理，強化生成合成內容標識，打擊借AI技術生成發布虛假信息、實施網絡水軍行為等問題，規范AI類應用網絡生態。

《標識辦法》的出臺細化了已有規定。《互聯網信息服務算法推薦管理規定》《互聯網信息服務深度合成管理規定》《生成式人工智能服務管理暫行辦法》中提出了標識有關要求，《標識辦法》作為規范性文件，進一步細化標識的具體實施規范。此外，還重點解決“哪些是生成的”“誰生成的”“從哪里生成的”等問題，推動由生成到傳播各環節的全流程安全管理，力爭打造可信賴的人工智能技術。

同時，《標識辦法》提出了人工智能生成合成內容標識主要包括顯式標識和隱式標識兩種形式：顯式標識是指在生成合成內容或者交互場景界面中添加的，以文字、聲音、圖形等方式呈現并可以被用戶明顯感知到的標識；隱式標識是指采取技術措施在生成合成內容文件數據中添加的，不易被用戶明顯感知到的標識。

李悅解讀，顯式標識和隱式標識相輔相成，各有分工。顯式標識直接提醒用戶內容真實性，降低被誤導的風險，就好比影視劇前會提示“本故事純屬虛構，如有雷同實屬巧合”。隱式標識則“埋”下可追溯的證據，便于事后核驗來源。二者結合起來可以形成“事前警示+事后追責”的全鏈條治理機制。

《標識辦法》實施后如何應對

中國政法大學數據法治研究院教授張凌寒指出，《標識辦法》的出臺，配合標識相關的技術標準，為監管部門提供執法依據，為企業提供合規指引，將人工智能生成內容標識制度體系進一步完善化、層次化、合理化。標志我國已經形成以行政法規為牽引、配套法律文件、技術標準、實踐指南的完整人工智能生成內容的治理體系。

實質上，據李悅觀察，許多主流大模型應用及網絡平臺早已開始履行標識義務。比如，DeepSeek會在每輪對話框的下方標注“本回答由AI生成，內容僅供參考，請仔細甄別”，抖音以及小紅書也會對AI生成內容以及疑似AI生成內容進行標注。

2024年3月27日，抖音安全中心發布《關于不當利用AI生成虛擬人物的治理公告》。公告稱，針對違規使用AI生成虛擬人物的行為，平臺會對違規視頻下架，對違規賬號進行取消其投稿和營利權限、抹除賬號粉絲、封禁賬號等處置，并利用模型、技術識別能力等手段，進行長期系統的識別發現和處置。禁止利用AIGC（人工智能生成內容）技術創作、發布侵權內容，包括但不限于肖像權、知識產權等。一經發現，將嚴格處罰。

李悅說，《標識辦法》的出臺是對提供AI生成服務的科技企業和各大互聯網平臺提出了進一步明確的合規義務。為有效遵守法規、降低風險，AIGC服務提供者需在技術和管理層面提前做好充分準備。《標識辦法》實施后，服務提供者需要在用戶服務協議中增加有關內容標識的條款、明確標識的方法樣式等，并提醒用戶仔細閱讀并遵守。換言之，用戶在使用AI生成服務時應被告知生成內容將自帶標記，不得擅自去除。此外，企業應完善幫助文檔或上線彈窗提示，引導用戶正確使用標識功能。

李悅補充道，按照規定，提供AI生成服務的企業在辦理算法備案、安全評估等監管手續時，需提交符合《標識辦法》要求的標識方案的相關材料。這意味著企業要準備好技術方案文檔，證明自己的服務如何添加顯隱標識、如何防范篡改等。另外，應用商店在上架審核APP時也會審查其是否涉及AI生成服務，如果有則要求提供標識實現的說明。因此，AI應用開發商在提交流程上也要做好準備，按官方標準完善相關文檔。

張凌寒在接受《法治周末》記者采訪時表示，AI造假絕對不僅是技術提供者的問題，提供技術的廠家、傳播網絡信息的平臺及使用者本人，都是整個價值傳播鏈條上重要的一分子，都要承擔起防范AI造假的任務。

她建議，要將推進人工智能生成內容治理落到實處。對于比較泛濫的AI虛假信息、視頻、圖片，可以有更嚴格的個人信息保護和授權機制去防范，還可以通過提高公眾和AI使用者的數字素養來防范AI造假。