欧美在线日韩-欧美在线区-欧美在线看欧美视频免费网站-欧美在线精品一区二区在线观看-www..com黄-vr专区日韩精品中文字幕

■圖像時代的法律

當AI生成圖像和視頻成為一門生意，相應的服務提供商就應該承擔一定的社會責任，采取相應的措施

文／圖 吳志攀

今年，廣州互聯網法院審結一起“AI（人工智能）換臉”侵權案件。一位知名短視頻女博主發現，她穿漢服的一些視頻，被一家科技公司制成“AI換臉”視頻合成模板，并發布在網上供收費使用。

這位女博主到法院起訴上述科技公司侵犯其肖像權，要求被告賠禮道歉，賠償5萬元。該科技公司辯稱，模版沒有使用原告的“人格要素”，因此換臉后不能辨認出是原告。

法院經過審理認為，“人格要素”不限于面部形象，還包括發型、服飾、妝容、光線、肢體動作、體態特征和鏡頭切換等。“身體形象”屬于可被辨識人肖像的組成部分，服飾、容妝等屬于辨識主體的輔助因素，對辨識形象也起到了一定作用。根據民法典第一千零一十九條規定，“未經肖像權人同意，不得制作、使用、公開肖像權人的肖像，不得以發表、復制、發行、出租、展覽等方式使用或者公開肖像權人的肖像”。法院裁定該科技公司侵犯了原告肖像權，該案由此成為我國“AI換臉第一案”。

上述案件是民事領域的糾紛。刑事案件方面，在英國，有法院判處一名利用AI生成“虐童”圖像獲利的男子有期徒刑18年。一名英國檢察官說，隨著技術的迅速發展，兒童面臨的風險也在增加。該檢察官還說：“隨著AI生成技術的發展，技術對執法帶來的挑戰將變得常態化。網絡平臺的數量增多，新技術讓普通圖像轉換為不當內容變得越來越容易，立法的更新可能追趕不上技術發展的速度。”該案也是英國法院對“利用AI圖像實施虐童”的第一起案件，該案的判決向類似犯罪行為人發出嚴厲的警告。

在美國，威斯康星州警方前不久抓捕了一名犯罪嫌疑人，其涉嫌使用AI制作超過1.3萬張兒童性虐待圖像，該被告將面臨70年監禁的嚴厲處罰。

在韓國，一名男子于今年9月被判處2年6個月有期徒刑，其罪名是使用AI制作360度虛擬兒童虐待圖像。該案也是韓國關于這類犯罪的第一案。

AI圖像生成技術的迅速發展，讓人們可以在鍵盤上輸入一些文字，便能生成想要的圖像和短視頻。在這種情況下，個別人于是利用AI圖像技術非法牟利。例如，深度偽造色情圖片、虐童圖片和短視頻。這類犯罪行為的后果，在事實上會對被偽造的具體當事人造成巨大的心理創傷。特別是涉及兒童的犯罪，其后果很可能會影響到孩子的一生。

與此同時，利用AI生成圖像的犯罪行為也給刑事偵查、破案和審判工作帶來了很大困難。因此，就出現了AI生成圖像的犯罪成本低、社會危害大和破案難的現象。

刑事判決的根本目的不僅是在某一件具體案件中明斷是非，更是利用法律武器設法避免類似案件的再次發生。法律的目的也不僅是案件發生后進行裁決，更是利用法律的威懾作用和警示教育預防類似案件的發生。現有法律在利用AI生成圖像犯罪方面的研究還未顯得滯后，遇到案件時，傳統法律思維方式亦能夠應對。但實際上，利用AI生成圖像犯罪成本低、社會危害大的特點，需要用互聯網思維方式來應對。 

一些提供AI生成圖像技術的平臺，是否可以用“免責條款”回避責任呢？在法律還跟不上科技發展腳步的時期，不接受“免責條款”的客戶無法使用平臺提供的各種服務——特別是免費服務，接受“免責條款”更是“標配”。但是，當AI生成圖像和視頻成為一門生意，相應的服務提供商就應該承擔一定的社會責任，采取相應的措施。

舉個例子來說，一些游戲平臺設有定時中斷游戲的保護性措施，以免青少年長時間上網，損害視力和身體健康。又如，還有一些網絡服務商，對老年人和殘障人士提供輔助功能，如放大字體和語音服務等措施。

現如今，AI生成圖像技術已經相當發達，生成的圖像已經達到“以假亂真”的程度。如果不法分子利用這種技術犯罪，一般老百姓難以應對，只有高技術專業人員可以應對。因此，平臺就應該有一定的維護網絡社會合法秩序的責任。因此，對于平臺而言，不是任何情況下都能使用“免責條款”的。

在美國，人們往往非常熟悉漫畫這種評論形式。雖然許多漫畫作品形象夸張，很多時候也極盡諷刺，但人們看后都知道這只是在通過藝術表達漫畫家的觀點，并不會覺得漫畫中的事件就一定是真實發生的。但隨著AI技術的發展，一個令人憂慮的現象出現了：AI技術生成的政治事件的照片，與真實的照片幾乎一模一樣。人們看到后，很可能會感到疑惑：這事兒真的發生了？！如果照片中的政治人物的支持者信以為真，說不定會引發騷動，從而產生負面的社會影響。

在攝影史上，一些作品給人們留下了深刻的印象。比如，《饑餓的蘇丹》中，禿鷲凝視著一個骨瘦如柴小孩；《戰火中的女孩》中，一個女孩掙脫掉燒著的衣服，張開雙臂從燃燒彈爆炸區逃出。這些照片都是記者在現場拍攝的真實的照片，引發了國際社會的強烈反響。但用AI生成的圖像，無論看起來多么真實，都并不是客觀現實的反映。雖然目前還沒有相關的判例，但可以確定的是：AI生成的“新聞圖像”和“新聞視頻”已經對社會產生了不小的影響，至少這些極易造成誤解的圖像和視頻是違反道德的。可以說，這也給社會敲響了一記警鐘。

（作者系北京大學法學院教授）