一鍵換臉合成視頻被訴侵權(quán)，記者調(diào)查：“AI換臉”法律邊界在哪？ 新消息

在小程序中上傳一張自己的照片，就能自動(dòng)替換模版視頻中國(guó)風(fēng)造型人物的面部，生成一段新的視頻……但你可知道，在有趣的“AI換臉”背后，隱藏多項(xiàng)法律風(fēng)險(xiǎn)。近日，南京江北新區(qū)人民法院審結(jié)一起這樣的侵犯肖像權(quán)糾紛案件，判決該小程序運(yùn)營(yíng)公司賠禮道歉、賠償損失。

隨著“AI換臉”技術(shù)走向大眾，其法律風(fēng)險(xiǎn)也逐漸引起人們的關(guān)注，揚(yáng)子晚報(bào)紫牛新聞?dòng)浾呔驮摷夹g(shù)的使用現(xiàn)狀及其法律問(wèn)題進(jìn)行了調(diào)查。記者獲悉，今年1月10日起施行的《互聯(lián)網(wǎng)信息服務(wù)深度合成管理規(guī)定》明確了相關(guān)技術(shù)的管理規(guī)范和法律責(zé)任等，為包括“換臉”在內(nèi)的AI合成服務(wù)劃出了底線。

(資料圖片僅供參考)

法院判決：

博主國(guó)風(fēng)造型視頻被盜用作模板，獲賠經(jīng)濟(jì)損失

林某是一名短視頻博主，擁有一定粉絲數(shù)量，日常會(huì)通過(guò)賬號(hào)發(fā)布含有其本人肖像的國(guó)風(fēng)造型短視頻。某公司系“AI視頻換臉”微信小程序的運(yùn)營(yíng)主體，用戶可以通過(guò)該小程序上傳個(gè)人照片，將視頻模板中的人臉替換為自己照片中的臉，從而形成臉部特征不同而其他內(nèi)容與原視頻相同的新視頻。用戶付費(fèi)成為被告會(huì)員后，可以解鎖全部視頻模板并高清無(wú)水印導(dǎo)出新視頻。

2021年6月，林某通過(guò)賬號(hào)發(fā)布了一段短視頻，視頻中她帶著清晰的古風(fēng)妝容，身著古風(fēng)漢服出鏡。不久后，她在“AI視頻換臉”小程序中發(fā)現(xiàn)含有該短視頻中外部形象的視頻要素合成模板。

李某認(rèn)為，對(duì)方的行為侵害其肖像權(quán)，于是訴至江北新區(qū)法院，要求賠禮道歉、賠償損失。被告公司則辯稱，“AI視頻換臉”微信小程序的定位是工具收費(fèi)，視頻模板系用戶自行上傳且免費(fèi)使用。該微信小程序已于2022年10月因違反平臺(tái)運(yùn)營(yíng)規(guī)范被封禁下架，運(yùn)營(yíng)時(shí)間短，盈利不足萬(wàn)元。

那么，該公司的做法是否對(duì)林某構(gòu)成侵權(quán)，法院將如何認(rèn)定呢？

法院認(rèn)為，“AI視頻換臉”實(shí)質(zhì)上系基于人工智能的人體圖像合成技術(shù)。原視頻中，林某以古風(fēng)妝容并著漢服出鏡，但通過(guò)面部形象、體貌特征等能夠?qū)ζ渲黧w身份進(jìn)行識(shí)別。換臉后的新視頻中，人物的面部特征發(fā)生變化，但對(duì)比原視頻素材，仍能通過(guò)未被修改的衣著服飾、肢體動(dòng)作及相應(yīng)的場(chǎng)景細(xì)節(jié)識(shí)別出該身體形象對(duì)應(yīng)的主體系原告。

因此，無(wú)論是對(duì)于原視頻中對(duì)應(yīng)的身體形象，抑或是案涉視頻要素模板和“AI換臉”后視頻中對(duì)應(yīng)的身體形象，原告林某均享有肖像權(quán)。被告未經(jīng)原告同意，擅自將含有原告肖像的視頻存儲(chǔ)在“AI視頻換臉”微信小程序中作為可供用戶選擇使用的合成視頻要素模板，系利用“AI”信息技術(shù)手段編造或者偽造他人肖像的行為，侵害了原告的肖像權(quán)，應(yīng)承擔(dān)相應(yīng)的侵權(quán)責(zé)任。

結(jié)合被告侵權(quán)行為的持續(xù)時(shí)間、影響范圍及后果，綜合考量原告的網(wǎng)絡(luò)知名度及商業(yè)價(jià)值等因素，江北新區(qū)法院一審判決被告書(shū)面賠禮道歉并賠償經(jīng)濟(jì)損失。

該判決作出后，雙方當(dāng)事人均服判息訴，被告公司在判決生效后履行了判決義務(wù)。

法官釋疑：

臉部被更換，視頻原主人還享有肖像權(quán)嗎？

該案中一個(gè)容易讓人產(chǎn)生疑問(wèn)的地方在于，視頻原主人對(duì)被更換臉部之后視頻內(nèi)容還享有肖像權(quán)嗎？

對(duì)于，該案承辦法官潘振飛表示，“可識(shí)別性是肖像的核心特征，除面部形象外，任何可以被識(shí)別為特定主體的外部形象都屬于肖像的保護(hù)范圍。”

潘振飛介紹，本案中，換臉后的新視頻中，人物面部形象雖然發(fā)生改變，但從未被修改的原視頻的場(chǎng)景細(xì)節(jié)仍能識(shí)別出身體形象的主體，該身體形象即屬于可被識(shí)別為特定主體的肖像，原告對(duì)該身體形象亦享有肖像權(quán)。

《民法典》第1019條規(guī)定第一款規(guī)定，任何組織或者個(gè)人不得以丑化、污損，或者利用信息技術(shù)手段偽造等方式侵害他人的肖像權(quán)。而“AI換臉”就是利用人工智能等信息技術(shù)手段，將某人的面部更換為他人的面部，但保留身體動(dòng)作等軀干特征，并在此基礎(chǔ)上形成高度逼真的圖像、視頻等。法院認(rèn)為，“AI換臉”體現(xiàn)為較強(qiáng)的身份解構(gòu)能力，將個(gè)體的身份特質(zhì)進(jìn)行分解，面部形象、體貌特征甚至聲音語(yǔ)調(diào)等各自分離，又與他人的身份特質(zhì)相融合，進(jìn)而重構(gòu)身份特征。此種解構(gòu)行為破壞了肖像與身份主體的同一性，構(gòu)成對(duì)他人肖像權(quán)的侵害。

至于該案在確定具體的責(zé)任承擔(dān)時(shí)，則是結(jié)合侵權(quán)人的過(guò)錯(cuò)程度、侵權(quán)行為的持續(xù)時(shí)間、范圍和后果以及對(duì)被侵權(quán)人的影響等因素進(jìn)行綜合認(rèn)定。鑒于案涉微信小程序運(yùn)營(yíng)時(shí)間較短且已被下架，原告亦未能舉證證明案涉視頻素材模板的使用數(shù)據(jù)及其因此實(shí)際受損害的情況，江北新區(qū)法院最終酌情判令被告書(shū)面賠禮道歉并賠償原告一定經(jīng)濟(jì)損失。

潘振飛表示，在“AI視頻換臉”的應(yīng)用場(chǎng)景下，對(duì)于程序運(yùn)營(yíng)者而言，無(wú)論是其主動(dòng)上傳含他人肖像的視頻素材模板，還是默許或放任用戶自行上傳視頻素材并將用戶上傳的視頻素材存儲(chǔ)在模板界面中作為有償使用，均構(gòu)成對(duì)他人肖像權(quán)的侵害。

記者調(diào)查：

目前已引發(fā)不少問(wèn)題，涉及多項(xiàng)民事侵權(quán)及犯罪風(fēng)險(xiǎn)

“AI換臉”是一項(xiàng)近兩年才為大多數(shù)人所接觸的新技術(shù)，在帶來(lái)新奇體驗(yàn)的同時(shí)，其中可以存在的法律風(fēng)險(xiǎn)也逐漸引起人們的關(guān)注。

揚(yáng)子晚報(bào)紫牛新聞?dòng)浾邽g覽幾家手機(jī)應(yīng)用市場(chǎng)，發(fā)現(xiàn)不少“AI換臉”相關(guān)應(yīng)用仍可以下載。這些應(yīng)用內(nèi)為用戶提供了大量圖片、視頻模板，包括國(guó)風(fēng)、古裝、民族、婚紗、職場(chǎng)等不同主題，使用方式與江北新區(qū)這起案件中的情況基本相同。記者隨機(jī)下載了幾款“AI換臉”應(yīng)用，均未發(fā)現(xiàn)運(yùn)營(yíng)方對(duì)提供的模板是否擁有授權(quán)作出說(shuō)明，同時(shí)不少應(yīng)用需要充值付費(fèi)才能使用“換臉”功能或者解鎖更多模版。

更為嚴(yán)重的情況是，一些明星或網(wǎng)絡(luò)博主的臉部形象被人盜用，拼接進(jìn)不雅視頻，給當(dāng)事人造成了極大的損害和困擾。

今年4月6日，擁有百萬(wàn)粉絲的博主“Caro賴賴_”講述了自己的臉被“盜”，制作成不雅視頻的遭遇。據(jù)她稱，獲悉網(wǎng)絡(luò)上出現(xiàn)自己臉部形象的不雅視頻后，其發(fā)現(xiàn)在境外社交平臺(tái)上有人冒充自己注冊(cè)了假賬號(hào)，并以會(huì)員訂閱的方式販賣視頻，付費(fèi)會(huì)員可以不斷地收到盜臉色情視頻。她還稱這樣的賬號(hào)在境外社交平臺(tái)上并非個(gè)例。

記者檢索中國(guó)裁判文書(shū)網(wǎng)，發(fā)現(xiàn)目前涉及“AI換臉”的案件數(shù)量較少，且案由基本集中于肖像權(quán)糾紛。那么，除了肖像權(quán)，以目前人們對(duì)這項(xiàng)技術(shù)的使用情況看，還有可能帶來(lái)哪些法律風(fēng)險(xiǎn)呢？

“‘AI換臉’不僅具有極高的欺騙性，也帶來(lái)個(gè)人信息安全、肖像權(quán)、名譽(yù)權(quán)、表演者權(quán)被侵害的風(fēng)險(xiǎn)。”江蘇大名大律師事務(wù)所馮斐律師表示，比如將某人的容貌替換到不雅或不良行為視頻片段中，會(huì)導(dǎo)致公眾對(duì)該人物產(chǎn)生嚴(yán)重負(fù)面印象，降低對(duì)其的社會(huì)評(píng)價(jià)。因此，這在侵犯當(dāng)事人肖像權(quán)的同時(shí)，還侵犯了其名譽(yù)權(quán)。又如未經(jīng)許可制作、傳播“換臉”后的視頻，可能導(dǎo)致觀眾無(wú)法通過(guò)“換臉”視頻識(shí)別原表演者，這侵犯了原表演者享有的表演者權(quán)。此外，如果通過(guò)“換臉”對(duì)作品進(jìn)行惡搞，則有可能侵犯著作權(quán)人的保護(hù)作品完整權(quán)。

而如果制作、傳播“AI換臉”淫穢視頻，除了需要承擔(dān)對(duì)被盜臉者的民事侵權(quán)責(zé)任外，還將涉嫌觸犯刑法第363條構(gòu)成制作、復(fù)制、出版、販賣、傳播淫穢物品牟利罪，最高可判處十年以上有期徒刑或者無(wú)期徒刑，并處罰金或者沒(méi)收財(cái)產(chǎn)。

律師說(shuō)法：

今年三部門新規(guī)為“AI換臉”劃定“底線”

值得指出的事，“人臉信息”作為一種敏感個(gè)人信息，其保護(hù)問(wèn)題近年受到各界越來(lái)越多的關(guān)注，在相關(guān)立法中也有體現(xiàn)。

2021年11月起施行的《個(gè)人信息保護(hù)法》將人臉信息明確納入個(gè)人信息的保護(hù)范疇，并為包括人臉信息在內(nèi)的敏感個(gè)人信息專門給出了處理規(guī)則。馮斐告訴揚(yáng)子晚報(bào)紫牛新聞?dòng)浾撸摲ǖ?2條還對(duì)人臉識(shí)別技術(shù)的運(yùn)用作出了原則性規(guī)定，為相關(guān)立法細(xì)化調(diào)整人臉識(shí)別技術(shù)規(guī)則提供了依據(jù)。

而隨著AI技術(shù)的興起，使得合成、拼接等操作較之以往變得更加容易，而效果也到了真假難辨的地步，這對(duì)公民合法權(quán)益、公共利益，甚至國(guó)家安全帶來(lái)了新的挑戰(zhàn)。

馮斐告訴記者，“AI換臉”也屬于深度合成技術(shù)一種，國(guó)家互聯(lián)網(wǎng)信息辦公室、工業(yè)和信息化部、公安部聯(lián)合發(fā)布的《互聯(lián)網(wǎng)信息服務(wù)深度合成管理規(guī)定》已于今年1月10日起正式施行。該規(guī)定強(qiáng)調(diào)不得利用深度合成服務(wù)從事法律、行政法規(guī)禁止的活動(dòng)，明確了深度合成數(shù)據(jù)和技術(shù)管理規(guī)范，明確了監(jiān)督檢查與法律責(zé)任等。

根據(jù)該規(guī)定，深度合成服務(wù)提供者提供人臉替換等服務(wù)，可能導(dǎo)致公眾混淆或者誤認(rèn)的，應(yīng)當(dāng)在生成或者編輯的信息內(nèi)容的合理位置、區(qū)域進(jìn)行顯著標(biāo)識(shí)，向公眾提示深度合成情況。深度合成服務(wù)提供者和技術(shù)支持者提供人臉、人聲等生物識(shí)別信息編輯功能的，應(yīng)當(dāng)提示深度合成服務(wù)使用者依法告知被編輯的個(gè)人，并取得其單獨(dú)同意，此外，還應(yīng)當(dāng)依法自行或者委托專業(yè)機(jī)構(gòu)開(kāi)展安全評(píng)估。

“該規(guī)定為包括‘AI換臉’在內(nèi)的深度合成服務(wù)劃定了‘底線’和‘紅線’，”馮斐認(rèn)為，該新規(guī)的實(shí)施，對(duì)規(guī)范“AI換臉”等技術(shù)將起到積極促進(jìn)的作用。

揚(yáng)子晚報(bào)/紫牛新聞?dòng)浾?萬(wàn)承源

校對(duì) 陶善工