為更好地服務(wù)保障人工智能產(chǎn)業(yè)健康有序發(fā)展,9月10日,北京互聯(lián)網(wǎng)法院召開(kāi)涉人工智能案件審理情況新聞發(fā)布會(huì),對(duì)涉人工智能案件特點(diǎn)、案件審理面臨的挑戰(zhàn)、審理思路及典型案例進(jìn)行了發(fā)布,并針對(duì)性地提出了妥善化解此類糾紛的對(duì)策建議。10位市人大代表和政協(xié)委員、部分媒體代表參加了本次發(fā)布會(huì)。
近年來(lái),北京互聯(lián)網(wǎng)法院受理的涉人工智能新類型案件呈逐年增長(zhǎng)態(tài)勢(shì),涵蓋知識(shí)產(chǎn)權(quán)侵權(quán)、網(wǎng)絡(luò)侵權(quán)責(zé)任、網(wǎng)絡(luò)服務(wù)合同等多個(gè)案由。其中知識(shí)產(chǎn)權(quán)案件涉及人工智能生成物的可版權(quán)性、大模型訓(xùn)練中的著作權(quán)侵權(quán)認(rèn)定、人工智能生成物侵權(quán)主體責(zé)任認(rèn)定等問(wèn)題;網(wǎng)絡(luò)侵權(quán)案件涉及人格權(quán)保護(hù)是否及于虛擬形象、合成聲音,人工智能生成內(nèi)容是否構(gòu)成侵權(quán)等問(wèn)題;網(wǎng)絡(luò)服務(wù)合同涉及平臺(tái)算法治理、AI幻覺(jué)平臺(tái)責(zé)任認(rèn)定等問(wèn)題。
黨組成員、副院長(zhǎng)趙長(zhǎng)新通報(bào)人工智能案件審理情況
上述案件總體呈現(xiàn)出以下三個(gè)特點(diǎn):覆蓋產(chǎn)業(yè)領(lǐng)域持續(xù)擴(kuò)展,隨著人工智能賦能千行百業(yè),涉人工智能案件不再局限于互聯(lián)網(wǎng)行業(yè),而是向傳統(tǒng)產(chǎn)業(yè)領(lǐng)域滲透,新興與傳統(tǒng)場(chǎng)景復(fù)合、技術(shù)交叉、利益交織;市場(chǎng)主體創(chuàng)新風(fēng)險(xiǎn)迭代升級(jí),應(yīng)用人工智能技術(shù)的產(chǎn)品和服務(wù)快速出新,AI幻覺(jué)等技術(shù)的不確定性使模型開(kāi)發(fā)者、服務(wù)提供者和用戶等市場(chǎng)主體面臨新型、復(fù)合性法律風(fēng)險(xiǎn);裁判規(guī)則引領(lǐng)作用凸顯,涉人工智能案件司法裁判不僅是對(duì)個(gè)案技術(shù)與法律層面的裁判,更承載著對(duì)科技倫理、創(chuàng)新激勵(lì)與權(quán)益保護(hù)進(jìn)行平衡的價(jià)值引導(dǎo)功能,深刻影響著技術(shù)發(fā)展方向與社會(huì)倫理規(guī)范的形成。
技術(shù)應(yīng)用復(fù)雜導(dǎo)致事實(shí)查明難、規(guī)則適配不足導(dǎo)致法律適用難、主體角色多元導(dǎo)致責(zé)任認(rèn)定難,是當(dāng)前涉人工智能案件審理面臨的三大挑戰(zhàn)。北京互聯(lián)網(wǎng)法院黨組成員、副院長(zhǎng)趙長(zhǎng)新表示,“涉人工智能案件往往涉及對(duì)人工智能的生成過(guò)程、算法模型以及數(shù)據(jù)來(lái)源等進(jìn)行司法審查,技術(shù)門檻高,事實(shí)查明難度大,法律適用則需面對(duì)現(xiàn)有法律制度未充分考慮人工智能技術(shù)特性與新型場(chǎng)景的現(xiàn)實(shí)。此外人工智能產(chǎn)業(yè)鏈條復(fù)雜、上下游相互依存,案件往往涉及訓(xùn)練者、開(kāi)發(fā)者、服務(wù)提供者、使用者等不同角色,各方主體分工合作形成復(fù)雜關(guān)聯(lián)給責(zé)任認(rèn)定帶來(lái)了不小的困難?!?/p>
趙長(zhǎng)新副院長(zhǎng)介紹,“為應(yīng)對(duì)人工智能技術(shù)加速發(fā)展帶來(lái)的新模式新問(wèn)題,北京互聯(lián)網(wǎng)法院始終堅(jiān)持以裁判樹(shù)規(guī)則、促治理、助發(fā)展,依法妥善審理人工智能案件,堅(jiān)持以人為本理念,當(dāng)技術(shù)應(yīng)用于人格權(quán)益發(fā)生沖突時(shí),準(zhǔn)確界定人格權(quán)益內(nèi)涵與外延,依法保護(hù)虛擬形象、合成聲音;堅(jiān)持智能向善導(dǎo)向,精準(zhǔn)平衡各方利益需求,遏制技術(shù)向惡,打擊利用人工智能丑化惡搞行為,規(guī)范平臺(tái)人工智能生成內(nèi)容標(biāo)識(shí);堅(jiān)持激勵(lì)創(chuàng)新,加大知識(shí)產(chǎn)權(quán)司法保護(hù)力度,認(rèn)定‘AI文生圖’、虛擬數(shù)字人具有可版權(quán)性,充分尊重創(chuàng)新主體智力投入。”
針對(duì)預(yù)防化解涉人工智能糾紛,北京互聯(lián)網(wǎng)法院提出四點(diǎn)建議:網(wǎng)絡(luò)用戶要提升法律意識(shí)與數(shù)字素養(yǎng),明確自身行為邊界,依法維護(hù)自身合法權(quán)益;人工智能技術(shù)開(kāi)發(fā)者要嚴(yán)格遵守技術(shù)倫理規(guī)范,確保數(shù)據(jù)和基礎(chǔ)模型來(lái)源合法;人工智能服務(wù)提供者應(yīng)積極完善管理機(jī)制,強(qiáng)化人工智能服務(wù)提供者主體責(zé)任;要加強(qiáng)人工智能監(jiān)管協(xié)同合作,形成監(jiān)管合力。
黨組成員、副院長(zhǎng)孫銘溪發(fā)布典型案例
本次發(fā)布會(huì)上,北京互聯(lián)網(wǎng)法院黨組成員、副院長(zhǎng)孫銘溪發(fā)布了八起涉人工智能典型案例,明確了“AI文生圖”的法律屬性及權(quán)利歸屬的認(rèn)定、自然人聲音權(quán)益可及于AI生成聲音、未經(jīng)權(quán)利人許可使用AI合成的名人聲音用于“帶貨”構(gòu)成侵權(quán)委托推廣商家應(yīng)承擔(dān)連帶責(zé)任、未經(jīng)授權(quán)對(duì)包含他人肖像的視頻進(jìn)行“AI換臉”處理構(gòu)成對(duì)他人個(gè)人信息權(quán)益的侵害、網(wǎng)絡(luò)平臺(tái)利用算法工具檢測(cè)AI生成內(nèi)容但未盡到合理適度說(shuō)明義務(wù)的應(yīng)承擔(dān)違約責(zé)任、利用AI軟件惡搞丑化他人肖像構(gòu)成人格權(quán)侵權(quán)、具有獨(dú)創(chuàng)性的虛擬數(shù)字人形象構(gòu)成美術(shù)作品、未經(jīng)同意創(chuàng)造自然人的AI形象構(gòu)成對(duì)人格權(quán)的侵害等裁判規(guī)則。
案例一 李某某訴劉某某侵害作品署名權(quán)和信息網(wǎng)絡(luò)傳播權(quán)糾紛案——AI文生圖的法律屬性及權(quán)利歸屬的認(rèn)定
案例二 殷某某訴某智能科技公司等人格權(quán)侵權(quán)糾紛案——自然人聲音權(quán)益可及于AI生成聲音
案例三 李某某訴某文化傳媒有限公司網(wǎng)絡(luò)侵權(quán)責(zé)任糾紛案——未經(jīng)權(quán)利人許可使用AI合成的名人聲音用于“帶貨”構(gòu)成侵權(quán)委托推廣商家應(yīng)承擔(dān)連帶責(zé)任
案例四 廖某訴某科技文化有限公司網(wǎng)絡(luò)侵權(quán)責(zé)任糾紛案——未經(jīng)授權(quán)對(duì)包含他人肖像的視頻進(jìn)行“AI換臉”處理構(gòu)成對(duì)他人個(gè)人信息權(quán)益的侵害
案例五 唐某某訴某科技有限公司網(wǎng)絡(luò)服務(wù)合同糾紛案——網(wǎng)絡(luò)平臺(tái)利用算法工具檢測(cè)AI生成內(nèi)容但未盡到合理適度說(shuō)明義務(wù)的應(yīng)承擔(dān)違約責(zé)任
案例六 程某訴孫某網(wǎng)絡(luò)侵權(quán)責(zé)任糾紛案——利用AI軟件惡搞、丑化他人肖像構(gòu)成人格權(quán)侵權(quán)
案例七 某甲科技有限公司、某乙科技有限公司訴孫某某、某網(wǎng)絡(luò)科技有限公司著作權(quán)權(quán)屬、侵權(quán)糾紛案——具有獨(dú)創(chuàng)性的虛擬數(shù)字人形象構(gòu)成美術(shù)作品
案例八 何某訴某人工智能科技有限公司網(wǎng)絡(luò)侵權(quán)責(zé)任糾紛案——未經(jīng)同意創(chuàng)造自然人的AI形象構(gòu)成對(duì)人格權(quán)的侵害
案例一:
李某某訴劉某某侵害作品署名權(quán)和信息網(wǎng)絡(luò)傳播權(quán)糾紛案
——AI文生圖的法律屬性及權(quán)利歸屬的認(rèn)定
【基本案情】
2023年2月24日,原告李某某為畫(huà)出一幅在黃昏的光線條件下具有攝影風(fēng)格的少女特寫(xiě),使用生成式人工智能大模型Stable Diffusion,通過(guò)選取模型、輸入提示詞及反向提示詞、設(shè)置生成參數(shù)等操作生成圖片,并于2023年2月26日發(fā)布在小紅書(shū)平臺(tái)。2023年3月2日,被告劉某某在其注冊(cè)及使用的百家號(hào)賬號(hào)發(fā)布文章,將涉案圖片作為配圖,配圖中截去了原告的署名水印,未說(shuō)明圖片具體來(lái)源。據(jù)此,原告李某某提起訴訟,請(qǐng)求判令被告劉某某賠禮道歉并賠償經(jīng)濟(jì)損失。經(jīng)當(dāng)庭勘驗(yàn),在使用生成式人工智能大模型Stable Diffusion時(shí),通過(guò)變更個(gè)別提示詞或者變更個(gè)別參數(shù),大模型生成的圖片不同。
【裁判結(jié)果】
法院認(rèn)為,從涉案圖片的外觀上來(lái)看,涉案圖片與通常人們見(jiàn)到的照片、繪畫(huà)無(wú)異,顯然屬于藝術(shù)領(lǐng)域,且具有一定的表現(xiàn)形式。涉案圖片系原告利用生成式人工智能技術(shù)生成的,從原告構(gòu)思涉案圖片起,到最終選定涉案圖片止,原告進(jìn)行了一定的智力投入,故涉案圖片具備“智力成果”要件。從涉案圖片本身來(lái)看,體現(xiàn)出了與在先作品存在可以識(shí)別的差異性,體現(xiàn)了原告的選擇和安排,調(diào)整修正過(guò)程亦體現(xiàn)了原告的審美選擇和個(gè)性判斷。在無(wú)相反證據(jù)的情況下,可以認(rèn)定涉案圖片由原告獨(dú)立完成,體現(xiàn)出了原告的個(gè)性化表達(dá),故涉案圖片具備“獨(dú)創(chuàng)性”要件。涉案圖片是以線條、色彩構(gòu)成的有審美意義的平面造型藝術(shù)作品,屬于美術(shù)作品,受到著作權(quán)法的保護(hù)。就涉案作品的權(quán)利歸屬而言,著作權(quán)法規(guī)定,作者限于自然人、法人或非法人組織,因此人工智能模型本身無(wú)法成為我國(guó)著作權(quán)法上的作者。原告根據(jù)需要對(duì)涉案人工智能模型進(jìn)行相關(guān)設(shè)置,并最終選定涉案圖片的人,涉案圖片是基于原告的智力投入直接產(chǎn)生,且體現(xiàn)出原告的個(gè)性化表達(dá),故原告是涉案圖片的作者,享有涉案圖片的著作權(quán)。被告未經(jīng)許可,使用涉案圖片作為配圖并發(fā)布在自己的賬號(hào)中,使公眾可以在其選定的時(shí)間和地點(diǎn)獲得涉案圖片,侵害了原告就涉案圖片享有的信息網(wǎng)絡(luò)傳播權(quán)。此外,被告將涉案圖片進(jìn)行去除署名水印的處理,侵害了原告的署名權(quán),應(yīng)當(dāng)承擔(dān)侵權(quán)責(zé)任。判決:被告劉某某賠禮道歉并賠償經(jīng)濟(jì)損失。宣判后,雙方均未提起上訴,該判決已生效。
【典型意義】
本案明確人利用人工智能生成的內(nèi)容,若符合作品的定義,則應(yīng)被認(rèn)定為作品,受到著作權(quán)法保護(hù)。同時(shí)人工智能生成內(nèi)容的著作權(quán)權(quán)屬可根據(jù)開(kāi)發(fā)者、使用者、所有者等各參與方對(duì)人工智能生成內(nèi)容的獨(dú)創(chuàng)性智力貢獻(xiàn)進(jìn)行認(rèn)定。本案在回應(yīng)技術(shù)變革帶來(lái)權(quán)利認(rèn)定新問(wèn)題的同時(shí),為人工智能生成內(nèi)容的司法審查提供了制度適應(yīng)與規(guī)則回應(yīng)的實(shí)踐范式,具有引領(lǐng)性和方向性意義。本案入選新時(shí)代推動(dòng)法治進(jìn)程2024年度十大提名案件,2024中國(guó)數(shù)字經(jīng)濟(jì)發(fā)展與法治建設(shè)十個(gè)重大影響力事件、2023年度中國(guó)法治實(shí)施十大事件等。
案例二:
殷某某訴某智能科技公司等人格權(quán)侵權(quán)糾紛案
——自然人聲音權(quán)益可及于AI生成聲音
【基本案情】
原告殷某某是一名配音演員,發(fā)現(xiàn)他人利用其配音制作的作品在多個(gè)知名APP廣泛流傳。經(jīng)聲音篩選和溯源,發(fā)現(xiàn)上述作品中的聲音來(lái)自于被告一某智能科技公司運(yùn)營(yíng)的平臺(tái)中的文本轉(zhuǎn)語(yǔ)音產(chǎn)品。原告曾接受被告二某文化傳媒公司的委托錄制錄音制品,被告二為錄音制品的著作權(quán)人。后被告二將原告為其錄制的錄音制品的音頻提供給被告三某軟件公司。被告三僅以原告錄制的一部錄音制品作為素材進(jìn)行AI化處理,生成了涉案文本轉(zhuǎn)語(yǔ)音產(chǎn)品并在被告四某網(wǎng)絡(luò)科技公司運(yùn)營(yíng)的云服務(wù)平臺(tái)對(duì)外出售。被告一某智能科技公司與被告五某科技發(fā)展公司簽訂在線服務(wù)買賣合同,由被告五向被告三下單采購(gòu),其中包括了涉案文本轉(zhuǎn)語(yǔ)音產(chǎn)品。被告一某智能科技公司采取應(yīng)用程序接口形式,在未經(jīng)技術(shù)處理的情況下,直接調(diào)取并生成文本轉(zhuǎn)語(yǔ)音產(chǎn)品在其平臺(tái)中使用。原告主張,被告的行為已經(jīng)嚴(yán)重侵犯了原告的聲音權(quán)益,被告一某智能科技公司、被告三某軟件公司應(yīng)立即停止侵權(quán)、賠禮道歉,五被告應(yīng)當(dāng)賠償原告經(jīng)濟(jì)損失、精神損失。
【裁判結(jié)果】
法院認(rèn)為,自然人聲音以聲紋、音色、頻率為區(qū)分,具有獨(dú)特性、唯一性、穩(wěn)定性特點(diǎn),能夠給他人形成或引起一般人產(chǎn)生與該自然人有關(guān)的思想或感情活動(dòng),可以對(duì)外展示個(gè)人的行為和身份。自然人聲音的可識(shí)別性是指在他人反復(fù)多次或長(zhǎng)期聆聽(tīng)的基礎(chǔ)上,通過(guò)該聲音特征能識(shí)別出特定自然人。利用人工智能合成的聲音,如果能使一般社會(huì)公眾或者相關(guān)領(lǐng)域的公眾根據(jù)其音色、語(yǔ)調(diào)和發(fā)音風(fēng)格,關(guān)聯(lián)到該自然人,可以認(rèn)定為具有可識(shí)別性。本案中,因被告三系僅使用原告?zhèn)€人聲音開(kāi)發(fā)涉案文本轉(zhuǎn)語(yǔ)音產(chǎn)品,而且經(jīng)當(dāng)庭勘驗(yàn),該AI聲音與原告的音色、語(yǔ)調(diào)、發(fā)音風(fēng)格等具有高度一致性,能夠引起一般人產(chǎn)生與原告有關(guān)的思想或感情活動(dòng),能夠?qū)⒃撀曇袈?lián)系到原告本人,進(jìn)而識(shí)別出原告的主體身份。被告二對(duì)錄音制品享有著作權(quán)等權(quán)利,但不包括授權(quán)他人對(duì)原告聲音進(jìn)行AI化使用的權(quán)利。被告二與被告三公司簽訂數(shù)據(jù)協(xié)議,在未經(jīng)原告本人知情同意的情況下,授權(quán)被告三AI化使用原告聲音的行為無(wú)合法權(quán)利來(lái)源。因此,被告二、被告三關(guān)于獲得原告合法授權(quán)的抗辯不能成立。被告二、被告三未經(jīng)原告許可AI化使用了原告聲音,構(gòu)成對(duì)原告聲音權(quán)益的侵犯,其侵權(quán)行為造成了原告聲音權(quán)益受損的后果,應(yīng)承擔(dān)相應(yīng)的法律責(zé)任。被告一、被告四、被告五主觀上不存在過(guò)錯(cuò),不承擔(dān)損害賠償責(zé)任。因此,綜合考量被告侵權(quán)情節(jié)、同類市場(chǎng)產(chǎn)品價(jià)值、產(chǎn)品播放量等因素,對(duì)損害賠償予以酌定。判決:被告一、被告三向原告書(shū)面賠禮道歉,被告二、被告三賠償原告經(jīng)濟(jì)損失。宣判后,雙方均未提起上訴,該判決已生效。
【典型意義】
本案明確了經(jīng)人工智能技術(shù)處理的聲音受聲音權(quán)保護(hù)的認(rèn)定標(biāo)準(zhǔn),為新業(yè)態(tài)、新技術(shù)的應(yīng)用劃定了行為界限,有助于規(guī)范和引導(dǎo)人工智能技術(shù)沿著為民、向善的方向發(fā)展。本案入選最高人民法院發(fā)布的民法典頒布五周年典型案例,利用網(wǎng)絡(luò)、信息技術(shù)侵害人格權(quán)典型案例,2024年度中國(guó)十大傳媒法事例。
案例三:
李某某訴某文化傳媒有限公司網(wǎng)絡(luò)侵權(quán)責(zé)任糾紛案
——未經(jīng)權(quán)利人許可使用AI合成的名人聲音用于“帶貨”構(gòu)成侵權(quán),委托推廣商家應(yīng)承擔(dān)連帶責(zé)任
【基本案情】
原告李某某在教育、育兒領(lǐng)域具有一定知名度和社會(huì)影響力。2024年,原告李某某發(fā)現(xiàn)被告某文化傳媒有限公司在其運(yùn)營(yíng)的某網(wǎng)絡(luò)平臺(tái)店鋪中,通過(guò)使用原告李某某的公開(kāi)演講、授課視頻,并配以與原告聲音高度近似的AI合成聲音,對(duì)其銷售多本的家庭教育類圖書(shū)進(jìn)行宣傳推介。原告認(rèn)為被告未經(jīng)許可使用原告的肖像和通過(guò)AI合成的聲音制作宣傳產(chǎn)品,使原告的人格形象與其商業(yè)宣傳對(duì)象形成緊密關(guān)聯(lián),從而使消費(fèi)者誤以為原告是其銷售圖書(shū)的代言人或推介者,利用原告人格形象、專業(yè)背景和社會(huì)影響力吸引關(guān)注,增加交易機(jī)會(huì),侵犯了原告的肖像權(quán)和聲音權(quán)。被告作為圖書(shū)銷售者,與視頻發(fā)布者(某帶貨主播)之間為委托關(guān)系,共同完成銷售活動(dòng),被告對(duì)主播發(fā)布的視頻具有審查義務(wù)和能力,對(duì)涉案視頻的發(fā)布應(yīng)當(dāng)承擔(dān)賠禮道歉、賠償損失等侵權(quán)責(zé)任。
【裁判結(jié)果】
法院認(rèn)為,涉案視頻使用了原告李某某的肖像以及AI合成聲音,該聲音與原告李某某本人的聲音在音色、語(yǔ)調(diào)、發(fā)音風(fēng)格上具有高度一致性,結(jié)合原告李某某在教育、育兒領(lǐng)域的知名度,涉案視頻對(duì)家庭教育類書(shū)籍進(jìn)行宣傳推介,更易使觀看涉案視頻的公眾將視頻中的相關(guān)內(nèi)容與原告李某某之間建立聯(lián)系,可以認(rèn)定一定范圍內(nèi)的聽(tīng)眾能夠?qū)⑸姘窤I合成聲音與原告本人建立一一對(duì)應(yīng)的聯(lián)系。因此,涉案聲音落入李某某聲音權(quán)益的保護(hù)范圍。涉案推介視頻大幅使用原告肖像、合成模擬原告的聲音,未取得原告授權(quán),故涉案視頻的發(fā)布行為構(gòu)成對(duì)原告肖像權(quán)和聲音權(quán)益的侵犯。被告某文化傳媒有限公司與視頻發(fā)布者(某帶貨主播)依照平臺(tái)規(guī)則和服務(wù)相關(guān)約定達(dá)成委托推廣關(guān)系,共同為了推介被告書(shū)籍的目的發(fā)布涉案視頻、獲取相應(yīng)收益,且被告基于平臺(tái)規(guī)則和管理權(quán)限,具備對(duì)涉案視頻進(jìn)行審核管理的能力。在涉案視頻大幅使用原告肖像、合成模擬原告聲音的情況下,被告應(yīng)對(duì)視頻可能引發(fā)的侵權(quán)風(fēng)險(xiǎn)具有一定的預(yù)見(jiàn)性,并就視頻是否獲得了原告授權(quán)盡到合理的審查義務(wù),但在案證據(jù)表明被告未盡到其應(yīng)有審查注意義務(wù),故被告某文化傳媒有限公司應(yīng)與視頻發(fā)布者就侵權(quán)視頻發(fā)布承擔(dān)連帶責(zé)任。判決:被告某文化傳媒有限公司向原告李某某賠禮道歉、賠償經(jīng)濟(jì)損失及維權(quán)合理支出,駁回原告李某某其他訴訟請(qǐng)求。宣判后,雙方均未提起上訴,該判決已生效。
【典型意義】
隨著生成式人工智能技術(shù)的迅猛發(fā)展,名人聲音被“克隆”冒用越來(lái)越真假難辨,造成聲音侵權(quán)現(xiàn)象泛濫,消費(fèi)者極易被誤導(dǎo)。本案明確,利用AI深度合成技術(shù)合成的自然人聲音,只要能夠使一般社會(huì)公眾或相關(guān)領(lǐng)域公眾根據(jù)其音色、語(yǔ)調(diào)、發(fā)音風(fēng)格等識(shí)別出特定自然人,即具有可識(shí)別性,應(yīng)納入該自然人聲音權(quán)益的保護(hù)范圍。同時(shí),在商家委托視頻發(fā)布者帶貨的法律關(guān)系中,作為委托方和實(shí)際獲益者的平臺(tái)商家,對(duì)其關(guān)聯(lián)達(dá)人發(fā)布的推廣內(nèi)容負(fù)有合理審查義務(wù),商家不能僅以“被動(dòng)合作”“未參與制作”為由免責(zé),未盡到審核注意義務(wù)的,需與帶貨達(dá)人承擔(dān)連帶責(zé)任,進(jìn)而為規(guī)范電商推廣行為、壓實(shí)商家主體責(zé)任、治理AI“聲替”亂象提供規(guī)范指引,推動(dòng)人工智能與深度合成技術(shù)向上向善發(fā)展。
案例四:
廖某訴某科技文化有限公司網(wǎng)絡(luò)侵權(quán)責(zé)任糾紛案
——未經(jīng)授權(quán)對(duì)包含他人肖像的視頻進(jìn)行“AI換臉”處理,構(gòu)成對(duì)他人個(gè)人信息權(quán)益的侵害
【基本案情】
原告廖某是一名古風(fēng)短視頻博主,在全網(wǎng)擁有較多粉絲,被告某科技文化有限公司在未經(jīng)其授權(quán)同意的情況下,使用原告出鏡的系列視頻制作換臉模板,并上傳至涉案軟件中,提供給用戶付費(fèi)以此牟利。原告認(rèn)為被告的行為侵犯其肖像權(quán)與個(gè)人信息權(quán)益,要求被告書(shū)面賠禮道歉、并賠償原告經(jīng)濟(jì)損失與精神損失。被告某科技文化有限公司認(rèn)為,被告平臺(tái)發(fā)布的視頻均有合法來(lái)源,并且面部特征并非原告,并未侵害原告肖像權(quán)。此外,涉案軟件所使用的“換臉技術(shù)”實(shí)際由第三方提供,被告并未處理原告的個(gè)人信息,并未侵害原告的個(gè)人信息權(quán)益。經(jīng)法院查明,涉案換臉模板視頻與原告創(chuàng)作的系列視頻的妝容、發(fā)型、服飾、動(dòng)作、燈光及鏡頭切換呈現(xiàn)一致特征,但出鏡人的面部特征均不相同且并非原告。涉案軟件通過(guò)第三方公司的服務(wù)實(shí)現(xiàn)換臉功能,用戶交納會(huì)員費(fèi)可以解鎖所有換臉功能。
【裁判結(jié)果】
法院認(rèn)為,判斷是否侵犯肖像權(quán)的關(guān)鍵在于是否具備可識(shí)別性,可識(shí)別性強(qiáng)調(diào)肖像的本質(zhì)在于指向特定的人,而肖像的范圍以面部為核心,也可能涉及獨(dú)特的身體部位、聲音、識(shí)別性較高的特定動(dòng)作等能夠與特定自然人對(duì)應(yīng)的部分。本案中,被告雖然使用原告的視頻制作視頻模板,但并未利用原告的肖像,而是通過(guò)技術(shù)手段將原告面部特征替換,模板中所保留的妝容、發(fā)型、服飾、燈光、鏡頭切換等要素并非與特定自然人不可分割,與自然人與生俱來(lái)的人格要素存在區(qū)別,一般公眾通過(guò)替換后的視頻識(shí)別的主體為案外人而非本案原告。同時(shí),被告將視頻模板提供給用戶使用的行為并未丑化、污損、偽造原告肖像。因此,被告的行為不構(gòu)成對(duì)原告肖像權(quán)的侵害。但是,被告收集了包含原告人臉信息的出鏡視頻,將該視頻中的原告面部替換成自己提供的照片中面部,該合成過(guò)程需要將新的靜態(tài)圖片中的特征與原視頻部分面部特征、表情等通過(guò)算法進(jìn)行融合。上述過(guò)程,涉及對(duì)原告?zhèn)€人信息的收集、使用、分析等,屬于對(duì)原告?zhèn)€人信息的處理。被告處理該信息未經(jīng)過(guò)原告同意,因此構(gòu)成對(duì)原告?zhèn)€人信息權(quán)益的侵害。對(duì)于被告擅自使用他人制作的視頻侵害他人創(chuàng)造性勞動(dòng)成果的,應(yīng)由相應(yīng)權(quán)利人主張權(quán)利。判決:被告向原告書(shū)面致歉,賠償原告精神損失及精神撫慰金。宣判后,雙方均未提起上訴,該判決已生效。
【典型意義】
本案圍繞“AI換臉”這一新商業(yè)模式,對(duì)于生成合成式人工智能應(yīng)用過(guò)程中的肖像權(quán)、個(gè)人信息權(quán)益及基于勞動(dòng)創(chuàng)造投入的合法權(quán)益進(jìn)行準(zhǔn)確區(qū)分,既維護(hù)自然人的合法權(quán)益,又為人工智能技術(shù)和新興產(chǎn)業(yè)發(fā)展留有合理空間,對(duì)于服務(wù)和保障數(shù)字經(jīng)濟(jì)規(guī)范健康發(fā)展有重要意義。
案例五:
唐某某訴某科技有限公司網(wǎng)絡(luò)服務(wù)合同糾紛案
——網(wǎng)絡(luò)平臺(tái)利用算法工具檢測(cè)AI生成內(nèi)容但未盡到合理適度說(shuō)明義務(wù)的應(yīng)承擔(dān)違約責(zé)任
【基本案情】
原告唐某某在被告某科技有限公司運(yùn)營(yíng)的網(wǎng)絡(luò)平臺(tái)上發(fā)布二百多字文字內(nèi)容“打工并不能讓你真的賺到多少錢,但可以開(kāi)啟你的新視角……如果你對(duì)學(xué)車感興趣的話并且以后打算開(kāi)車的話,可以在你最清閑的一個(gè)假期完成它……工作之后就沒(méi)有太多完整的時(shí)間學(xué)駕照了”。被告某科技有限公司運(yùn)營(yíng)的平臺(tái)將該內(nèi)容判定為“包含AI生成內(nèi)容但未標(biāo)識(shí)”的違規(guī)情況,并將該內(nèi)容隱藏并作出將用戶禁言一天的處理。后原告唐某某進(jìn)行申訴未成功。原告唐某某主張其并未使用AI創(chuàng)作,被告某科技有限公司的行為違約,請(qǐng)求法院判令被告撤銷隱藏涉案內(nèi)容和禁言賬號(hào)一天的違規(guī)處理,并在后臺(tái)系統(tǒng)中刪除違規(guī)處理記錄。
【裁判結(jié)果】
法院認(rèn)為,網(wǎng)絡(luò)用戶在使用AI工具進(jìn)行創(chuàng)作并將相關(guān)內(nèi)容發(fā)布到網(wǎng)絡(luò)平臺(tái)時(shí),應(yīng)依照誠(chéng)信原則如實(shí)標(biāo)記。被告發(fā)布社區(qū)公告要求創(chuàng)作者在發(fā)布包含AIGC生成的內(nèi)容時(shí),應(yīng)主動(dòng)使用標(biāo)識(shí),對(duì)發(fā)布時(shí)未主動(dòng)聲明的內(nèi)容,平臺(tái)將采取適當(dāng)措施進(jìn)行流通限制并添加相關(guān)標(biāo)識(shí);未經(jīng)標(biāo)簽聲明,使用人工智能生成的內(nèi)容構(gòu)成違規(guī)。原告系平臺(tái)注冊(cè)用戶,上述公告屬于平臺(tái)服務(wù)協(xié)議的組成部分,被告有權(quán)根據(jù)協(xié)議對(duì)用戶發(fā)布內(nèi)容是否屬于AI生成合成內(nèi)容進(jìn)行審查和處理。在一般情況下,原告應(yīng)該提供如創(chuàng)作底稿、原件、源文件、源數(shù)據(jù)等證明人類創(chuàng)作屬性的初步證據(jù),但本案中原告回答內(nèi)容系即時(shí)性創(chuàng)作文本,客觀上無(wú)法提供上述證據(jù),由其提供上述證據(jù)不存在合理性和現(xiàn)實(shí)可行性。被告基于算法工具的運(yùn)算結(jié)果得出涉案內(nèi)容為AI生成合成的審查結(jié)論,被告既是算法工具掌控方又是結(jié)果判斷方,算法工具運(yùn)算過(guò)程和審查結(jié)果由被告掌控,被告應(yīng)就該事實(shí)進(jìn)行合理舉證或解釋說(shuō)明。雖然被告提供了算法的備案信息,但無(wú)法確認(rèn)備案信息與本案爭(zhēng)議的關(guān)聯(lián)性。被告未對(duì)算法決策依據(jù)和結(jié)果進(jìn)行適度的解釋和說(shuō)明,未對(duì)涉案內(nèi)容屬于AI生成合成的判斷依據(jù)和結(jié)果作出合理解釋,應(yīng)對(duì)其沒(méi)有事實(shí)依據(jù)的情況下對(duì)涉案賬戶的處理行為承擔(dān)違約責(zé)任。被告進(jìn)行人工復(fù)核的標(biāo)準(zhǔn)要求具有非常明顯的人類情感特征,該判斷并不具有科學(xué)依據(jù)以及較強(qiáng)的說(shuō)服力和可信度。法院判決被告展開(kāi)折疊的回答并刪除相關(guān)后臺(tái)記錄。被告不服一審判決提起上訴,后撤回上訴,一審判決生效。
【典型意義】
本案是對(duì)AI生成合成內(nèi)容標(biāo)識(shí)的標(biāo)記、平臺(tái)識(shí)別和治理在司法審查規(guī)則方面的有益探索,一方面肯定了網(wǎng)絡(luò)內(nèi)容服務(wù)平臺(tái)利用算法工具對(duì)AI生成合成內(nèi)容進(jìn)行審查和處理,履行信息內(nèi)容管理主體責(zé)任的積極作用;另一方面,認(rèn)定網(wǎng)絡(luò)內(nèi)容服務(wù)平臺(tái)在即時(shí)性創(chuàng)作文本場(chǎng)景下對(duì)使用算法自動(dòng)化決策結(jié)果承擔(dān)適度說(shuō)明義務(wù),并為司法審查階段的算法解釋說(shuō)明程度確立了一定的標(biāo)準(zhǔn)。本案通過(guò)司法個(gè)案裁判,合理分配網(wǎng)絡(luò)內(nèi)容服務(wù)平臺(tái)和用戶的舉證責(zé)任,推動(dòng)網(wǎng)絡(luò)內(nèi)容服務(wù)平臺(tái)提高算法的識(shí)別能力和決策能力,切實(shí)提升人工智能信息內(nèi)容治理水平。
案例六:
程某訴孫某網(wǎng)絡(luò)侵權(quán)責(zé)任糾紛案
——利用AI軟件惡搞、丑化他人肖像構(gòu)成人格權(quán)侵權(quán)
【基本案情】
原告程某與被告孫某同為攝影交流微信群成員,被告孫某未經(jīng)原告程某同意,使用AI軟件將原告程某用作微信頭像的肖像照片生成衣著暴露的動(dòng)漫風(fēng)格圖片,并發(fā)送至該攝影交流微信群內(nèi),后原告程某多次制止,被告孫某仍繼續(xù)使用涉案AI軟件將原告程某的上述微信頭像肖像照片AI生成衣著暴露且身體畸形的動(dòng)漫風(fēng)格圖片并微信私信原告。原告程某認(rèn)為被告孫某群發(fā)和私信的上述被訴侵權(quán)圖片,能夠識(shí)別出為原告本人形象,且圖片帶有嚴(yán)重的性暗示和丑化性質(zhì),使得原告的社會(huì)評(píng)價(jià)降低,構(gòu)成對(duì)原告肖像權(quán)、名譽(yù)權(quán)及一般人格權(quán)的侵害。原告程某據(jù)此要求被告賠禮道歉,并賠償精神損失和經(jīng)濟(jì)損失。
【裁判結(jié)果】
法院認(rèn)為,被告孫某發(fā)布于微信群內(nèi)的被訴侵權(quán)圖片系擅自利用原告程某微信頭像肖像照片AI生成,與原告程某微信頭像肖像照片所呈現(xiàn)的自然人外部形象在臉型、姿勢(shì)、造型等方面均具有高度的對(duì)應(yīng)關(guān)系,微信群成員能夠通過(guò)上述人物體貌及群聊的前后語(yǔ)境識(shí)別出被訴侵權(quán)圖片的人物外部形象所對(duì)應(yīng)的主體為原告,因此被告的群發(fā)行為構(gòu)成對(duì)原告肖像權(quán)的侵害。原告通過(guò)微信頭像展示的個(gè)人肖像照片是其網(wǎng)絡(luò)虛擬身份的標(biāo)識(shí)。被告利用AI軟件生成的上述被訴侵權(quán)圖片將原告穿著得體的微信頭像肖像照片生成為胸部暴露的圖片,引發(fā)了微信群內(nèi)針對(duì)原告的不當(dāng)討論,客觀上導(dǎo)致了他人對(duì)原告的低俗化評(píng)價(jià),構(gòu)成對(duì)原告肖像權(quán)、名譽(yù)權(quán)的侵害。此外,被告孫某利用AI軟件將原告程某微信頭像肖像照片生成人物腿部為木頭狀,甚至存在三只手臂的圖片,圖片中的人物體型明顯不符合人類基本身體結(jié)構(gòu),亦將人物的胸部進(jìn)行了暴露展示。被告將上述圖片私信原告,勢(shì)必會(huì)造成原告心理屈辱,侵害了原告的人格尊嚴(yán),構(gòu)成對(duì)原告一般人格權(quán)的侵害。判決:孫某向程某公開(kāi)賠禮道歉,賠償原告精神損失。宣判后,雙方均未提起上訴,該判決已生效。
【典型意義】
本案中,法院認(rèn)定行為人未經(jīng)許可利用AI軟件惡搞、丑化他人肖像構(gòu)成對(duì)他人人格權(quán)的侵害,強(qiáng)調(diào)生成式人工智能技術(shù)的使用者應(yīng)當(dāng)遵守法律、行政法規(guī),尊重社會(huì)公德和倫理道德,尊重他人合法權(quán)益,不得危害他人身心健康,明確了普通網(wǎng)絡(luò)用戶使用生成式人工智能技術(shù)的行為邊界,對(duì)人工智能時(shí)代下加強(qiáng)自然人人格權(quán)保護(hù)具有典型意義。
案例七:
某甲科技有限公司、某乙科技有限公司訴孫某某、某網(wǎng)絡(luò)科技有限公司著作權(quán)權(quán)屬、侵權(quán)糾紛案
——具有獨(dú)創(chuàng)性的虛擬數(shù)字人形象構(gòu)成美術(shù)作品
【基本案情】
虛擬數(shù)字人甲、乙由原告某甲科技有限公司、原告某乙科技有限公司等四家單位聯(lián)合制作,其中原告某甲科技有限公司為著作權(quán)人,原告某乙科技有限公司為被許可人。虛擬數(shù)字人甲在各平臺(tái)擁有超440萬(wàn)粉絲,曾獲評(píng)2022年文化產(chǎn)業(yè)和旅游業(yè)年度八大熱點(diǎn)事件。二原告主張,虛擬數(shù)字人甲、乙形象構(gòu)成美術(shù)作品,虛擬數(shù)字人甲形象首次發(fā)表于短劇《千***》第一集,虛擬數(shù)字人乙形象首次發(fā)表于微博賬號(hào)“之****”。被告某聯(lián)合創(chuàng)作單位員工孫某某離職后,在被告某網(wǎng)絡(luò)科技有限公司運(yùn)營(yíng)的某模型網(wǎng)上擅自售賣虛擬數(shù)字人甲、乙模型,侵害了二原告就虛擬數(shù)字人形象享有的復(fù)制權(quán)和信息網(wǎng)絡(luò)傳播權(quán),被告某網(wǎng)絡(luò)科技有限公司作為平臺(tái)方未盡到監(jiān)管責(zé)任,應(yīng)與被告孫某某承擔(dān)連帶責(zé)任。
【裁判結(jié)果】
法院認(rèn)為,虛擬數(shù)字人甲全身形象和乙的頭部形象,并不直接來(lái)源于真人,而是由制作團(tuán)隊(duì)制作,具有明顯的藝術(shù)創(chuàng)作效果,體現(xiàn)了制作團(tuán)隊(duì)對(duì)線條、色彩和具體形象設(shè)計(jì)的獨(dú)特的美學(xué)選擇和判斷,具備作品的獨(dú)創(chuàng)性要求,構(gòu)成美術(shù)作品。被告孫某某在某模型網(wǎng)發(fā)布被訴侵權(quán)模型,在人物五官、發(fā)型、發(fā)飾、服裝的設(shè)計(jì)及整體風(fēng)格,尤其是在權(quán)利作品具有獨(dú)創(chuàng)性的元素組合方面,與涉案作品虛擬數(shù)字人甲、乙形象相同或相似,可以認(rèn)定構(gòu)成實(shí)質(zhì)性相似,侵害了二原告對(duì)涉案作品享有的信息網(wǎng)絡(luò)傳播權(quán)。綜合考量被告某網(wǎng)絡(luò)科技有限公司服務(wù)的具體類型、對(duì)被訴內(nèi)容的干預(yù)程度、是否直接獲得經(jīng)濟(jì)利益、權(quán)利作品的知名度、被訴內(nèi)容的熱度等因素,被告某網(wǎng)絡(luò)科技有限公司作為網(wǎng)絡(luò)服務(wù)提供者不構(gòu)成共同侵權(quán)。虛擬數(shù)字人承載多重權(quán)益,本案僅就美術(shù)作品的權(quán)益進(jìn)行認(rèn)定,綜合考慮請(qǐng)求保護(hù)的權(quán)利類型、市場(chǎng)價(jià)值和侵權(quán)人主觀過(guò)錯(cuò)、侵權(quán)行為性質(zhì)和規(guī)模、損害后果嚴(yán)重程度確定本案的經(jīng)濟(jì)賠償金額。判決:被告孫某某賠償二原告經(jīng)濟(jì)損失。被告孫某某不服一審判決,提起上訴。二審法院判決駁回上訴,維持原判。
【典型意義】
本案涉及虛擬數(shù)字人形象的法律屬性及獨(dú)創(chuàng)性認(rèn)定。虛擬數(shù)字人由外在表現(xiàn)及技術(shù)內(nèi)核兩部分組成,具有數(shù)字化外形與類人化功能。在外在表現(xiàn)層面,如體現(xiàn)了制作團(tuán)隊(duì)對(duì)線條、色彩和具體形象設(shè)計(jì)的獨(dú)特的美學(xué)選擇和判斷,具備作品的獨(dú)創(chuàng)性要求,可以認(rèn)定為美術(shù)作品,受到著作權(quán)法保護(hù)。本案為同類案件裁判提供了借鑒,有利于助力虛擬數(shù)字人產(chǎn)業(yè)繁榮、推動(dòng)新質(zhì)生產(chǎn)力發(fā)展。
案例八:
何某訴某人工智能科技有限公司網(wǎng)絡(luò)侵權(quán)責(zé)任糾紛案
——未經(jīng)同意創(chuàng)造自然人的AI形象構(gòu)成對(duì)人格權(quán)的侵害
【基本案情】
某人工智能科技有限公司(以下簡(jiǎn)稱被告)是某款手機(jī)記賬軟件的開(kāi)發(fā)運(yùn)營(yíng)者,用戶在該軟件中可自行創(chuàng)設(shè)“AI陪伴者”,設(shè)置陪伴者的名稱、頭像,設(shè)置與該陪伴者的人物關(guān)系(如男女朋友、兄妹、母子等)。何某系公眾人物,知名度較高,在該款軟件中被大量用戶設(shè)置為陪伴人物。用戶在設(shè)置“何某”為陪伴人物時(shí),上傳了大量何某的肖像圖片設(shè)置人物頭像,同時(shí)設(shè)置了人物關(guān)系。被告通過(guò)算法部屬,將陪伴者“何某”按關(guān)系設(shè)定分類,并向其他用戶推薦該角色。為了使AI角色更加擬人化,被告還為AI角色提供了“調(diào)教”算法機(jī)制,即用戶上傳各類文字、肖像圖片、動(dòng)態(tài)表情等互動(dòng)語(yǔ)料,部分用戶參與審核,軟件進(jìn)行篩選、分類,形成人物語(yǔ)料。軟件可以根據(jù)話題類別、角色的人設(shè)特點(diǎn)等,在“何某”與用戶的對(duì)話中向用戶推送與其有關(guān)的“肖像表情包”和“撩人情話”,營(yíng)造出與其真人真實(shí)互動(dòng)的使用體驗(yàn)。原告認(rèn)為,被告的行為侵害了原告的姓名權(quán)、肖像權(quán)、一般人格權(quán),故訴至法院。
【裁判結(jié)果】
法院認(rèn)為,被告行為構(gòu)成對(duì)原告姓名權(quán)、肖像權(quán)、一般人格權(quán)的侵害。在被告的軟件功能和和算法設(shè)計(jì)下,用戶使用何某的姓名、肖像創(chuàng)設(shè)虛擬人物,制作互動(dòng)語(yǔ)料素材,將何某的姓名、肖像、人格特點(diǎn)等綜合而成的整體形象投射到AI角色上,形成了何某的虛擬形象,是對(duì)包含何某肖像、姓名的整體人格形象的使用。被告使用何某姓名、肖像的行為并未獲得何某的許可,構(gòu)成對(duì)何某姓名權(quán)、肖像權(quán)的侵害。同時(shí),用戶可以與AI角色設(shè)置虛擬身份關(guān)系,設(shè)定任意相互稱謂,通過(guò)制作語(yǔ)料素材“調(diào)教”角色,使得AI角色與真實(shí)自然人高度關(guān)聯(lián),容易讓用戶產(chǎn)生一種與何某真實(shí)互動(dòng)的情感體驗(yàn)。上述使用方式未經(jīng)何某同意,侵害了何某的人格尊嚴(yán)和人格自由利益,構(gòu)成對(duì)何某一般人格權(quán)益的侵害。
同時(shí),涉案軟件的服務(wù)與技術(shù)服務(wù)存在本質(zhì)不同,被告并非提供簡(jiǎn)單的用戶內(nèi)容上傳服務(wù),而是通過(guò)規(guī)則設(shè)定、算法設(shè)計(jì),組織、鼓勵(lì)用戶形成侵權(quán)素材,與其共同創(chuàng)設(shè)虛擬形象,并使用到用戶服務(wù)中。被告的產(chǎn)品設(shè)計(jì)和算法應(yīng)用鼓勵(lì)、組織了涉案虛擬形象的創(chuàng)設(shè),直接決定了軟件核心功能的實(shí)現(xiàn),不再是中立的技術(shù)服務(wù)提供者,而應(yīng)作為網(wǎng)絡(luò)內(nèi)容服務(wù)提供者承擔(dān)侵權(quán)責(zé)任。判決:被告向原告公開(kāi)賠禮道歉,賠償原告精神損失及經(jīng)濟(jì)損失。被告不服一審判決提起上訴,后撤回上訴,一審判決生效。
【典型意義】
本案明確自然人的人格權(quán)及于其虛擬形象,未經(jīng)許可擅自創(chuàng)設(shè)、使用自然人虛擬形象的,構(gòu)成對(duì)自然人人格權(quán)的侵害;網(wǎng)絡(luò)服務(wù)提供者通過(guò)算法設(shè)計(jì)實(shí)質(zhì)參與了侵權(quán)內(nèi)容的生成和提供,應(yīng)按照內(nèi)容服務(wù)提供者承擔(dān)侵權(quán)責(zé)任。本案對(duì)加強(qiáng)人格權(quán)保護(hù)具有重要意義,入選最高人民法院“民法典頒布后人格權(quán)司法保護(hù)典型民事案例”、北京法院參閱案例。
審管辦(研究室)主任李文超主持發(fā)布會(huì)
市人大代表萬(wàn)欣、蘭雪純、鄔光榮、劉克友、安麗娟、楊中春、楊華、祖彬、郭曉靜,市政協(xié)委員高警兵參加了本次新聞發(fā)布會(huì)。代表委員們紛紛表示,本次發(fā)布會(huì)順應(yīng)時(shí)代發(fā)展趨勢(shì),站在人工智能技術(shù)與產(chǎn)業(yè)發(fā)展前沿,從案件內(nèi)容到審判理念都體現(xiàn)出互聯(lián)網(wǎng)法院的鮮明特色。北京互聯(lián)網(wǎng)法院積極回應(yīng)人工智能產(chǎn)業(yè)司法需求,做到了司法裁判與人工智能產(chǎn)業(yè)的創(chuàng)新變革同頻共振。
未來(lái),北京互聯(lián)網(wǎng)法院將繼續(xù)發(fā)揮自身優(yōu)勢(shì)、積極開(kāi)拓創(chuàng)新,以人為本、智能向善、激勵(lì)創(chuàng)新,妥善審理涉人工智能新類型案件,為推動(dòng)首都經(jīng)濟(jì)社會(huì)高質(zhì)量發(fā)展、促進(jìn)完善人工智能治理貢獻(xiàn)更多智慧。