國家互聯(lián)網(wǎng)信息辦公室、工業(yè)和信息化部、公安部、國家廣播電視總局聯(lián)合發(fā)布的《人工智能生成合成內(nèi)容標(biāo)識辦法》(以下簡稱《標(biāo)識辦法》)將于2025年9月1日起正式施行(點(diǎn)擊查看詳情)?!稑?biāo)識辦法》規(guī)范了人工智能生成合成內(nèi)容標(biāo)識的使用,要求用戶發(fā)布AI生成合成內(nèi)容時主動聲明并進(jìn)行標(biāo)識,網(wǎng)絡(luò)信息內(nèi)容傳播服務(wù)提供者應(yīng)當(dāng)采取措施,規(guī)范生成合成內(nèi)容傳播活動,如核驗文件元數(shù)據(jù)、添加顯著提示標(biāo)識并提醒公眾,提供必要的標(biāo)識功能并提醒用戶主動聲明發(fā)布內(nèi)容中是否包含生成合成內(nèi)容,當(dāng)未核驗到隱式標(biāo)識用戶亦未聲明但平臺識別為疑似生成合成內(nèi)容時,應(yīng)當(dāng)采取適當(dāng)方式在發(fā)布內(nèi)容周邊添加顯著標(biāo)識,提示公眾該內(nèi)容疑似生成合成內(nèi)容。
北京互聯(lián)網(wǎng)法院審結(jié)了一起網(wǎng)絡(luò)服務(wù)合同糾紛案,原被告雙方作為用戶和網(wǎng)絡(luò)服務(wù)提供者,圍繞人工智能生成內(nèi)容標(biāo)識起了爭端。
基本案情
原告為涉案平臺用戶,被告為涉案平臺運(yùn)營者。原告在平臺上發(fā)布了“打工并不能讓你真的賺到多少錢,但可以開啟你的新視角……如果你對學(xué)車感興趣的話并且以后打算開車的話,可以在你最清閑的一個假期完成它……工作之后就沒有太多完整的時間學(xué)駕照了”,該內(nèi)容被涉案平臺判定為“包含AI生成內(nèi)容但未標(biāo)識”的違規(guī)情況,涉案平臺作出將該內(nèi)容隱藏并將用戶禁言一天的處理。后原告進(jìn)行申訴未成功。
原告主張,其并未使用AI創(chuàng)作,被告的行為違約,請求法院判令被告撤銷隱藏涉案內(nèi)容和禁言賬號一天的違規(guī)處理,并在后臺系統(tǒng)中刪除違規(guī)處理記錄。
被告辯稱,被告有權(quán)依據(jù)雙方網(wǎng)絡(luò)服務(wù)合同審核認(rèn)定原告使用平臺服務(wù)時的違規(guī)行為并采取必要治理措施,不構(gòu)成違約。涉案平臺規(guī)范中明確規(guī)定,“創(chuàng)作者在發(fā)布包含人工智能生成內(nèi)容時,應(yīng)主動使用‘人工智能生成內(nèi)容’的標(biāo)簽進(jìn)行聲明,未主動聲明的內(nèi)容,平臺將采取適當(dāng)措施進(jìn)行流量限制并添加相關(guān)標(biāo)識?!痹姘l(fā)布的內(nèi)容經(jīng)機(jī)器識別為“包含人工智能生成”,經(jīng)過人工復(fù)核,認(rèn)定該內(nèi)容缺乏明顯的人類情感特征。被告作為網(wǎng)絡(luò)服務(wù)提供方,有權(quán)自行選擇合理、必要的方式和技術(shù),網(wǎng)絡(luò)服務(wù)合同未約定被告有義務(wù)向用戶提供、解釋技術(shù)秘密和算法邏輯,原告無權(quán)獲知。被告針對人工智能治理需求開發(fā)、部署、運(yùn)行自研深度合成算法模型是合理、必要的,并設(shè)置專門測試團(tuán)隊通過技術(shù)手段觀察、抽檢模型運(yùn)行的準(zhǔn)確率,如發(fā)生準(zhǔn)確率下降或異常波動,被告會及時對模型進(jìn)行優(yōu)化迭代。涉案內(nèi)容被識別、標(biāo)記期間,模型準(zhǔn)確率沒有變化。請求法院依法駁回原告的訴訟請求。
被告提交其在互聯(lián)網(wǎng)信息服務(wù)算法備案系統(tǒng)公示的相關(guān)算法機(jī)制機(jī)理內(nèi)容作為算法決策判定的證據(jù),主張與涉案檢測內(nèi)容相關(guān)聯(lián)的部分為“回答安全判別模塊”,其表述為“以自研的指令微調(diào)模型為基座。基于收集并標(biāo)注的有安全風(fēng)險的回答為語料訓(xùn)練的能力,能攔截掉對話深度合成模型生成的大部分違規(guī)回答”。
法院經(jīng)審理認(rèn)為
平臺有權(quán)依據(jù)合同約定對涉案內(nèi)容是否屬于AI生成合成內(nèi)容進(jìn)行審查和處理
網(wǎng)絡(luò)用戶在使用AI工具進(jìn)行創(chuàng)作并將相關(guān)內(nèi)容發(fā)布到網(wǎng)絡(luò)平臺時,應(yīng)依照誠信原則如實標(biāo)記。本案中,被告結(jié)合《互聯(lián)網(wǎng)信息服務(wù)深度合成管理規(guī)定》中有關(guān)深度合成標(biāo)識的管理規(guī)定和網(wǎng)絡(luò)空間治理的現(xiàn)實需要,發(fā)布了社區(qū)公告載明“創(chuàng)作者在發(fā)布包含AIGC生成的內(nèi)容時,應(yīng)主動使用標(biāo)識,幫助讀者進(jìn)行區(qū)分。對發(fā)布時未主動聲明的內(nèi)容,平臺將采取適當(dāng)措施進(jìn)行流通限制并添加相關(guān)標(biāo)識”“未經(jīng)標(biāo)簽聲明,使用人工智能生成的內(nèi)容構(gòu)成違規(guī)”。原告系平臺注冊用戶,上述公告屬于平臺服務(wù)協(xié)議的組成部分。因此,被告有權(quán)依據(jù)合同約定對涉案內(nèi)容是否屬于AI生成合成內(nèi)容進(jìn)行審查和處理。
平臺的審查及處理結(jié)果應(yīng)有合理依據(jù)
本案中,原告主張涉案內(nèi)容并非AI生成內(nèi)容,被告對涉案內(nèi)容的審查及處理違反平臺服務(wù)協(xié)議,在一般情況下,原告應(yīng)該提供如創(chuàng)作底稿、原件、源文件、源數(shù)據(jù)等證明人類創(chuàng)作屬性的初步證據(jù),但本案中原告回答內(nèi)容系即時性創(chuàng)作文本,在客觀上無法提供上述證據(jù),由其提供上述證據(jù)亦不存在合理性和現(xiàn)實可行性。而被告基于算法工具的運(yùn)算結(jié)果得出涉案內(nèi)容為AI生成合成的審查結(jié)論,被告既是算法工具掌控方又是結(jié)果判斷方,算法工具運(yùn)算過程和審查結(jié)果由被告掌控,在此情況下,被告應(yīng)就該事實進(jìn)行合理舉證或解釋說明。
雖然被告在本案中提供了算法的備案信息,但公示內(nèi)容顯示該算法功能為識別有安全風(fēng)險的回答,無法認(rèn)定其系對AI生成合成識別判斷的技術(shù),故無法確認(rèn)備案信息與本案爭議的關(guān)聯(lián)性,因此被告未對涉案內(nèi)容屬于AI生成合成的判斷依據(jù)和結(jié)果作出合理解釋。此外,被告對人工復(fù)核程序的解釋為需要非常明顯的人類情感特征才能駁回算法決策結(jié)果,而該判斷標(biāo)準(zhǔn)更多依賴主觀認(rèn)識和個人經(jīng)驗,并不具有科學(xué)依據(jù)以及較強(qiáng)的說服力和可信度。
綜上,被告未對算法決策依據(jù)和結(jié)果進(jìn)行適度的解釋和說明,應(yīng)對其沒有事實依據(jù)的情況下對涉案賬戶的處理行為承擔(dān)違約責(zé)任。被告系統(tǒng)后臺僅存在“折疊回答”這一條處理記錄,現(xiàn)因該處理已在本案中被判定為不合規(guī),被告應(yīng)對該處理記錄予以刪除。對“禁言1天”的處理沒有后臺記錄,原告主張刪除沒有事實依據(jù),法院對該訴訟請求不予支持。
裁判結(jié)果
判決被告展開對于涉案內(nèi)容的隱藏,刪除在后臺的違規(guī)處理記錄。駁回原告的其他訴訟請求。
目前,該案判決已生效。
法官說法
生成式人工智能技術(shù)在內(nèi)容的生成合成方面展現(xiàn)了巨大的能量和潛力,為數(shù)字經(jīng)濟(jì)發(fā)展注入強(qiáng)大動力。與此同時,在AI生成合成內(nèi)容未進(jìn)行“AI標(biāo)識”的情況下,公眾難以區(qū)分AI生成合成內(nèi)容和人類創(chuàng)作內(nèi)容,利用AI實施詐騙、侵權(quán)等違法犯罪的行為不斷攀升。AI生成合成內(nèi)容標(biāo)識作為對人工智能生成內(nèi)容監(jiān)管的有益工具和必要手段,會對凈化網(wǎng)絡(luò)內(nèi)容環(huán)境和網(wǎng)絡(luò)空間治理起到一定積極作用。本案對于平臺運(yùn)用算法工具進(jìn)行AI生成合成內(nèi)容治理引發(fā)的網(wǎng)絡(luò)服務(wù)合同糾紛裁判作出以下探索:
網(wǎng)絡(luò)內(nèi)容服務(wù)平臺有權(quán)利用算法工具對用戶發(fā)布的內(nèi)容是否使用AI生成合成進(jìn)行審查和處理。平臺通過用戶協(xié)議、社區(qū)規(guī)范、處罰規(guī)則等明確告知用戶需要遵守AI生成合成內(nèi)容標(biāo)識規(guī)定,如用戶違反有關(guān)規(guī)定,平臺可對違規(guī)行為進(jìn)行處理。
若網(wǎng)絡(luò)內(nèi)容服務(wù)平臺判定用戶發(fā)布的內(nèi)容為AI生成合成,用戶需要提供證明該內(nèi)容系人類創(chuàng)作的初步證據(jù),人民法院可結(jié)合創(chuàng)作形式、內(nèi)容、載體等因素綜合調(diào)整用戶的舉證責(zé)任,并認(rèn)定證據(jù)的證明效力。
網(wǎng)絡(luò)用戶提供初步證據(jù)后,網(wǎng)絡(luò)內(nèi)容服務(wù)平臺應(yīng)舉證證明其使用算法工具進(jìn)行判定的正確性或進(jìn)行必要限度的解釋說明,網(wǎng)絡(luò)內(nèi)容服務(wù)平臺不得僅以涉及商業(yè)秘密為由規(guī)避該義務(wù)。
對于算法解釋的司法審查應(yīng)符合比例原則。一般情況下,平臺無需提供技術(shù)細(xì)節(jié)、源代碼或原始數(shù)據(jù),而需圍繞案件爭議事實以可理解的方式舉證或說明算法運(yùn)行機(jī)制、對應(yīng)可能出現(xiàn)的誤判是否采取了合理的救濟(jì)措施。
專家點(diǎn)評
中國人民大學(xué)法學(xué)院副教授
信息文明與國家治理研究所所長
黃尹旭
本案是對AI生成合成內(nèi)容標(biāo)識的標(biāo)記、平臺識別和治理在司法審查規(guī)則方面的有益探索,一方面肯定了網(wǎng)絡(luò)內(nèi)容服務(wù)平臺利用算法工具對AI生成合成內(nèi)容進(jìn)行審查和處理,履行信息內(nèi)容管理主體責(zé)任的積極作用;另一方面,認(rèn)定網(wǎng)絡(luò)內(nèi)容服務(wù)平臺在即時性創(chuàng)作文本場景下對使用算法自動化決策結(jié)果承擔(dān)適度說明義務(wù),并為司法審查階段的算法解釋說明程度確立了一定的標(biāo)準(zhǔn)。明確算法解釋說明的司法審查標(biāo)準(zhǔn),既保障了網(wǎng)絡(luò)用戶合法權(quán)益,又能有效推動算法公開透明,規(guī)范算法應(yīng)用行為,推動平臺經(jīng)濟(jì)健康發(fā)展。需要強(qiáng)調(diào)的是,算法治理需在保障技術(shù)透明度與激發(fā)產(chǎn)業(yè)創(chuàng)新活力間尋求動態(tài)平衡。司法審查應(yīng)本著包容審慎的態(tài)度,在“算法信息適當(dāng)公開”與“算法商業(yè)秘密適度保護(hù)”之間達(dá)成平衡。同時本案通過司法個案裁判,合理分配網(wǎng)絡(luò)內(nèi)容服務(wù)平臺和用戶的舉證責(zé)任,推動網(wǎng)絡(luò)內(nèi)容服務(wù)平臺提高算法的識別能力和決策能力,切實提升人工智能信息內(nèi)容治理水平。
法官簡介
法官 ?袁建華
袁建華,北京互聯(lián)網(wǎng)法院綜合審判一庭副庭長、四級高級法官,擁有20年從業(yè)及審判經(jīng)驗,多次榮立北京市法院個人三等功,多次被評為北京市法院優(yōu)秀公務(wù)員,榮獲北京市法院先進(jìn)工作者、北京市政法系統(tǒng)“群眾心目中的好黨員”、北京市十佳調(diào)解速裁團(tuán)隊等稱號。