?　　作者：張鵬? 北京市中倫律師事務(wù)所高級(jí)顧問(wèn)

　　隨著生成式人工智能等顛覆性 AI 技術(shù)的突飛猛進(jìn)，人類社會(huì)的生產(chǎn)、生活方式乃至社會(huì)治理模式都將隨之迎來(lái)新的變革。在這一時(shí)代背景下，如何認(rèn)識(shí)人工智能產(chǎn)業(yè)發(fā)展帶來(lái)的各種法律問(wèn)題，也越來(lái)越具有現(xiàn)實(shí)意義?；诖?，7月13日，由中國(guó)人民大學(xué)知識(shí)產(chǎn)權(quán)學(xué)院主辦、知產(chǎn)財(cái)經(jīng)協(xié)辦的“人工智能相關(guān)法律適用問(wèn)題”研討會(huì)在北京舉辦，會(huì)議邀請(qǐng)了行業(yè)多領(lǐng)域代表，共同探討和研究實(shí)務(wù)中遇到的涉人工智能法律問(wèn)題及解決之道，以期為人工智能相關(guān)環(huán)節(jié)的法律適用問(wèn)題探究答案。會(huì)上，北京市中倫律師事務(wù)所高級(jí)顧問(wèn)張鵬律師圍繞“歐盟《人工智能法案》基于風(fēng)險(xiǎn)的立法特點(diǎn)與對(duì)我國(guó)的啟示”話題進(jìn)行主題演講，知產(chǎn)財(cái)經(jīng)對(duì)其主講內(nèi)容進(jìn)行了整理，以饗讀者。

　　感謝主辦方的邀請(qǐng)，在討論人工智能怎么保護(hù)、用什么保護(hù)的問(wèn)題之前，我們先聊聊人工智能要不要保護(hù)、哪些要保護(hù)的問(wèn)題。

　　就在昨天，歐盟官方公報(bào)公布了《人工智能法》。我們?cè)趯?shí)務(wù)中會(huì)涉及到很多人工智能相關(guān)業(yè)務(wù)的合規(guī)性分析，包括著作權(quán)合規(guī)、知識(shí)產(chǎn)權(quán)合規(guī)，以及其他領(lǐng)域的合規(guī)。結(jié)合這些，談一下實(shí)務(wù)中考慮的一些問(wèn)題。

　　一、基本背景：人工智能技術(shù)發(fā)展進(jìn)入第三次熱潮

　　首先談一談人工智能技術(shù)發(fā)展的主要?dú)v史階段。人工智能技術(shù)經(jīng)歷了兩次高潮，兩次寒冬，現(xiàn)在進(jìn)入第三次熱潮。在不同發(fā)展階段，人工智能技術(shù)所基于的基礎(chǔ)邏輯、理論有所不同。

　　人工智能的第一次熱潮是基于行為主義的算法邏輯構(gòu)建的。行為主義的算法邏輯，即基于歷史行為分析未來(lái)行為。行為主義的算法邏輯下，人工智能技術(shù)的算力不足，導(dǎo)致了第一次寒冬。

　　在算力得以突破后，人工智能技術(shù)進(jìn)入第二次熱潮，判斷邏輯從行為主義轉(zhuǎn)變?yōu)樗季S主義（工具主義）。思維主義（工具主義）邏輯探究因果關(guān)系。在思維主義（工具主義）的判斷邏輯下，人工智能技術(shù)經(jīng)歷了第二次高潮的發(fā)展。

　　人工智能技術(shù)發(fā)展的第二次寒冬，是依靠大數(shù)據(jù)來(lái)突破的。有了大數(shù)據(jù)，人工智能技術(shù)的判斷邏輯從行為主義、工具主義變革到了結(jié)構(gòu)主義。

　　簡(jiǎn)單概括人工智能技術(shù)發(fā)展的三次熱潮和兩次寒冬：第一次熱潮，人工智能技術(shù)試圖模仿人的行為，遇到了算力的瓶頸。第二次熱潮，人工智能技術(shù)試圖模仿人類的思維，建構(gòu)因果關(guān)系，遇到了大數(shù)據(jù)的瓶頸。第三次熱潮，是在做“比我更像我自己”的人工智能。第三次熱潮跟前兩次的差別在哪？前兩次是“模仿永遠(yuǎn)不會(huì)超越”，模仿我的行為、思維，最多越來(lái)越像我，但永遠(yuǎn)不會(huì)做更好的我。但是在第三次熱潮的“比我更像我自己”的邏輯下，人工智能完全可以做到超越我、更像我自己，因?yàn)槿斯ぶ悄芸梢缘玫礁喾答仭＿@也是現(xiàn)在所討論的人工智能的規(guī)制和以前所存在的本質(zhì)性差異。在模仿我的行為、模仿我的思維的階段，我們對(duì)人工智能的技術(shù)向善的關(guān)注程度和需求，不會(huì)像現(xiàn)階段“人工智能比我更像我自己”這樣強(qiáng)烈，這也是討論歐盟《人工智能法》的基本技術(shù)背景和產(chǎn)業(yè)背景。

　　二、歐盟《人工智能法》概況總覽

　?。ㄒ唬W盟《人工智能法》的立法目的

　　從歐盟《人工智能法案》的立法歷程可以看到，德國(guó)、法國(guó)都提到過(guò)，對(duì)人工智能的規(guī)制帶來(lái)的結(jié)果可能是對(duì)產(chǎn)業(yè)發(fā)展的影響。規(guī)制越多，產(chǎn)業(yè)的成本越高，所有的合規(guī)成本都落在企業(yè)。事實(shí)上，歐盟在《人工智能法》的制定過(guò)程中，一方面在鼓勵(lì)創(chuàng)新，另一方面在討論人工智能的治理，以及相應(yīng)的對(duì)人的基本權(quán)利和相應(yīng)倫理的維護(hù)，并試圖平衡兩者。

　　歐盟《人工智能法》的立法目的，如剛才提到，在“比我更像我自己”的技術(shù)背景下，需要考慮兩方面問(wèn)題，即保障歐盟公民的基本權(quán)利并且激勵(lì)歐洲人工智能的投資與創(chuàng)新。要促進(jìn)創(chuàng)新、促進(jìn)投資，一定是越少監(jiān)管越好，越少的監(jiān)管，創(chuàng)新越活躍。

　　（二）歐盟《人工智能法》的適用范圍

　　《人工智能法》的適用范圍很廣泛，不僅局限于歐洲。法案適用于所有位于歐盟境內(nèi)的AI使用者，以及位于歐盟以外但相關(guān)系統(tǒng)可能在歐盟境內(nèi)使用的AI系統(tǒng)的提供商和部署者，或其位于歐盟境內(nèi)的授權(quán)方。根據(jù)法案第2節(jié)適用范圍規(guī)定，該法案適用于不同層級(jí)的AI模型及應(yīng)用參與者，具體包括：提供商、部署者、進(jìn)口商、分銷商和產(chǎn)品制造商 。這意味著參與AI系統(tǒng)的開(kāi)發(fā)、使用、進(jìn)口、分銷或制造以及人工智能上層模型開(kāi)發(fā)的所有各方都將承擔(dān)責(zé)任。此外，即便提供或部署者位于非歐盟成員國(guó)的第三國(guó)家，一旦相關(guān)系統(tǒng)能夠在歐盟境內(nèi)使用，該法案同樣適用于位于歐盟以外的AI系統(tǒng)的提供商和部署者，或其位于歐盟境內(nèi)的授權(quán)方。為激勵(lì)創(chuàng)新、鞏固歐盟在人工智能研發(fā)前沿地位等目的，法案各項(xiàng)義務(wù)不適用于用于科研、測(cè)試或開(kāi)發(fā)等活動(dòng)的非商用或尚未商用的人工智能（商用后適用）。

　?。ㄈW盟《人工智能法》的總體結(jié)構(gòu)

　　歐盟《人工智能法》涵蓋七個(gè)方面的內(nèi)容，具體為，（1）人工智能系統(tǒng)（AI System）在歐盟市場(chǎng)上的投放、服務(wù)和使用的統(tǒng)一規(guī)則；（2）禁止某些人工智能行為；（3）對(duì)高風(fēng)險(xiǎn)人工智能系統(tǒng)的具體要求以及此類系統(tǒng)運(yùn)營(yíng)商的義務(wù)；（4）某些人工智能系統(tǒng)的統(tǒng)一透明度規(guī)則；（5）通用人工智能模型投放市場(chǎng)的統(tǒng)一規(guī)則；（6）關(guān)于市場(chǎng)監(jiān)測(cè)、市場(chǎng)監(jiān)督治理和執(zhí)法的規(guī)則；（7）支持創(chuàng)新的措施，特別關(guān)注包括初創(chuàng)企業(yè)在內(nèi)的中小企業(yè)。

　　（四）歐盟《人工智能法》的客體定義

　　歐盟《人工智能法》對(duì)人工智能系統(tǒng)的定義與世界經(jīng)合組織（OECD）的定義大致一致，以確保法律確定性并促進(jìn)國(guó)際協(xié)調(diào)。歐盟認(rèn)為，這將為區(qū)分人工智能系統(tǒng)與更簡(jiǎn)單的軟件系統(tǒng)提供充分而明確的標(biāo)準(zhǔn)，確保采取適當(dāng)?shù)谋O(jiān)管方法。歐盟《人工智能法》認(rèn)為，“人工智能系統(tǒng)是一種基于機(jī)器的系統(tǒng)，針對(duì)顯式或隱式目標(biāo)，從接收到的輸入推斷如何生成可能影響物理或虛擬環(huán)境的預(yù)測(cè)、內(nèi)容、建議或決策等輸出。不同的人工智能系統(tǒng)部署后的自主性和適應(yīng)性水平各不相同?！痹摲ú捎幂^為寬泛的人工智能系統(tǒng)定義范圍，適用范圍較大，也間接導(dǎo)致了該法采用基于風(fēng)險(xiǎn)的分級(jí)監(jiān)管模式，以達(dá)到限縮影響范圍的目的。

　　三、歐盟《人工智能法》立法特點(diǎn)

　　歐盟人工智能法的立法特點(diǎn)可以概括為“分類化，全主體，全鏈條，動(dòng)態(tài)化”。

　?。ㄒ唬┓诸惢猴L(fēng)險(xiǎn)劃分起點(diǎn)

　　從歐盟的立法文件來(lái)看，歐盟人工智能治理的整體邏輯是致力于精細(xì)化管理，精細(xì)化管理的前提就是分類，進(jìn)而在不同的分類框架下進(jìn)行差異化規(guī)制。對(duì)人工智能的監(jiān)管越多越不容易創(chuàng)新，所以就把監(jiān)管放到該監(jiān)管的分類下，目的是為了平衡“維護(hù)技術(shù)向善”與“促進(jìn)投資創(chuàng)新”這兩個(gè)價(jià)值取向。

　　歐盟《人工智能法》基于人工智能系統(tǒng)對(duì)用戶和社會(huì)的潛在影響程度，將其分為4類：不可接受風(fēng)險(xiǎn)類、高風(fēng)險(xiǎn)類、有限風(fēng)險(xiǎn)類、最小風(fēng)險(xiǎn)類。每個(gè)類別適用不同程度的監(jiān)管要求。不可接受風(fēng)險(xiǎn)類將被完全禁止投入使用。高風(fēng)險(xiǎn)的人工智能系統(tǒng)須遵守更嚴(yán)格的合規(guī)要求。除此以外，多數(shù)人工智能系統(tǒng)屬于風(fēng)險(xiǎn)較低的類別，將適用法案所制定的原則性義務(wù)（例如披露義務(wù)）及行為準(zhǔn)則等。

　　（二）全主體：基于風(fēng)險(xiǎn)的各類主體義務(wù)

　　歐盟《人工智能法》規(guī)定了從提供者到部署者、分銷商、進(jìn)口商各自承擔(dān)的義務(wù)，相關(guān)主體的合規(guī)成本總體上較高。

　?。ㄈ┤湕l：基于風(fēng)險(xiǎn)的全鏈條監(jiān)管體系

　　針對(duì)高風(fēng)險(xiǎn)的人工智能應(yīng)用系統(tǒng)，歐盟設(shè)計(jì)了一系列貫穿相關(guān)人工智能系統(tǒng)生命周期的具體、持續(xù)和迭代的風(fēng)險(xiǎn)管理流程（Article 9），將成為法案在人工智能基于風(fēng)險(xiǎn)的風(fēng)險(xiǎn)管理上的一大立法突破。具體實(shí)施將取決于法案生效并適用后向相關(guān)主管機(jī)構(gòu)的監(jiān)管和執(zhí)法情況。換句話說(shuō)，“刑不可知，則威不可測(cè)”，具體監(jiān)管和執(zhí)法情況到底如何仍然有待觀察。

　　（四）動(dòng)態(tài)化：風(fēng)險(xiǎn)的動(dòng)態(tài)調(diào)整

　　AI技術(shù)的快速發(fā)展導(dǎo)致AI系統(tǒng)風(fēng)險(xiǎn)程度和類型的隨時(shí)變化。因此，歐盟《人工智能法》在風(fēng)險(xiǎn)評(píng)估、技術(shù)監(jiān)測(cè)、合格評(píng)估、程序管控的各個(gè)方面實(shí)行動(dòng)態(tài)化的調(diào)整。

　　（五）“基于風(fēng)險(xiǎn)”立法措施的爭(zhēng)議

　　關(guān)于歐盟《人工智能法》采用的“基于風(fēng)險(xiǎn)”的立法措施，也存在一些爭(zhēng)議，需要全面了解。

　　1. 風(fēng)險(xiǎn)計(jì)算和衡量標(biāo)準(zhǔn)及過(guò)程透明度問(wèn)題

　　最大的爭(zhēng)議是“風(fēng)險(xiǎn)”本身的界定分級(jí)問(wèn)題。歐盟人工智能法的基礎(chǔ)邏輯是將風(fēng)險(xiǎn)做分類，分別管理，從而實(shí)現(xiàn)技術(shù)向善和鼓勵(lì)創(chuàng)新投資的平衡。前提問(wèn)題是如何對(duì)風(fēng)險(xiǎn)進(jìn)行分類。

　　在法案公布初期，由歐洲委員會(huì)于2021年4月21日所做的解釋備忘錄中，歐盟委員會(huì)就法案的風(fēng)險(xiǎn)分級(jí)問(wèn)題進(jìn)行了解釋。其中聲稱，法案草案的風(fēng)險(xiǎn)分級(jí)是基于“權(quán)利和安全影響的風(fēng)險(xiǎn)計(jì)算過(guò)程”，但截止今日，歐盟未公布不同風(fēng)險(xiǎn)級(jí)別的具體計(jì)算過(guò)程。歐盟立法過(guò)程還涉及平衡考慮政治、經(jīng)濟(jì)、社會(huì)和其他難以計(jì)算的因素。在此前提下 “風(fēng)險(xiǎn)計(jì)算”的說(shuō)法似乎夸大了法案基于風(fēng)險(xiǎn)體系所采用的方法的嚴(yán)謹(jǐn)性。

　　作為對(duì)比，相關(guān)國(guó)際標(biāo)準(zhǔn)（ISO 31073:2022）中，“‘風(fēng)險(xiǎn)’被理解為以下因素的組合：事件的概率及其后果。評(píng)估風(fēng)險(xiǎn)是一個(gè)計(jì)算問(wèn)題，風(fēng)險(xiǎn)等級(jí)是根據(jù)概率和后果來(lái)計(jì)算的?！睂W盟《人工智能法》的風(fēng)險(xiǎn)分類標(biāo)準(zhǔn)與國(guó)際標(biāo)準(zhǔn)化組織所列舉的國(guó)際標(biāo)準(zhǔn)中風(fēng)險(xiǎn)的界定和分類作對(duì)比，可以發(fā)現(xiàn)，總體而言，歐盟《人工智能法》的風(fēng)險(xiǎn)程度計(jì)算、風(fēng)險(xiǎn)分類原則、風(fēng)險(xiǎn)衡量標(biāo)準(zhǔn)較為模糊，由于風(fēng)險(xiǎn)分級(jí)過(guò)程受歐盟內(nèi)部決策，涉及政治以及利益衡量等因素影響，風(fēng)險(xiǎn)等級(jí)劃分并非完全科學(xué)透明。

　　2. 從法案立法過(guò)程看風(fēng)險(xiǎn)分級(jí)的設(shè)計(jì)漏洞

　　另外，從法案的立法過(guò)程同樣可以看到風(fēng)險(xiǎn)分級(jí)本身設(shè)計(jì)的漏洞。在法案征求意見(jiàn)階段，在歐洲委員會(huì)于2020年2月19日發(fā)布的人工智能立法白皮書(shū)中，“基于風(fēng)險(xiǎn)”的風(fēng)險(xiǎn)等級(jí)僅就“高風(fēng)險(xiǎn)”以及其他不具有高風(fēng)險(xiǎn)的人工智能系統(tǒng)進(jìn)行了分級(jí)。法案的風(fēng)險(xiǎn)等級(jí)評(píng)估過(guò)程中，并沒(méi)有就人工智能風(fēng)險(xiǎn)水平進(jìn)行系統(tǒng)性的風(fēng)險(xiǎn)計(jì)算和排序，而只是為了區(qū)分高風(fēng)險(xiǎn)和其他人工智能系統(tǒng)。這意味著法案風(fēng)險(xiǎn)等級(jí)評(píng)估的重點(diǎn)是二分法（高風(fēng)險(xiǎn)與否），而不是“風(fēng)險(xiǎn)級(jí)別評(píng)估和排序”，這似乎并未滿足法案聲稱的“基于風(fēng)險(xiǎn)”的立法主題。

　?。摹盎陲L(fēng)險(xiǎn)”的爭(zhēng)議解讀法案理念

　　在歐盟人工智能白皮書(shū)中，歐盟委員會(huì)認(rèn)為，基于風(fēng)險(xiǎn)的方法將有助于確保計(jì)劃的監(jiān)管干預(yù)的比例性和適度性?；陲L(fēng)險(xiǎn)的立法模式實(shí)際上不旨在通過(guò)單次立法全面解決人工智能系統(tǒng)風(fēng)險(xiǎn)管理問(wèn)題，而是針對(duì)提案中特定挑戰(zhàn)（人工智能的定義、人工智能創(chuàng)新激勵(lì)等問(wèn)題）的折中解決方案。

　　法案旨在規(guī)管人工智能風(fēng)險(xiǎn)的同時(shí)，也認(rèn)可人工智能系統(tǒng)監(jiān)管對(duì)人工智能創(chuàng)新造成的阻礙，以及對(duì)人工智能過(guò)于廣泛的監(jiān)管可能會(huì)不成比例地阻礙人工智能技術(shù)以及社會(huì)經(jīng)濟(jì)的發(fā)展等考量因素。

　　（七）通用AI模型的上層治理

　　通用AI模型（general-purpose AI model，GPAI或稱GPAIM）是指無(wú)論該模型以何種方式投放市場(chǎng)，在使用大量數(shù)據(jù)進(jìn)行大規(guī)模自我監(jiān)督訓(xùn)練時(shí)均具有顯著的通用性，能夠勝任各類不同任務(wù)并可集成到各種下游系統(tǒng)或應(yīng)用中。但在投放市場(chǎng)前用于研究、開(kāi)發(fā)和原型設(shè)計(jì)活動(dòng)的人工智能模型除外。

　　因此，GPAI與前述基于風(fēng)險(xiǎn)分級(jí)的人工智能系統(tǒng)是不同位階的概念。GPAIM集成到各類下游應(yīng)用場(chǎng)景中后，才可能落入法案的風(fēng)險(xiǎn)分級(jí)體系。法案針對(duì)GPAIM的基本義務(wù)適用于所有集成運(yùn)用通用型AI模型定義的人工智能系統(tǒng)，而無(wú)關(guān)其實(shí)際應(yīng)用場(chǎng)景。

　?。ò耍┲鳈?quán)視角議通用人工智能模型治理

　　著作權(quán)視角下，歐盟《人工智能法》第53條規(guī)定了通用人工智能模型（GPAIM）“提供者”的著作權(quán)義務(wù)，包括技術(shù)文件留檔義務(wù)、信息共享義務(wù)、遵守歐盟著作權(quán)法和公開(kāi)披露義務(wù)。整體而言，法案就GPAIM提供者創(chuàng)設(shè)的著作權(quán)相關(guān)義務(wù)可被歸為兩類：（1）GPAIM訓(xùn)練模型主要數(shù)據(jù)集合的披露義務(wù)；（2）遵守歐盟著作權(quán)相關(guān)法律（無(wú)論有關(guān)侵權(quán)行為地是否為歐盟境內(nèi)）。值得注意的是歐盟《人工智能法》Article 53 (c)規(guī)定：“通用人工智能模型提供者應(yīng)制定一項(xiàng)尊重歐盟版權(quán)法的政策，特別是通過(guò)先進(jìn)水平技術(shù)等手段，確定和尊重權(quán)利人根據(jù)2019/790號(hào)單一數(shù)字市場(chǎng)版權(quán)指令第4條第3款表達(dá)的權(quán)利保留；”《單一數(shù)字市場(chǎng)版權(quán)指令》設(shè)定了文本和數(shù)據(jù)挖掘的著作權(quán)例外與限制，這一規(guī)定也體現(xiàn)了著作權(quán)制度與人工智能產(chǎn)業(yè)發(fā)展二者的協(xié)調(diào)。

　　四、歐盟《人工智能法案》主要啟示

　　對(duì)于我國(guó)人工智能立法，可借鑒歐盟人工智能法案的立法理念，將基于風(fēng)險(xiǎn)劃分的規(guī)制思路融會(huì)貫通。但是，對(duì)人工智能進(jìn)行分類，是值得我們共同研究的問(wèn)題。事實(shí)上，我國(guó)在這方面已經(jīng)做了一些探討，比如2021年全國(guó)信息安全標(biāo)準(zhǔn)化技術(shù)委員會(huì)發(fā)布的《網(wǎng)絡(luò)安全標(biāo)準(zhǔn)實(shí)踐指南—人工智能倫理安全風(fēng)險(xiǎn)防范指引》中給出的分類標(biāo)準(zhǔn)。只有在討論明確如何分類的基礎(chǔ)上，才能進(jìn)一步討論怎么對(duì)人工智能產(chǎn)業(yè)發(fā)展進(jìn)行治理。

　?。ū疚膬H代表作者觀點(diǎn)，不代表知產(chǎn)財(cái)經(jīng)立場(chǎng)）