作者：橙子 知產(chǎn)財(cái)經(jīng)

　　5月21日，歐盟理事會(huì)正式批準(zhǔn)《人工智能法》（AI Act）。該法案在經(jīng)歐洲議會(huì)和歐洲理事會(huì)主席簽署后，將于歐盟官方公報(bào)上公布，并在公布20天后生效。

　　今年3月13日，歐洲議會(huì)以523票贊成、46票反對(duì)和49票棄權(quán)的表決結(jié)果通過(guò)了該法案?！度斯ぶ悄芊ā分荚诖龠M(jìn)私營(yíng)和公共機(jī)構(gòu)在歐盟單一市場(chǎng)上開(kāi)發(fā)和采用安全可信的人工智能系統(tǒng)，同時(shí)還旨在確保尊重歐盟公民的基本權(quán)利，并刺激歐洲在人工智能方面的投資和創(chuàng)新。

　　歐盟《人工智能法》適用范圍涵蓋哪些？法案有哪些特色？歐盟《人工智能法》的實(shí)施將對(duì)中國(guó)的AI企業(yè)帶來(lái)哪些方面影響？對(duì)我國(guó)涉人工智能相關(guān)法律是否有借鑒意義？法案的實(shí)施將面臨哪些挑戰(zhàn)？又有哪些有效的應(yīng)對(duì)措施？基于此，知產(chǎn)財(cái)經(jīng)第一時(shí)間連線(xiàn)行業(yè)專(zhuān)家學(xué)者，嘗試?yán)迩逍袠I(yè)之難，為我國(guó)人工智能立法與政策制定提供借鑒與建議。

　　歐盟《人工智能法》適用范圍

　　知產(chǎn)財(cái)經(jīng)了解到，歐盟《人工智能法》長(zhǎng)達(dá)400多頁(yè)，包含113條規(guī)定和13個(gè)附件，內(nèi)容及覆蓋范圍非常廣泛?！熬推涓采w范圍而言，歐盟《人工智能法》是一項(xiàng)具有域外效力的創(chuàng)新性立法，具有‘長(zhǎng)臂管轄’的特征。法案立法框架并不影響歐盟現(xiàn)有法律，特別是關(guān)于數(shù)據(jù)保護(hù)、消費(fèi)者保護(hù)、基本權(quán)利、就業(yè)和工人保護(hù)以及產(chǎn)品安全的法律，而是對(duì)這些法律的補(bǔ)充，同時(shí)，法案就部分系統(tǒng)規(guī)定了豁免，例如專(zhuān)門(mén)用于軍事、國(guó)防目的以及研究目的的系統(tǒng)。內(nèi)容上來(lái)看，法案重點(diǎn)涉及人工智能系統(tǒng)的風(fēng)險(xiǎn)劃分、特定人工智能系統(tǒng)提供者和部署者的義務(wù)設(shè)置、通用人工智能（GPAI）的界定與分層治理、監(jiān)管沙盒等創(chuàng)新支持措施以及配套管理機(jī)構(gòu)設(shè)置?！?b>中國(guó)人工智能產(chǎn)業(yè)發(fā)展聯(lián)盟（AIIA）政策法規(guī)工作組組長(zhǎng)、聯(lián)合國(guó)高級(jí)別人工智能咨詢(xún)機(jī)構(gòu)成員、中國(guó)政法大學(xué)張凌寒教授指出，“毋庸置疑，歐盟《人工智能法》是一部旨在協(xié)調(diào)人工智能規(guī)則的開(kāi)創(chuàng)性法律，法案的一大亮點(diǎn)在于構(gòu)建了人工智能系統(tǒng)的分級(jí)分類(lèi)監(jiān)管體系，在公民權(quán)益保障與人工智能行業(yè)發(fā)展間作出了有效平衡，法案要求監(jiān)管者與市場(chǎng)主體協(xié)商制定具有合規(guī)效力的‘行為守則’，試圖在保持實(shí)用性和動(dòng)態(tài)性的同時(shí)盡可能涵蓋各種風(fēng)險(xiǎn)。此外，法案著力于創(chuàng)新激勵(lì)，通過(guò)監(jiān)管沙盒和實(shí)時(shí)測(cè)試場(chǎng)景等措施為企業(yè)和公民提供支持，為歐洲人工智能行業(yè)發(fā)展提供創(chuàng)新、研發(fā)的良好環(huán)境?！?br>
　　中倫律師事務(wù)所高級(jí)顧問(wèn)張鵬律師同樣認(rèn)可歐盟《人工智能法》覆蓋范圍的廣泛性。他表示：“歐盟《人工智能法》適用于所有位于歐盟境內(nèi)的AI使用者，一旦AI系統(tǒng)在歐盟境內(nèi)輸出使用，即便位于非歐盟成員國(guó)的第三國(guó)家，同樣適用于位于歐盟外的AI系統(tǒng)提供商和部署者，或其位于歐盟境內(nèi)的授權(quán)方。該法案適用于不同層級(jí)的AI應(yīng)用參與者，具體包括：提供商、部署者、進(jìn)口商、分銷(xiāo)商和產(chǎn)品制造商。這意味著參與AI系統(tǒng)的開(kāi)發(fā)、使用、進(jìn)口、分銷(xiāo)或制造的所有各方都可能承擔(dān)相應(yīng)責(zé)任。”張鵬律師告訴知產(chǎn)財(cái)經(jīng)，歐盟《人工智能法》的內(nèi)容涵蓋人工智能規(guī)管的全鏈條。該法案內(nèi)容主要包括7個(gè)方面，分別為（1）人工智能系統(tǒng)在歐盟市場(chǎng)上的投放、服務(wù)和使用的統(tǒng)一規(guī)則；（2）禁止某些人工智能行為；（3）對(duì)高風(fēng)險(xiǎn)人工智能系統(tǒng)的具體要求以及此類(lèi)系統(tǒng)運(yùn)營(yíng)商的義務(wù)；（4）某些人工智能系統(tǒng)的統(tǒng)一透明度規(guī)則；（5）通用人工智能模型投放市場(chǎng)的統(tǒng)一規(guī)則；（6）關(guān)于市場(chǎng)監(jiān)測(cè)、市場(chǎng)監(jiān)督治理和執(zhí)法的規(guī)則；（7）支持創(chuàng)新的措施，特別關(guān)注包括初創(chuàng)企業(yè)在內(nèi)的中小企業(yè)。

　　在生成式人工智能治理高峰對(duì)話(huà)中，清華大學(xué)法學(xué)院教授智能法治研究院院長(zhǎng)申衛(wèi)星教授表示，可以從兩個(gè)方面考慮《人工智能法》的適用范圍?！笆紫仁侨斯ぶ悄艿亩x。歐洲的定義相對(duì)較寬泛，這可能導(dǎo)致歐盟《人工智能法》的覆蓋范圍過(guò)大。盡管歐盟《人工智能法》的一個(gè)顯著特點(diǎn)是分級(jí)管理，但如果將人工智能本身的定義設(shè)定得包容萬(wàn)象，可能仍會(huì)造成過(guò)度管制，從而阻礙產(chǎn)業(yè)發(fā)展。其次是歐盟《人工智能法》的長(zhǎng)臂管轄。當(dāng)《通用數(shù)據(jù)保護(hù)條例》（General Data Protection Regulation，簡(jiǎn)稱(chēng)GDPR）規(guī)定其具有域外效力時(shí)，許多人感到驚訝。然而，由于歐洲的經(jīng)濟(jì)規(guī)模和市場(chǎng)需求，美國(guó)和中國(guó)的企業(yè)都在實(shí)踐中遵守GDPR。因此，GDPR式的長(zhǎng)臂管轄開(kāi)始流行。這種管轄的生命力不僅取決于一個(gè)國(guó)家的實(shí)力，也不僅僅是誰(shuí)能率先立法，更重要的是法律本身是否滿(mǎn)足特定需求。各國(guó)都會(huì)從比較法的角度借鑒其他國(guó)家的經(jīng)驗(yàn)，但所有的借鑒都是以自身為主導(dǎo)，以他山之石攻玉，而非簡(jiǎn)單的‘拿來(lái)主義’。歐盟《人工智能法》也規(guī)定了域外效力，但其在世界范圍內(nèi)產(chǎn)生影響力的程度取決于是否滿(mǎn)足各國(guó)對(duì)價(jià)值共識(shí)、產(chǎn)業(yè)發(fā)展、技術(shù)進(jìn)步以及包括消費(fèi)者在內(nèi)的社會(huì)公共需求。如果一部歐盟法能夠滿(mǎn)足這些需求，就不存在所謂的‘布魯塞爾效應(yīng)’，而是找到了最具輻射力的共識(shí)。此外，尚未投入市場(chǎng)或僅用于純科學(xué)研究的人工智能模型或系統(tǒng)不適用于歐盟《人工智能法》的管制，這一點(diǎn)上中國(guó)和歐洲的立法立場(chǎng)是一致的?！?br>
　　《人工智能法》亮點(diǎn)：基于風(fēng)險(xiǎn)的治理框架

　　值得關(guān)注的是，歐盟《人工智能法》法案基于AI系統(tǒng)對(duì)用戶(hù)和社會(huì)的健康安全以及基本權(quán)益的潛在風(fēng)險(xiǎn)程度，將其分為禁用風(fēng)險(xiǎn)類(lèi)、高風(fēng)險(xiǎn)類(lèi)、有限風(fēng)險(xiǎn)類(lèi)、最小風(fēng)險(xiǎn)類(lèi)。風(fēng)險(xiǎn)有限的人工智能系統(tǒng)只需履行很輕的透明度義務(wù)；而高風(fēng)險(xiǎn)的人工智能系統(tǒng)將獲得授權(quán)，但必須滿(mǎn)足一系列要求和義務(wù)才能進(jìn)入歐盟市場(chǎng)；認(rèn)知行為操縱和社交評(píng)分等類(lèi)型的人工智能系統(tǒng)則因其風(fēng)險(xiǎn)的不可接受性被禁止進(jìn)入歐盟市場(chǎng)。

　　“歐盟《人工智能法》下的分級(jí)分類(lèi)體系是歐盟在保障公民基本權(quán)利與激勵(lì)歐洲人工智能的投資與創(chuàng)新雙重需求下的產(chǎn)物，其立法精神的核心在于規(guī)范技術(shù)的有害使用，而非技術(shù)本身，這體現(xiàn)了立法者在利益權(quán)衡下的立法智慧。該法依據(jù)一系列風(fēng)險(xiǎn)指標(biāo)，基于‘產(chǎn)品’和‘風(fēng)險(xiǎn)’的概念，判定‘不可接受風(fēng)險(xiǎn)’和‘高風(fēng)險(xiǎn)’的人工智能系統(tǒng)應(yīng)用，對(duì)前者直接予以禁止，對(duì)后者在進(jìn)入市場(chǎng)前后要求進(jìn)行合規(guī)評(píng)估。在通用人工智能方面，其采用10^25次浮點(diǎn)算力為門(mén)檻劃定具有系統(tǒng)性風(fēng)險(xiǎn)的GPAI模型，體現(xiàn)了歐盟立法者在幫助中小企業(yè)、初創(chuàng)企業(yè)以較低成本達(dá)到合規(guī)要求方面的考量?！睆埩韬淌诒硎荆皻W盟《人工智能法》對(duì)人工智能系統(tǒng)分級(jí)治理的管理思路表明了歐盟立場(chǎng)，重點(diǎn)著眼于對(duì)超高風(fēng)險(xiǎn)人工智能系統(tǒng)的禁令以及部分執(zhí)法豁免條款，其管理思路對(duì)世界各國(guó)人工智能有關(guān)立法的出臺(tái)具有一定的借鑒意義?！?br>
　　張鵬律師認(rèn)為，從企業(yè)實(shí)務(wù)建議的角度，實(shí)際上，大部分AI均屬于有限風(fēng)險(xiǎn)及最小風(fēng)險(xiǎn)類(lèi)。禁用AI以及高風(fēng)險(xiǎn)AI主要依據(jù)AI的特定用途的風(fēng)險(xiǎn)等級(jí)進(jìn)行限定，例如，僅當(dāng)生物識(shí)別AI被用于教育、雇傭、執(zhí)法、移民等用途時(shí)，才落入高風(fēng)險(xiǎn)等級(jí)。介于法案中大部分強(qiáng)制性義務(wù)均僅適用于高風(fēng)險(xiǎn)AI，且這部分規(guī)定將自法案生效起兩年后適用，企業(yè)可利用該期限對(duì)相關(guān)AI系統(tǒng)的最終用途以及技術(shù)模型進(jìn)行合規(guī)性審查。

　　從基本理論研討的角度，這一風(fēng)險(xiǎn)分類(lèi)的監(jiān)管方式被稱(chēng)為“risk-based approach”，實(shí)際上，在歐盟的其他法規(guī)（例如GDPR，Article 24關(guān)于accountability原則）中可見(jiàn)其適用。這一立法方式存在理論爭(zhēng)議。例如，（1）風(fēng)險(xiǎn)分類(lèi)原則和方法不透明、風(fēng)險(xiǎn)衡量標(biāo)準(zhǔn)較為模糊：由于風(fēng)險(xiǎn)分級(jí)過(guò)程取決于歐盟內(nèi)部決策，涉及政治以及利益衡量，相關(guān)風(fēng)險(xiǎn)計(jì)算過(guò)程以及具體標(biāo)準(zhǔn)從未被公開(kāi)，風(fēng)險(xiǎn)等級(jí)以及衡量標(biāo)準(zhǔn)存在模糊性，并非完全科學(xué)透明；（2）風(fēng)險(xiǎn)分類(lèi)等級(jí)欠缺全面性，可能難以有效規(guī)制AI的系統(tǒng)性風(fēng)險(xiǎn)：法案實(shí)際上僅針對(duì)特定用途的AI進(jìn)行小范圍監(jiān)管，絕大部分AI系統(tǒng)并不被適用，這一做法難以實(shí)際對(duì)AI的系統(tǒng)性風(fēng)險(xiǎn)進(jìn)行有效規(guī)制。總體而言，選擇基于風(fēng)險(xiǎn)的立法方式，歐盟意圖在AI技術(shù)發(fā)展演變的背景下，在法律監(jiān)管以及AI技術(shù)創(chuàng)新激勵(lì)這兩項(xiàng)政策性目的之間尋求平衡，以及，在法案并未對(duì)“AI”系統(tǒng)這一適用客體進(jìn)行明確限定的情況下，限縮法案的適用范圍，確保監(jiān)管措施的比例性和適度性。

　　全國(guó)審判業(yè)務(wù)專(zhuān)家宋健認(rèn)為，《人工智能法》尤其值得關(guān)注的，一是分級(jí)分類(lèi)監(jiān)管。《法案》采取了基于風(fēng)險(xiǎn)的分級(jí)監(jiān)管方法，即風(fēng)險(xiǎn)越大，監(jiān)管越嚴(yán)格。這就為人工智能在歐盟的發(fā)展制定了標(biāo)準(zhǔn)并劃定紅線(xiàn)。二是透明度的要求。例如，強(qiáng)調(diào)生成合成音頻、圖像、視頻或文本內(nèi)容的AI系統(tǒng)，包括通用AI系統(tǒng)的提供者應(yīng)確保AI系統(tǒng)的輸出以機(jī)器可讀的格式進(jìn)行標(biāo)注，并可檢測(cè)其系人為生成或操縱。生成或操縱構(gòu)成深度偽造的圖像、音頻或視頻內(nèi)容的AI系統(tǒng)部署者應(yīng)當(dāng)披露該內(nèi)容是人為生成或操縱。法案針對(duì)高風(fēng)險(xiǎn)AI系統(tǒng)亦設(shè)立了透明度要求，設(shè)計(jì)和開(kāi)發(fā)者應(yīng)確保其操作具有足夠的透明度，使部署者能夠解釋系統(tǒng)的輸出并加以適當(dāng)使用。這些管制措施，一方面體現(xiàn)了歐盟《人工智能法》的立法目的在于確保歐盟價(jià)值觀的實(shí)現(xiàn)，即“促進(jìn)以人為本和值得信賴(lài)的人工智能的應(yīng)用”“促進(jìn)對(duì)個(gè)人、企業(yè)、民主和法治以及環(huán)境的保護(hù)，同時(shí)促進(jìn)創(chuàng)新和就業(yè)，并且使得歐盟成為采用可信人工智能的領(lǐng)導(dǎo)者?！绷硪环矫?，也體現(xiàn)出歐盟內(nèi)部對(duì)于人工智能進(jìn)化迭代速度過(guò)快而必然產(chǎn)生的擔(dān)憂(yōu)，強(qiáng)調(diào)了監(jiān)管的必要性。當(dāng)然，法案在強(qiáng)調(diào)監(jiān)管的同時(shí)，也通過(guò)采取“沙盒監(jiān)管”措施，賦予監(jiān)管措施的靈活性，即規(guī)定歐盟成員國(guó)應(yīng)建立至少一個(gè)人工智能監(jiān)管沙盒，即由政府部門(mén)主導(dǎo)建立一個(gè)安全空間，使企業(yè)可以在避免監(jiān)管后果的前提下測(cè)試創(chuàng)新性的產(chǎn)品、服務(wù)、商業(yè)模式和提供機(jī)制。同時(shí)，該法案規(guī)定歐盟內(nèi)的中小企業(yè)可優(yōu)先進(jìn)入人工智能監(jiān)管沙盒。

　　融力天聞律師事務(wù)所合伙人邱政談律師則表示，以風(fēng)險(xiǎn)為導(dǎo)向進(jìn)行分級(jí)的管理體系雖然對(duì)人工智能系統(tǒng)的風(fēng)險(xiǎn)進(jìn)行了定義劃分，似乎有助于監(jiān)管者更好地管理和規(guī)范不同風(fēng)險(xiǎn)水平的人工智能技術(shù)。但由于對(duì)于相關(guān)概念的內(nèi)涵外延定義的模糊性，還需要更多的實(shí)踐去細(xì)化，同時(shí)也增加了企業(yè)進(jìn)行合規(guī)的理解以及監(jiān)管成本。不過(guò)，通過(guò)區(qū)分不同級(jí)別的風(fēng)險(xiǎn)，可以采取相應(yīng)措施來(lái)確保高風(fēng)險(xiǎn)或者不可接受的人工智能系統(tǒng)使用時(shí)被有效監(jiān)管和限制，同時(shí)給予低風(fēng)險(xiǎn)系統(tǒng)更多靈活性，促進(jìn)人工智能產(chǎn)業(yè)的發(fā)展，這種思路也可以促進(jìn)社會(huì)、企業(yè)和政府對(duì)人工智能系統(tǒng)進(jìn)行更加深入、綜合和公正的評(píng)估。分級(jí)管理是率先立法的穩(wěn)妥以及無(wú)奈之舉，后續(xù)仍需要跟隨產(chǎn)業(yè)發(fā)展和監(jiān)管實(shí)踐去調(diào)整。由于不同領(lǐng)域內(nèi)人工智能產(chǎn)業(yè)發(fā)展也是不均衡的，采取風(fēng)險(xiǎn)分級(jí)的管理思路仍是恰當(dāng)?shù)摹?br>
　　《人工智能法》對(duì)國(guó)內(nèi)AI企業(yè)的影響

　　2023年6月，國(guó)務(wù)院辦公廳印發(fā)《國(guó)務(wù)院2023年度立法工作計(jì)劃》，明確提出“預(yù)備提請(qǐng)全國(guó)人大常委會(huì)審議人工智能法草案”。2023年8月15日，我國(guó)發(fā)布了《生成式人工智能服務(wù)管理暫行辦法》，較為系統(tǒng)地對(duì)國(guó)內(nèi)的生成式人工智能服務(wù)提出了合規(guī)義務(wù)。并在后續(xù)推出了《生成式人工智能服務(wù)內(nèi)容標(biāo)識(shí)方法》《生成式人工智能服務(wù)安全基本要求》等一系列具體規(guī)定，逐步推進(jìn)我國(guó)人工智能合規(guī)體系的搭建。作為全球首個(gè)以立法方式對(duì)AI進(jìn)行監(jiān)管的法律，歐盟《人工智能法》一方面對(duì)中國(guó)涉AI相關(guān)法律具有寶貴的借鑒意義，另一方面也對(duì)中國(guó)的AI企業(yè)提出了新的挑戰(zhàn)和機(jī)遇。

　　“目前，我國(guó)只是針對(duì)較為狹窄的生成式人工智能領(lǐng)域的政策探索。因?yàn)槿斯ぶ悄墚a(chǎn)業(yè)AIGC僅是非常狹窄的一個(gè)方向，而《人工智能法》里的內(nèi)容可以給到我們更為全面的監(jiān)管視角，不論是對(duì)人工智能系統(tǒng)的分級(jí)、還是GPAI?！鼻裾劼蓭煾嬖V知產(chǎn)財(cái)經(jīng)，“當(dāng)前我國(guó)理論、司法實(shí)務(wù)對(duì)于人工智能領(lǐng)域的探索還大多局限于生成式人工智能，也是因?yàn)锳IGC可以直接套用知識(shí)產(chǎn)權(quán)、數(shù)據(jù)合規(guī)的法律框架的原因。但AIGC并不會(huì)成為人工智能產(chǎn)業(yè)的主旋律，它大概率只是一個(gè)排頭兵更早地被大家看到了，而真正能夠引領(lǐng)產(chǎn)業(yè)變革的是更為基礎(chǔ)的人工智能領(lǐng)域，諸如工業(yè)人工智能、具身人工智能（包括FSD全自動(dòng)駕駛、機(jī)器人）乃至AGI（當(dāng)然還很遠(yuǎn)）等，也應(yīng)該受到更多關(guān)注。而歐盟《人工智能法》的監(jiān)管視角較為廣闊，這是值得我們借鑒的。同時(shí)，我們還關(guān)注到國(guó)內(nèi)學(xué)者發(fā)布的《人工智能法（學(xué)者建議稿）》，其對(duì)于人工智能監(jiān)管體系思考已初具雛形，后續(xù)我們還可以借鑒歐盟，在系統(tǒng)分級(jí)、創(chuàng)新鼓勵(lì)、市場(chǎng)監(jiān)督、治理組織架構(gòu)等方向上作更多的細(xì)化?！?br>
　　張凌寒教授指出，在歐盟開(kāi)展業(yè)務(wù)的中國(guó)AI企業(yè)需要關(guān)注歐盟《人工智能法》。此外，該法案在域外效力方面的獨(dú)特之處在于其著作權(quán)條款，即使人工智能模型在北京進(jìn)行訓(xùn)練，但在歐盟部署或使用時(shí)仍必須遵守歐盟TDM豁免及其退出機(jī)制（即作者有權(quán)反對(duì)將其受版權(quán)保護(hù)的材料用于人工智能訓(xùn)練），這可能與我們熟悉的著作權(quán)屬地原則存在偏差，需要引起我國(guó)有關(guān)企業(yè)的關(guān)注。歐盟《人工智能法》為世界各國(guó)人工智能領(lǐng)域立法都提供了一定的立法經(jīng)驗(yàn)，但我國(guó)的人工智能立法應(yīng)當(dāng)保持扎根本土的理性，兼具國(guó)際視野，適應(yīng)我國(guó)生態(tài)位需求和產(chǎn)業(yè)發(fā)展特點(diǎn)，體現(xiàn)人工智能治理領(lǐng)域的中國(guó)智慧與中國(guó)方案。人工智能的分類(lèi)分級(jí)工作在我國(guó)同樣在扎實(shí)推進(jìn)，中歐治理思路可能存在差異，例如中國(guó)《人工智能法（學(xué)者建議稿）》中并未采用歐盟“高風(fēng)險(xiǎn)人工智能系統(tǒng)”的表述，而是使用了“關(guān)鍵人工智能系統(tǒng)”和“特殊應(yīng)用場(chǎng)景人工智能系統(tǒng)”的概念，事實(shí)上，我們希望避免事先進(jìn)行價(jià)值預(yù)判或負(fù)面評(píng)價(jià)，將動(dòng)態(tài)評(píng)估引入高風(fēng)險(xiǎn)人工智能的治理中。

　　張鵬律師表示，雖然《人工智能法》具體規(guī)定全面適用仍有較久的時(shí)間，但因其適用范圍較廣，且對(duì)相關(guān)企業(yè)創(chuàng)設(shè)了較高的合規(guī)義務(wù)，企業(yè)應(yīng)盡快深入了解該法案的適用規(guī)則，評(píng)估自身是否落入該法案的適用范圍，例如，包括是否正在使用或開(kāi)發(fā)可應(yīng)用于歐盟地區(qū)的人工智能系統(tǒng)，或存在第三方供應(yīng)商提供此類(lèi)系統(tǒng)。盡快將相關(guān)系統(tǒng)進(jìn)行模型化管理，準(zhǔn)備下一步結(jié)合該法案內(nèi)容進(jìn)行合規(guī)性評(píng)估、整治以及可持續(xù)性治理的實(shí)質(zhì)措施。在我國(guó)目前已長(zhǎng)期布局人工智能領(lǐng)域監(jiān)管政策的背景之下，可借鑒歐盟經(jīng)驗(yàn)，加快針對(duì)人工智能的立法進(jìn)程，但同時(shí)也要注重相關(guān)規(guī)則設(shè)置與國(guó)內(nèi)行業(yè)發(fā)展的平衡。另外，可參考?xì)W盟經(jīng)驗(yàn)，通過(guò)設(shè)置諸如人工智能監(jiān)管沙盒機(jī)制促進(jìn)中小企業(yè)創(chuàng)新。中小企業(yè)可通過(guò)沙盒機(jī)制參與技術(shù)風(fēng)險(xiǎn)測(cè)試以明晰自身相關(guān)技術(shù)實(shí)施風(fēng)險(xiǎn)。最后，加快制定人工智能領(lǐng)域相關(guān)標(biāo)準(zhǔn)，例如人工智能基礎(chǔ)共性、算法模型、技術(shù)平臺(tái)、行業(yè)應(yīng)用、信息安全、隱私保護(hù)等技術(shù)標(biāo)準(zhǔn)。

　　“正如不少觀察者的分析，歐盟《人工智能法》作為全球首個(gè)規(guī)范人工智能的法律，可以預(yù)見(jiàn)，未來(lái)各國(guó)人工智能立法如何根據(jù)本國(guó)國(guó)情對(duì)人工智能風(fēng)險(xiǎn)進(jìn)行分類(lèi)分級(jí)，以及如何確定監(jiān)管的強(qiáng)度，極有可能會(huì)將歐盟《人工智能法》作為一定的參照，從而對(duì)各國(guó)人工智能法律規(guī)范的制訂產(chǎn)生不可忽視的影響。”全國(guó)審判業(yè)務(wù)專(zhuān)家宋健告訴知產(chǎn)財(cái)經(jīng)，“需要關(guān)注的是，歐盟《人工智能法》賦予了歐盟對(duì)人工智能監(jiān)管一定的域外長(zhǎng)臂管轄權(quán)，即《法案》不僅適用于歐盟境內(nèi)的人工智能系統(tǒng)的提供者、部署者等主體，還適用于位于歐盟境外第三國(guó)的相關(guān)主體。因此，全球所有希望在歐盟開(kāi)展業(yè)務(wù)的企業(yè)都需要遵守該法案的要求。對(duì)于中國(guó)人工智能企業(yè)而言，這種影響不限于正在開(kāi)發(fā)人工智能大模型的企業(yè)，還將影響到所有基于這些大模型工具的企業(yè)，都首先要根據(jù)歐盟法案進(jìn)行合規(guī)檢查，同時(shí)也將不得不面對(duì)日益嚴(yán)格的審查。歐盟《人工智能法》規(guī)定的監(jiān)管措施目前還是立法層面的，還需要制訂具體的落地措施，未來(lái)這些落地措施是否可實(shí)施，還需要觀察?！?br>
　　《人工智能法》實(shí)施的挑戰(zhàn)與應(yīng)對(duì)

　　《人工智能法》將于歐盟官方公報(bào)上公布20天后正式生效，提及《人工智能法》實(shí)施將面臨的挑戰(zhàn)，各位專(zhuān)家學(xué)者不約而同將關(guān)注點(diǎn)聚焦在《人工智能法》基于風(fēng)險(xiǎn)的治理框架中。

　　“基于風(fēng)險(xiǎn)的治理框架是此次歐盟《人工智能法》的亮點(diǎn)。雖然這一治理框架具備眾多優(yōu)勢(shì)，并且中國(guó)目前也已提出構(gòu)建針對(duì)人工智能及相關(guān)制度的風(fēng)險(xiǎn)分級(jí)分類(lèi)治理框架，但以風(fēng)險(xiǎn)為導(dǎo)向的治理需要有效的風(fēng)險(xiǎn)評(píng)估作為前提，風(fēng)險(xiǎn)評(píng)估結(jié)果直接影響義務(wù)承擔(dān)。歐盟《人工智能法》對(duì)AI技術(shù)的風(fēng)險(xiǎn)劃分較大程度考量道德、政策和文化等因素，關(guān)注對(duì)基本權(quán)利的侵犯與否，這些標(biāo)準(zhǔn)自身的模糊性會(huì)給法案的適用帶來(lái)較大的不確定性。因此未來(lái)我國(guó)在制定人工智能相關(guān)法律時(shí)，可將技術(shù)性因素納入考量以增強(qiáng)法律的確定性及可執(zhí)行性?！睆堸i律師指出，“此外，該法案對(duì)人工智能系統(tǒng)提供者附加的合規(guī)評(píng)估義務(wù)僅涉及內(nèi)部程序，缺乏外部監(jiān)管，主要由提供者的自我評(píng)估來(lái)證明高風(fēng)險(xiǎn)的人工智能系統(tǒng)遵守了法案，這使該規(guī)則的有效性和可執(zhí)行性受到不少質(zhì)疑。因此，未來(lái)我國(guó)的AI立法應(yīng)該注重企業(yè)合規(guī)自治與外部監(jiān)管措施的有效平衡，使AI法案切實(shí)有效促進(jìn)AI行業(yè)的良性發(fā)展?！?br>
　　邱政談律師認(rèn)為，首先是風(fēng)險(xiǎn)等級(jí)的界定，歐盟《人工智能法》對(duì)不同類(lèi)型的人工智能進(jìn)行了風(fēng)險(xiǎn)劃分，并枚舉了大量例子，但由于人工智能系統(tǒng)往往涉及復(fù)雜的算法和技術(shù)，這些系統(tǒng)的行為可能難以預(yù)測(cè)和解釋?zhuān)u(píng)估一個(gè)系統(tǒng)的潛在風(fēng)險(xiǎn)需要深入理解其工作原理和技術(shù)細(xì)節(jié)，并要與多樣的應(yīng)用場(chǎng)景相結(jié)合，在執(zhí)行中需要如何解釋各個(gè)等級(jí)的定義，并在實(shí)踐中確保法規(guī)的指向具有明確清晰性，會(huì)是歐盟《人工智能法》在未來(lái)實(shí)踐中可能遇到的難題。其次是技術(shù)發(fā)展速度，人工智能技術(shù)迭代更新非?？?，可能在法規(guī)制定和修訂的周期內(nèi)就出現(xiàn)重大的技術(shù)突破或變化，隨著研究的深入，可能會(huì)出現(xiàn)全新的人工智能技術(shù)和應(yīng)用，這些新興技術(shù)可能會(huì)突破現(xiàn)有的風(fēng)險(xiǎn)評(píng)估框架。同時(shí)，需要監(jiān)管機(jī)構(gòu)需要不斷更新其專(zhuān)業(yè)知識(shí)和技能，以理解和評(píng)估新技術(shù)的風(fēng)險(xiǎn)，我們整個(gè)社會(huì)仍需要適應(yīng)快速發(fā)展變化中的技術(shù)領(lǐng)域并持續(xù)完善及調(diào)整人工智能相關(guān)的法律法規(guī)。針對(duì)以上挑戰(zhàn)，我們認(rèn)為，通過(guò)制定更加細(xì)化的評(píng)估指南、對(duì)監(jiān)管人員持續(xù)進(jìn)行培訓(xùn)和教育，保持市場(chǎng)監(jiān)測(cè)與接受市場(chǎng)主體反饋、并分級(jí)建立更加彈性的機(jī)制等方式進(jìn)行應(yīng)對(duì)。

　　張凌寒教授認(rèn)為，盡管歐盟《人工智能法》確立的治理框架具有諸多優(yōu)勢(shì)，例如治理時(shí)點(diǎn)前移、降低監(jiān)管及合規(guī)成本等，但可能忽略了數(shù)據(jù)風(fēng)險(xiǎn)治理與人工智能風(fēng)險(xiǎn)治理存在的差異。其一，以風(fēng)險(xiǎn)為導(dǎo)向的治理需要有效的風(fēng)險(xiǎn)評(píng)估作為前提，法案第三條精確地將風(fēng)險(xiǎn)界定為發(fā)生損害的概率和該損害嚴(yán)重程度的結(jié)合，但由于AI的應(yīng)用和發(fā)展時(shí)間較短，進(jìn)行風(fēng)險(xiǎn)評(píng)估時(shí)所依據(jù)的數(shù)據(jù)質(zhì)量和數(shù)量可能不足。其二，法案中技術(shù)因素在AI風(fēng)險(xiǎn)評(píng)估中的重要性逐漸降低，道德、政策、文化等因素占比逐漸增加，這可能導(dǎo)致標(biāo)準(zhǔn)具有較大的彈性和模糊性。其三，歐盟所列舉的受禁或受限人工智能應(yīng)用，其實(shí)更多是關(guān)乎重要性而非風(fēng)險(xiǎn)程度，應(yīng)用場(chǎng)景重要并不一定意味著風(fēng)險(xiǎn)程度很高，例如，一些重要領(lǐng)域的人工智能系統(tǒng)可能隨著應(yīng)用的增多，風(fēng)險(xiǎn)有所降低，比如就業(yè)評(píng)估和無(wú)人駕駛汽車(chē)等，高風(fēng)險(xiǎn)的標(biāo)簽可能阻礙此類(lèi)行業(yè)的發(fā)展。為了應(yīng)對(duì)上述問(wèn)題，可以考慮構(gòu)建一套應(yīng)用場(chǎng)景與風(fēng)險(xiǎn)程度相分離的分類(lèi)分級(jí)體系，盡可能避免單一依賴(lài)事先的價(jià)值預(yù)判或負(fù)面評(píng)價(jià)，采用動(dòng)態(tài)評(píng)估的監(jiān)管思路，建立人工智能動(dòng)態(tài)監(jiān)測(cè)、預(yù)警、響應(yīng)機(jī)制，以應(yīng)對(duì)技術(shù)飛速發(fā)展所帶來(lái)的不確定性。

　　除此之外，開(kāi)源人工智能的治理問(wèn)題同樣值得關(guān)注。申衛(wèi)星教授表示，關(guān)于開(kāi)源治理，歐盟《人工智能法》的立場(chǎng)變得相對(duì)寬松。首先，該法明確規(guī)定開(kāi)源可免除某些義務(wù)，這是正確的。開(kāi)源有助于科學(xué)研究和技術(shù)創(chuàng)新。權(quán)利義務(wù)的界定應(yīng)當(dāng)旨在推動(dòng)社會(huì)進(jìn)步，賦權(quán)加重本身不是目的。值得注意的是，開(kāi)源免責(zé)也分情況。歐盟《人工智能法》對(duì)于高風(fēng)險(xiǎn)及以上的應(yīng)用場(chǎng)景，即使是免費(fèi)的開(kāi)源模型，一旦導(dǎo)致?lián)p害，仍需承擔(dān)責(zé)任。中國(guó)《人工智能法（學(xué)者建議稿）》也提到，如果模型是開(kāi)源免費(fèi)提供的，那么責(zé)任應(yīng)予以適當(dāng)減輕，除非存在故意或重大過(guò)失。“故意或重大過(guò)失”與歐盟《人工智能法》中的風(fēng)險(xiǎn)等級(jí)對(duì)應(yīng)?？傊?，若提供模型的行為本身就可能帶來(lái)較大的社會(huì)風(fēng)險(xiǎn)，無(wú)論是否免費(fèi)開(kāi)源，都需要承擔(dān)相應(yīng)責(zé)任。

掃碼獲取《人工智能法》原文

掃碼獲取議會(huì)通過(guò)版譯文