【摘要】當前，人工智能正在全球范圍內(nèi)蓬勃發(fā)展，成為新一輪科技革命和產(chǎn)業(yè)變革的重要驅(qū)動力量。人工智能技術的突破式發(fā)展在帶來極大便利的同時，也導致新舊風險疊加，引發(fā)一系列問題，給現(xiàn)有經(jīng)濟社會治理模式和治理規(guī)則帶來挑戰(zhàn)。人工智能治理法治化是確保人工智能安全有序發(fā)展的重要保障，也是目前人工智能發(fā)展領先國家和地區(qū)的普遍做法。我國在人工智能法治建設方面已具備良好基礎，考慮到相關技術產(chǎn)業(yè)在一些方面仍處于追趕階段，應充分發(fā)揮法治固根本、穩(wěn)預期、利長遠的保障作用，區(qū)分短期和中長期計劃，采取“漸進式”立法模式，有序推進相關立法工作，促進和保障我國人工智能高質(zhì)量發(fā)展。
【關鍵詞】人工智能 法治化 漸進式 立法模式
【中圖分類號】D922/TP18 【文獻標識碼】A
【DOI】10.16619/j.cnki.rmltxsqy.2024.13.003
【作者簡介】辛勇飛，中國信息通信研究院政策與經(jīng)濟研究所所長，中國互聯(lián)網(wǎng)協(xié)會互聯(lián)網(wǎng)法治工作委員會秘書長，正高級工程師。研究方向為信息通信發(fā)展和管理、高技術產(chǎn)業(yè)政策以及數(shù)字化發(fā)展。主要論文有《中國數(shù)據(jù)治理規(guī)則體系構(gòu)建：現(xiàn)狀、挑戰(zhàn)與展望》、《數(shù)字技術支撐國家治理現(xiàn)代化的思考》、《信息服務業(yè)支撐制造業(yè)發(fā)展策略研究》（合著）等。
人工智能技術產(chǎn)業(yè)發(fā)展態(tài)勢與治理需求
習近平總書記強調(diào)：“人工智能是引領這一輪科技革命和產(chǎn)業(yè)變革的戰(zhàn)略性技術，具有溢出帶動性很強的‘頭雁’效應。”[1]當前，人工智能技術快速發(fā)展，大模型不斷迭代突破，相關產(chǎn)業(yè)正在向多智能融合新階段發(fā)展。人工智能推動傳統(tǒng)實體經(jīng)濟實現(xiàn)革命性升級與發(fā)展，催生智能經(jīng)濟新形態(tài)，成為發(fā)展新質(zhì)生產(chǎn)力的重要引擎。我國人工智能前沿領域技術創(chuàng)新活躍，人工智能產(chǎn)業(yè)規(guī)模不斷提升，行業(yè)賦能逐步“走深向?qū)?rdquo;。
人工智能為經(jīng)濟社會發(fā)展注入新動能。以ChatGPT為代表的大模型問世，改變了人工智能技術與應用的發(fā)展軌跡，是人工智能發(fā)展史上的新里程碑。大模型呈現(xiàn)學習能力強、通用泛化好、技術迭代快等特點，其感知與理解能力顯著增強，在上下文理解、多學科知識、數(shù)學推理等任務中接近人類水平，已具有一定的通用智能能力。近期，人工智能產(chǎn)業(yè)保持高速增長，大模型成為主要驅(qū)動力。從產(chǎn)業(yè)規(guī)模看，2023年，全球人工智能產(chǎn)業(yè)規(guī)模為5132億美元，同比增長20.7%。從投融資熱點看，2023年下半年，全球金額領域最大的十項投資事件中有七項與大模型相關，達到25.65億美元，其中三項流向基礎大模型企業(yè)，四項流向?qū)Ｓ么竽Ｐ?、大模型平臺等相關企業(yè)。從發(fā)展路線看，極限發(fā)揮“大模型＋大數(shù)據(jù)＋大算力”技術潛力成為未來3～5年發(fā)展主旋律。
我國高度重視人工智能發(fā)展，2024年《政府工作報告》明確提出，2024年將深化大數(shù)據(jù)、人工智能等研發(fā)應用，開展“人工智能＋”行動，打造具有國際競爭力的數(shù)字產(chǎn)業(yè)集群。[2]目前，我國已成為人工智能領域超級大國之一，人工智能產(chǎn)業(yè)蓬勃發(fā)展，逐步邁入由技術突破、產(chǎn)業(yè)發(fā)展、應用創(chuàng)新三個維度牽引發(fā)展的新階段。主要表現(xiàn)為通用大模型、智能芯片、開發(fā)框架等創(chuàng)新成果不斷涌現(xiàn)，視覺、語言等應用技術水平全球領先，基礎算法二次創(chuàng)新能力突出。2023年，我國人工智能核心產(chǎn)業(yè)規(guī)模達5784億元，同比增長了13.9%，人工智能企業(yè)數(shù)量達4482家。我國人工智能產(chǎn)業(yè)鏈已覆蓋集成電路制造、框架、芯片、算法、數(shù)據(jù)、平臺、應用等上下游關鍵環(huán)節(jié)，人工智能芯片企業(yè)加速布局，基礎模型快速迭代，大模型數(shù)量穩(wěn)居世界第一梯隊。
人工智能健康有序發(fā)展需要法治保障。構(gòu)建合理適宜的法律制度是促進人工智能健康發(fā)展的重要基礎，法律通過明確權(quán)利和義務為人工智能的創(chuàng)新和規(guī)范提供確定性、激勵性和指導性。在創(chuàng)新層面，與數(shù)據(jù)、算法、算力、應用發(fā)展相關的合法利用問題和權(quán)利問題仍待解決。以數(shù)據(jù)為例，高質(zhì)量數(shù)據(jù)是人工智能發(fā)展的根基，數(shù)據(jù)的匯集利用需要進一步明確合法處理個人信息數(shù)據(jù)、合法使用受著作權(quán)保護內(nèi)容的數(shù)據(jù)、合理進行數(shù)據(jù)爬取等方面的法律要求。同時，探索確定人工智能生成物的權(quán)利歸屬也能對內(nèi)容創(chuàng)新、技術創(chuàng)新形成激勵。在規(guī)范層面，發(fā)展創(chuàng)新與安全相統(tǒng)一的人工智能需要法律明確責任義務。法治在人工智能全生命周期治理中發(fā)揮著示明底線的作用，是保障個人權(quán)利和社會發(fā)展秩序最重要的治理手段之一。同時，法律通過明確人工智能研發(fā)和應用的要求，合理配置人工智能開發(fā)者、部署者、使用者等不同主體的責任與義務，進一步推動形成人工智能健康有序發(fā)展的社會生態(tài)。
國際社會人工智能立法趨勢與主要做法
隨著人工智能技術發(fā)展和應用普及，人工智能治理能力和治理體系滯后于技術發(fā)展的問題日漸顯現(xiàn)。多個國家和地區(qū)探索以法治思維與法治方式治理人工智能，在發(fā)展與監(jiān)管之間尋求平衡，促進人工智能“在發(fā)展中監(jiān)管，在監(jiān)管中發(fā)展”。通過出臺人工智能相關立法健全人工智能治理體系，有效監(jiān)管人工智能的開發(fā)和應用，防止技術濫用或不當使用，以法治思維和方式推動人工智能技術健康發(fā)展，成為多個國家和地區(qū)在人工智能治理中的首要選擇。從全球范圍看，人工智能發(fā)展領先的國家和地區(qū)高度重視法律制度構(gòu)建，積極開展人工智能相關立法和治理活動，主要形成了以歐盟和美國為代表的兩種典型治理模式。
以歐盟為代表的風險規(guī)制模式。歐盟立法側(cè)重于對人工智能發(fā)展風險的控制，試圖延續(xù)其《通用數(shù)據(jù)保護條例》（GDPR）在數(shù)據(jù)保護領域所產(chǎn)生的“布魯塞爾效應”，起草了全球迄今為止最為全面系統(tǒng)的綜合性《人工智能法》，[3]并由歐洲理事會正式批準通過。歐盟在《人工智能法》中采取了一種基于風險控制的監(jiān)管方式，對人工智能技術在所有行業(yè)具體應用場景的風險進行分級，參考功能、用途和影響將人工智能系統(tǒng)分為絕對不可接受的風險、高風險、有限風險和低風險（無風險）四個風險級別，根據(jù)風險級別明確不同的管理要求和法律義務。
第一級是“絕對不可接受風險”人工智能。《人工智能法》禁止“侵入性”和“歧視性”等具有危害性的人工智能系統(tǒng)的使用。包括利用有害的、操縱性的潛意識技術的人工智能；利用特定弱勢群體（身體或精神殘疾）的人工智能；為一般目的提供自然人社會評分，可能導致歧視性結(jié)果或?qū)δ愁惾后w進行排除、限制使用的人工智能；在公眾可進入的空間使用實時、遠程生物識別的人工智能。第二級是“高風險”人工智能。具體包括兩種類型，一類是用于產(chǎn)品的安全組件或?qū)儆跉W盟健康和安全統(tǒng)一立法管轄范圍的人工智能；另一類是應用于生物識別、關鍵基礎設施的管理和運營、教育和職業(yè)培訓，執(zhí)法工作等8個領域的人工智能。《人工智能法》對“高風險”人工智能系統(tǒng)的不同主體提出了不同的法律義務。針對相關主體的一般義務包括：進行風險管理、建立數(shù)據(jù)管理制度、制定技術文件、留存相關記錄以及保障系統(tǒng)安全性和準確性。“高風險”人工智能提供者要承擔保障系統(tǒng)安全、標明相關信息、留存資料等義務；“高風險”人工智能進口者要承擔合格評估、信息披露等義務；“高風險”人工智能部署者要承擔適當使用、人為監(jiān)督、基本權(quán)利影響評估等義務。此外，《人工智能法》還要求基礎模型提供者要承擔確保人工智能滿足使用要求、數(shù)據(jù)處理要求以及備案等義務。第三級是需要滿足透明度義務的“有限風險”人工智能。例如聊天機器人、生物識別分類系統(tǒng)等風險有限的人工智能系統(tǒng)?！度斯ぶ悄芊ā芬?guī)定此類人工智能系統(tǒng)只需要遵守透明度義務。第四級是不需要承擔任何義務的低風險人工智能。即如果人工智能系統(tǒng)的風險極低，則可以直接在歐盟進行開發(fā)和使用，而不需要承擔任何法律義務。
歐盟在人工智能的監(jiān)管上采取了一種橫向的、全面的管理方式。在適用范圍上，歐盟《人工智能法》采取了與GDPR一樣的橫向立法模式，即適用于所有投放于歐盟市場或者在歐盟可使用的人工智能系統(tǒng)，覆蓋金融、醫(yī)療、教育、能源、運輸、司法等各個行業(yè)領域。在管理機制上，歐盟《人工智能法》采取了自上而下的雙重監(jiān)管機制，即在歐盟層級設立人工智能辦公室，監(jiān)督最先進人工智能模型標準與測試；在成員國層級，由各成員國的主管機構(gòu)負責在本國內(nèi)適用和實施《人工智能法》。在管理對象上，《人工智能法》覆蓋了人工智能產(chǎn)業(yè)全生態(tài)，對“高風險”人工智能系統(tǒng)的提供者、進口者、部署者以及基礎模型提供者均提出了具體的規(guī)定。此外，在法律責任上，《人工智能法》設置了高額罰款，罰款最高可達3500萬歐元或全球年營業(yè)額的7%（以較高者為準），對企業(yè)具有極強威懾力。
以美國為代表的發(fā)展引領模式。與歐盟的“強監(jiān)管”不同，美國并未試圖制定統(tǒng)一的綜合性人工智能立法，而是以“軟治理”方式為主應對人工智能發(fā)展需求和風險挑戰(zhàn)，為技術和行業(yè)友好型的非監(jiān)管措施和“軟法”治理留出更大空間。美國聯(lián)邦政府強調(diào)審慎監(jiān)管促進創(chuàng)新發(fā)展，更多通過行業(yè)自律、政策文件等“軟”性方法實現(xiàn)人工智能治理。美國政府多次聲明人工智能技術發(fā)展是“以透明、基于共識以及私營部門為主導的方法制定新興技術標準，幫助美國公司在公平的環(huán)境中競爭”。美國州層面通過區(qū)分行業(yè)領域的垂直立法，基于不同的技術應用場景出臺相關立法，立法集中在自動駕駛、算法推薦等產(chǎn)業(yè)發(fā)展和治理實踐較成熟的領域，如美國已有32個州允許測試或部署自動駕駛汽車，紐約市于2018年通過美國第一部算法問責法案《1696法案》等。
美國聯(lián)邦層面通過戰(zhàn)略規(guī)劃、政策文件等為人工智能發(fā)展掃清技術應用障礙、促進技術創(chuàng)新。一方面，美國政府以《人工智能權(quán)利法案藍圖》統(tǒng)領人工智能治理。2022年10月，美國白宮科技政策辦公室發(fā)布《人工智能權(quán)利法案藍圖》，該文件提出人工智能技術應用的五項原則及相關實踐，即建立安全有效的人工智能系統(tǒng)、建立算法歧視保護措施、保護數(shù)據(jù)隱私、強調(diào)通知和透明度的重要性以及鼓勵開發(fā)選擇退出機制。這一文件旨在幫助指導自動化系統(tǒng)的設計、使用和部署，以保護人工智能時代美國公眾的權(quán)利。另一方面，美國政府發(fā)布人工智能發(fā)展路線圖和戰(zhàn)略規(guī)劃，引領國家人工智能發(fā)展方向。2023年1月，由美國白宮科技政策辦公室和美國國家科學基金會聯(lián)合成立的國家人工智能研究資源特別工作組發(fā)布《國家人工智能研究資源的實施計劃》報告，旨在擴大獲得人工智能研究和發(fā)展必需資源的渠道，為人工智能研究人員提供更多的計算資源、高質(zhì)量數(shù)據(jù)、教育工具等，推動人工智能創(chuàng)新。2023年5月，美國白宮科技政策辦公室發(fā)布《國家人工智能研發(fā)戰(zhàn)略計劃》，總體規(guī)劃了聯(lián)邦政府投資人工智能研發(fā)的關鍵優(yōu)先事項和目標。
美國通過發(fā)布權(quán)威標準、指引以及鼓勵企業(yè)加入自律承諾等方式“柔性”應對人工智能風險。一方面，美國政府科研機構(gòu)發(fā)布人工智能風險管理框架。2023年1月，美國國家標準與技術研究院（NIST）發(fā)布《人工智能風險管理框架》，旨在更好管理與人工智能相關的個人與組織，降低開發(fā)和部署人工智能系統(tǒng)時的安全風險，避免產(chǎn)生偏見等負面影響，提高人工智能可信度。另一方面，美國政府以自愿性承諾的方式引導人工智能頭部企業(yè)開發(fā)安全、可信的人工智能。2023年7月，美國白宮召集亞馬遜、Anthropic、谷歌、Inflection、Meta、微軟和OpenAI七家人工智能企業(yè)作出一系列保護用戶的自愿承諾，包括同意進行安全測試、采用新的水印系統(tǒng)以告知用戶內(nèi)容是人工智能生成等。2023年9月，包括Adobe、IBM、英偉達等在內(nèi)的八家人工智能頭部企業(yè)也加入該自愿承諾，共同推動人工智能技術的安全、可靠和透明發(fā)展。
美國政府發(fā)布行政令以促進人工智能安全發(fā)展為主線，旨在提升美國在人工智能領域全球領導力。2023年10月，拜登簽署《關于安全、可靠和可信地開發(fā)和使用人工智能的行政令》，對美國未來人工智能發(fā)展和監(jiān)管作出全面部署，強調(diào)要促進創(chuàng)新和競爭，確保美國在人工智能領域的競爭優(yōu)勢和領先地位。該行政命令指示相關部門執(zhí)行八項行動，包括為人工智能安全和保障制定新標準，保護美國人的隱私，促進公平和公民權(quán)利，維護消費者和工人利益，促進創(chuàng)新和競爭，提升美國在全球的領導地位等。
我國人工智能法治建設的現(xiàn)狀與挑戰(zhàn)
我國人工智能法治已具備良好基礎。近年來，我國堅持統(tǒng)籌安全與發(fā)展，積極推進人工智能相關立法和治理工作，先后制定出臺了一系列法律法規(guī)，在人工智能法治建設方面處于全球領先地位。
一是我國互聯(lián)網(wǎng)領域的綜合立法為人工智能等新技術新業(yè)態(tài)的共性問題提供了基礎法律框架。我國先后出臺了《中華人民共和國網(wǎng)絡安全法》、《中華人民共和國數(shù)據(jù)安全法》（以下簡稱《數(shù)據(jù)安全法》）、《中華人民共和國個人信息保護法》（以下簡稱《個人信息保護法》）等，相關立法確立了網(wǎng)絡安全、數(shù)據(jù)安全、個人信息處理等方面的具體規(guī)則，為應對人工智能研發(fā)應用中網(wǎng)絡安全、數(shù)據(jù)安全、個人信息保護等相關問題提供了明確指引。
二是我國圍繞算法、深度合成、生成式人工智能等重點領域制定專門規(guī)則。相關部門先后出臺《互聯(lián)網(wǎng)信息服務算法推薦管理規(guī)定》《互聯(lián)網(wǎng)信息服務深度合成管理規(guī)定》《生成式人工智能服務管理暫行辦法》等相關規(guī)定。2023年7月，國家互聯(lián)網(wǎng)信息辦公室聯(lián)合工業(yè)和信息化部等多部門發(fā)布的《生成式人工智能服務管理暫行辦法》，被認為是全球首部針對生成式人工智能的專門立法，其中提出國家堅持發(fā)展和安全并重、促進創(chuàng)新和依法治理相結(jié)合的原則，采取有效措施鼓勵生成式人工智能創(chuàng)新發(fā)展，對生成式人工智能服務實行包容審慎和分類分級監(jiān)管，明確了提供和使用生成式人工智能服務總體要求。
三是我國有關地方政府結(jié)合本地人工智能產(chǎn)業(yè)發(fā)展實踐，通過地方立法探索創(chuàng)新人工智能治理，為人工智能規(guī)范發(fā)展提供制度保障。例如，2022年9月，深圳發(fā)布《深圳經(jīng)濟特區(qū)人工智能產(chǎn)業(yè)促進條例》，明確了人工智能的概念界定和產(chǎn)業(yè)邊界，提出了創(chuàng)新產(chǎn)品準入等制度。同月，上海發(fā)布《上海市促進人工智能產(chǎn)業(yè)發(fā)展條例》，提出探索人工智能沙盒監(jiān)管模式，對高風險人工智能產(chǎn)品和服務實行清單式管理等激發(fā)各類主體創(chuàng)新活力的治理機制。
人工智能發(fā)展仍面臨若干挑戰(zhàn)。從實踐發(fā)展情況來看，目前我國人工智能處于快速發(fā)展期，在大模型開發(fā)應用中存在數(shù)據(jù)處理合法性不足、知識產(chǎn)權(quán)界定不清、數(shù)據(jù)質(zhì)量缺乏保障等問題，對技術進步和產(chǎn)業(yè)發(fā)展產(chǎn)生了一定的制約影響。
一是大模型訓練中使用爬取數(shù)據(jù)存在違法風險。目前，大模型訓練中包含了來源多樣的訓練數(shù)據(jù)，主要包括公開數(shù)據(jù)集、企業(yè)內(nèi)部數(shù)據(jù)、合作伙伴數(shù)據(jù)、購買第三方數(shù)據(jù)以及用戶生成內(nèi)容。根據(jù)OpenAI官網(wǎng)的披露，ChatGPT的訓練數(shù)據(jù)既包括自身訓練數(shù)據(jù)庫中的數(shù)據(jù)，也包括與用戶交互過程中用戶的輸入數(shù)據(jù)，規(guī)模最大的訓練數(shù)據(jù)是第三方爬取的數(shù)據(jù)集。依據(jù)我國《數(shù)據(jù)安全法》相關規(guī)定，應當采取合法、正當?shù)姆绞绞占瘮?shù)據(jù)，不得竊取或者以其他非法方式獲取數(shù)據(jù)。生成式人工智能系統(tǒng)如果爬取我國未公開數(shù)據(jù)、出于非法目的爬取我國數(shù)據(jù)或者采取其他惡意手段爬取數(shù)據(jù)，該類行為將明顯超出正當性邊界，構(gòu)成對語料庫數(shù)據(jù)的非法獲取。[4]此外，我國相關司法審判案例判決未經(jīng)允許抓取非公開數(shù)據(jù)可能構(gòu)成不正當競爭，也在一定程度上限制了大模型開發(fā)者以爬取數(shù)據(jù)對大模型進行訓練。
二是以個人信息作為訓練數(shù)據(jù)存在侵犯個人信息風險。人工智能大模型在訓練過程中使用來源多樣的海量數(shù)據(jù)，其中不可避免地存在個人數(shù)據(jù)?！秱€人信息保護法》《生成式人工智能服務管理暫行辦法》均規(guī)定，對個人信息的處理活動需取得個人同意或符合法律、行政法規(guī)規(guī)定的其他情形。但模型語料庫數(shù)據(jù)規(guī)模龐大，逐一獲得個人信息主體的同意極為繁瑣，缺乏可操作性。在大模型訓練中使用已公開的個人信息，是否屬于《個人信息保護法》第二十七條規(guī)定的“在合理的范圍內(nèi)處理個人自行公開或者其他已經(jīng)合法公開的個人信息”，仍存在不確定性。目前，由于對于個人信息的處理缺乏合法性依據(jù)，OpenAI已經(jīng)受到多國數(shù)據(jù)保護監(jiān)管機構(gòu)的審查，如西班牙、加拿大的數(shù)據(jù)監(jiān)管機構(gòu)和歐洲數(shù)據(jù)保護委員會（EDPB）等均對OpenAI的數(shù)據(jù)保護展開調(diào)查。2023年3月，意大利的數(shù)據(jù)監(jiān)管部門以違法使用個人數(shù)據(jù)為由對ChatGPT發(fā)布禁令。在個人信息保護法律框架下合法擴大訓練數(shù)據(jù)庫，成為人工智能企業(yè)面臨的共同課題。
三是大模型訓練可能造成對他人知識產(chǎn)權(quán)侵權(quán)。近期，由于大模型訓練中使用了他人享有知識產(chǎn)權(quán)的數(shù)據(jù)作為訓練數(shù)據(jù)“喂養(yǎng)”大模型，在國內(nèi)外引發(fā)多起訴訟案件。2023年9月，美國作家協(xié)會和十七名作家起訴OpenAI使用權(quán)利人享有版權(quán)的作品訓練大模型構(gòu)成著作權(quán)侵權(quán)。2023年10月，環(huán)球音樂集團及其他兩家音樂公司對人工智能公司Anthropic提起侵權(quán)訴訟，認為Anthropic在歌曲的歌詞上侵犯了原告權(quán)利。2024年2月，我國廣州互聯(lián)網(wǎng)法院作出全球首例生成式人工智能侵犯著作權(quán)的生效判決。[5]目前，產(chǎn)業(yè)界、學術界就人工智能背景下解釋適用《著作權(quán)法》《專利法》等知識產(chǎn)權(quán)相關立法，以及對現(xiàn)有立法進行修訂等主題展開激烈討論。
四是數(shù)據(jù)質(zhì)量對大模型性能產(chǎn)生重要影響。目前，大模型訓練中仍存在數(shù)據(jù)質(zhì)量不高的問題。大模型訓練數(shù)據(jù)中大部分為開源數(shù)據(jù)，而開源訓練數(shù)據(jù)或多或少存在噪音問題，特別是爬蟲數(shù)據(jù)噪音問題更為嚴重，而數(shù)據(jù)質(zhì)量對于生成內(nèi)容的準確性、全面性等都產(chǎn)生重要影響。此外，大模型采用“人類反饋強化學習”訓練方法，開發(fā)主體從大模型中選取樣本，對其進行人工標注，并利用評分結(jié)果來訓練反饋模型。而反饋提供者的個人觀點可能會被模型所學習和加強，導致最終的文本生成結(jié)果缺乏客觀性和全面性。[6]數(shù)據(jù)的時效性、多樣性不足，也成為制約大模型訓練的重要因素。目前中文優(yōu)質(zhì)數(shù)據(jù)集的存量現(xiàn)狀、發(fā)展水平和內(nèi)容質(zhì)量相對落后，在一定程度上制約了大模型的訓練效果?！渡墒饺斯ぶ悄芊展芾頃盒修k法》中規(guī)定，在生成式人工智能技術研發(fā)過程中進行數(shù)據(jù)標注的，提供者應當制定清晰、具體、可操作的標注規(guī)則；開展數(shù)據(jù)標注質(zhì)量評估，抽樣核驗標注內(nèi)容的準確性；對標注人員進行必要培訓，提升其遵法守法意識，監(jiān)督指導標注人員規(guī)范開展標注工作。但提升數(shù)據(jù)質(zhì)量的具體要求和標準、數(shù)據(jù)標注的具體規(guī)制和數(shù)據(jù)標注人員管理規(guī)則都仍需進一步細化完善。
推進我國人工智能立法的思路原則與建議
關于我國人工智能立法的思路原則。目前，我國人工智能大模型發(fā)展仍處于技術追趕階段。結(jié)合我國產(chǎn)業(yè)技術發(fā)展實踐，推進我國人工智能立法工作需要統(tǒng)籌處理好發(fā)展與安全、新法與舊法、國內(nèi)與國際三對重要關系。
一是統(tǒng)籌發(fā)展與安全，明確立法定位。通用人工智能是新質(zhì)生產(chǎn)力的典型代表，在通用人工智能技術尚未展現(xiàn)全貌前，如何合理地平衡發(fā)展和安全，將極大影響我國未來在全球智能化競爭格局中的地位。建議在劃好安全底線的前提下，更加突出立法對人工智能創(chuàng)新發(fā)展的“促進”作用，實現(xiàn)以發(fā)展促安全，以安全保發(fā)展。我國人工智能立法可構(gòu)建“先行先試”的準入機制和寬松的創(chuàng)新環(huán)境，讓新技術更快地走向市場，給予萌芽階段的新技術新產(chǎn)品新應用以包容期，以實現(xiàn)立法監(jiān)管與技術創(chuàng)新的良性互動。
二是處理好新法與已有立法的關系。人工智能發(fā)展的很多問題都是傳統(tǒng)互聯(lián)網(wǎng)問題的延伸，如數(shù)據(jù)治理、個人信息保護等，對此，已有相關法律法規(guī)可以直接適用，或者針對人工智能發(fā)展特點通過立、改、廢、釋等立法手段調(diào)整后適用。要處理好不同法律之間的協(xié)調(diào)，做好新制度設計與已有規(guī)定的銜接。
三是統(tǒng)籌好國內(nèi)與國際的關系。人工智能是人類發(fā)展的新領域，帶來了重大機遇，也伴隨著難以預知的風險挑戰(zhàn)，需要國際社會共同應對。[7]在推進高水平對外開放的背景下，我國人工智能的法律制度應當成為一個立足國內(nèi)、面向國際的新型規(guī)范模式，不僅要符合我國基本國情，也可以參考借鑒美歐人工智能風險分級管理、促進創(chuàng)新等有益經(jīng)驗。
關于我國人工智能立法模式選擇的建議。在具體推進我國人工智能立法工作中，建議分階段“漸進式”推進。從整體看，目前人工智能發(fā)展仍處于通用人工智能發(fā)展的早期階段，很多問題尚未暴露，應在開展具體立法工作中區(qū)分短期和中長期的計劃，采取“漸進式”的立法模式，有序推進相關立法工作。
在短期內(nèi)，建議做好《個人信息保護法》等已有法律的適用工作，適時由全國人民代表大會常務委員會發(fā)布人工智能相關決定。目前人工智能發(fā)展中出現(xiàn)的數(shù)據(jù)安全、個人信息保護等問題，基本都可以在現(xiàn)有法律框架內(nèi)解決，對現(xiàn)有立法進行延伸適用是較為經(jīng)濟高效的手段。此外，為更好發(fā)揮法律固根本、穩(wěn)預期、利長遠的保障作用，可以參照我國曾經(jīng)在個人信息保護領域的經(jīng)驗做法，由全國人民代表大會常務委員會起草發(fā)布關于促進和規(guī)范人工智能發(fā)展的決定。個人信息保護曾是全球互聯(lián)網(wǎng)發(fā)展中的關鍵問題，歐盟于1995年發(fā)布《數(shù)據(jù)保護指令》后引發(fā)了全球個人信息保護立法熱潮。我國當時并沒有急于制定一部個人信息保護綜合性立法，而是由全國人民代表大會常務委員會在2012年發(fā)布了《關于加強網(wǎng)絡信息保護的決定》，明確了個人信息保護的主要原則和基本規(guī)則，為產(chǎn)業(yè)發(fā)展留足了空間，推動我國互聯(lián)網(wǎng)行業(yè)發(fā)展迎來黃金時代。
中長期來看，建議研究制定綜合性基礎性人工智能立法，推動構(gòu)建人工智能法律制度體系。人工智能法治化是一項系統(tǒng)性、復雜性工作，既涵蓋設計、研發(fā)、應用等多個發(fā)展階段，又包括研發(fā)者、提供者、使用者等多元主體，涉及數(shù)據(jù)、算法、模型等多方面問題，需要一部綜合性立法來統(tǒng)籌協(xié)調(diào)。以產(chǎn)業(yè)發(fā)展、權(quán)利保護、倫理考量為基本原則，用系統(tǒng)觀念和法治方法來推動人工智能技術產(chǎn)業(yè)在我國規(guī)范健康持續(xù)發(fā)展，促進其在“安全、可控、可解釋、可問責”的基本原則下創(chuàng)新發(fā)展。以算法、算力、數(shù)據(jù)為核心要素，在法治框架下盡快建立健全人工智能科技倫理監(jiān)督管理規(guī)范，完善相應的侵權(quán)責任規(guī)范體系。探索構(gòu)建以不同領域開發(fā)使用人工智能的風險為劃分標準的規(guī)則體系，加強和改進人工智能領域數(shù)據(jù)安全保障制度，重視和強化算法管理，強化對高風險領域的管理，釋放低風險領域發(fā)展活力。探索構(gòu)建多元主體創(chuàng)新治理路徑，研究探索“沙盒監(jiān)管”等創(chuàng)新監(jiān)管制度，秉持“在發(fā)展中規(guī)范”“在規(guī)范中發(fā)展”的基本制度取向，在新技術新應用治理中構(gòu)建多領域、多主體、多制度、多工具協(xié)同聯(lián)動治理機制。
關于我國人工智能發(fā)展具體問題的建議。針對現(xiàn)階段人工智能技術產(chǎn)業(yè)發(fā)展中的突出問題，可通過出臺權(quán)威指引、實施細則或修訂相關立法的方式予以回應，為人工智能發(fā)展提供明確的規(guī)則指引和合法保障。
在解決爬取數(shù)據(jù)合法性不足方面，可通過修訂現(xiàn)行立法，放寬對第三方數(shù)據(jù)服務商數(shù)據(jù)抓取的限制。對于商業(yè)數(shù)據(jù)的爬取，可考慮采納2022年《中華人民共和國反不正當競爭法（修訂草案征求意見稿）》第十八條第一款第二項關于數(shù)據(jù)爬取的規(guī)定，僅對足以實質(zhì)性替代其他經(jīng)營者提供的相關產(chǎn)品或者服務的數(shù)據(jù)爬取行為進行規(guī)制。對公眾可以無償獲取的數(shù)據(jù)，可考慮采納2022年《中華人民共和國反不正當競爭法（修訂草案征求意見稿）》第十八條第三款關于獲取使用該類型數(shù)據(jù)不屬于不正當獲取的定性，為大模型開發(fā)者合法的數(shù)據(jù)爬取和使用留出制度空間。
在實現(xiàn)大模型訓練中個人信息合法使用方面，可考慮在《個人信息保護法》框架下，針對人工智能大模型訓練階段、生成階段、應用階段個人信息保護的具體問題出臺細則和指引，幫助相關企業(yè)合法地研發(fā)、部署、應用人工智能大模型?？紤]出臺《個人信息保護法實施條例》，將人工智能大模型在研發(fā)階段對已公開個人信息的使用納入《個人信息保護法》規(guī)定的“在合理的范圍內(nèi)處理個人已經(jīng)合法公開的個人信息”。
在協(xié)調(diào)促進人工智能創(chuàng)新和著作權(quán)保護方面，通過具體規(guī)則、指引解決人工智能發(fā)展中的突出問題，為構(gòu)建完善的人工智能制度體系奠定規(guī)則基礎?？煽紤]在《著作權(quán)法》第四節(jié)“權(quán)利的限制”部分增加“文本與數(shù)據(jù)挖掘”條款，即“為研發(fā)大模型而采集作品數(shù)據(jù)進行訓練的，在著作權(quán)人未明確拒絕將其作品用于訓練時，可以不經(jīng)著作權(quán)人許可，使用其作品進行模型訓練，但不得影響該作品的正常使用，也不得不合理地損害著作權(quán)人的合法權(quán)益”。允許企業(yè)出于發(fā)展人工智能的公共利益需要，在不侵害著作權(quán)人合法權(quán)益的基礎上，使用作品進行模型訓練。
在提升訓練數(shù)據(jù)質(zhì)量方面，可通過發(fā)布實踐指引、行業(yè)標準的形式，明確對具體行業(yè)、具體類型數(shù)據(jù)質(zhì)量的具體要求。圍繞數(shù)據(jù)標準化、數(shù)據(jù)合規(guī)化、數(shù)據(jù)完整性、數(shù)據(jù)一致性等要求，構(gòu)建數(shù)據(jù)集質(zhì)量評測基準體系，開發(fā)數(shù)據(jù)標注管理工具，為提升數(shù)據(jù)質(zhì)量提供明確指引?？商剿鳂?gòu)建數(shù)據(jù)標注行業(yè)管理制度，完善數(shù)據(jù)標注規(guī)則，包括標注目標、標注格式、標注方法以及數(shù)據(jù)質(zhì)量指標等。構(gòu)建數(shù)據(jù)標注從業(yè)者的資格準入制度，針對數(shù)據(jù)標注、數(shù)據(jù)審核等不同職能明確不同的任職要求等。
注釋
[1]《加強領導做好規(guī)劃明確任務夯實基礎 推動我國新一代人工智能健康發(fā)展》，《人民日報》，2018年11月1日，第1版。
[2]《政府工作報告——2024年3月5日在第十四屆全國人民代表大會第二次會議上》，2024年3月12日，https://www.gov.cn/yaowen/liebiao/202403/content_6939153.htm。
[3]王融：《AI時代，歐盟會復制下一個GDPR嗎？》，2023年12月21日，https://www.tisi.org/27214。
[4]張欣：《生成式人工智能的數(shù)據(jù)風險與治理路徑》，《法律科學（西北政法大學學報）》，2023年第5期。
[5]《AI畫出奧特曼：中國法院作出全球首例生成式AI服務侵犯著作權(quán)的生效判決》，2024年2月26日，https://m.21jingji.com/article/20240226/herald/133a6c2f9c0b045899e4dea10c5778eb.html。
[6]鈄曉東：《論生成式人工智能的數(shù)據(jù)安全風險及回應型治理》，《東方法學》，2023年第5期。
[7]方興東：《告別人工智能治理“碎片化”》，《人民政協(xié)報》，2023年12月7日，第7版。
參考文獻
騰訊研究院、中國信息通信研究院互聯(lián)網(wǎng)法律研究中心，2017，《人工智能：國家人工智能戰(zhàn)略行動抓手》，北京：中國人民大學出版社。
楊延超，2019，《機器人法——構(gòu)建人類未來新秩序》，北京：法律出版社。
伊格納斯·卡爾波卡斯，2022，《算法治理：后人類時代的政治與法律》，上海人民出版社。
劉艷紅，2023，《生成式人工智能的三大安全風險及法律規(guī)制——以ChatGPT為例》，《東方法學》，第4期。
劉金瑞，2021，《數(shù)據(jù)安全范式革新及其立法展開》，《環(huán)球法律評論》，第1期。
蘇宇，2023，《數(shù)字時代的技術性正當程序：理論檢視與制度構(gòu)建》，《法學研究》，第1期。
責 編∕桂 琰 美 編∕梁麗琛
Promoting the High-quality Development of Artificial Intelligence on the Track
of the Rule of Law
Xin Yongfei
Abstract: Currently, artificial intelligence is flourishing globally, becoming an important driving force for a new round of technological revolution and industrial transformation. The breakthrough of artificial intelligence technology not only brings great convenience, but also leads to the overlapping of new and old risks, triggering a series of problems and posing challenges to existing economic and social governance models and rules. The legalization of artificial intelligence is an important guarantee for ensuring the safe and orderly development of artificial intelligence, and it is also a common practice in leading countries and regions in the development of artificial intelligence. China has established a solid foundation in the construction of the rule of law in artificial intelligence. Considering that the technology industry is still in a catching up stage in some aspects, we should fully leverage the role of the rule of law in fixing the foundation, stabilizing expectations, and promoting long-term benefits. We should distinguish between short-term and medium and long term plans, adopt a "progressive" legislative model, orderly promote relevant legislative work, and promote and ensure the high-quality development of artificial intelligence in China.
Keywords: artificial intelligence, legalization, progressive, legislative model
