專家解讀｜鼓勵新興技術健康發(fā)展 探索人工智能治理法治路徑

      《生成式人工智能服務管理暫行辦法》（下文簡稱《辦法》）頒布，標志著我國邁出了加快人工智能立法的重要一步。新規(guī)出臺順應新興技術發(fā)展趨勢，彰顯了注重發(fā)展、兼顧安全的立法宗旨?！掇k法》引領國際人工智能的治理實踐，對人工智能三要素—數據、算法、算力作出統(tǒng)籌性的制度設計，對邁向通用人工智能立法做出了有益探索。

   鼓勵新興技術健康發(fā)展，引領國際人工智能治理實踐

  《辦法》開篇即明確“為了促進生成式人工智能健康發(fā)展和規(guī)范應用”制定，是我國人工智能治理與時俱進的重要舉措。2017年國務院發(fā)布的《新一代人工智能發(fā)展規(guī)劃》明確提出“到2025年，初步建立人工智能法律法規(guī)、倫理規(guī)范和政策體系”。2022年底以來，大模型的發(fā)展催生了人工智能技術的迭代，生成式人工智能成為人工智能產業(yè)全新的發(fā)展方向。生成式人工智能不僅能夠帶動數字內容創(chuàng)作、元宇宙、虛擬人等新興領域加速發(fā)展，更是依托“模型即服務”的產業(yè)形態(tài)融合滲透傳統(tǒng)產業(yè)實現生產力躍升。

  《辦法》的適用范圍考慮到生成式人工智能的技術特點與分層業(yè)態(tài)，充分體現了鼓勵人工智能產業(yè)發(fā)展的精神。生成式人工智能既可以為垂直領域企業(yè)提供服務，也可以通過智慧問答、圖文生成等方式直接為公眾提供服務。正是基于這些新特點，《辦法》第二條明確適用范圍重點為“向中華人民共和國境內公眾提供生成文本、圖片、音頻、視頻等內容的服務”，同時明確“行業(yè)組織、企業(yè)、教育和科研機構、公共文化機構、有關專業(yè)機構等研發(fā)、應用生成式人工智能技術，未向境內公眾提供生成式人工智能服務的，不適用本辦法的規(guī)定”。與此同時，《辦法》在第五條鼓勵生成式人工智能技術在各行業(yè)、各領域的創(chuàng)新應用，探索優(yōu)化應用場景，構建應用生態(tài)體系。

  《辦法》引領國際人工智能的治理實踐。生成式人工智能引起世界各國立法和監(jiān)管的關注，但目前尚無成熟的治理實踐。歐盟的《人工智能法案》針對生成式人工智能做出新一輪修改與調整。我國的《辦法》作為小切口立法“急用先行”，體現了專門性、前瞻性和開放性，與我國既有的人工智能監(jiān)管工具相結合，引領生成式人工智能治理實踐，率先作出了有益的制度探索。

  統(tǒng)籌生成式人工智能多重要素，充分體現系統(tǒng)治理理念

  《辦法》融合了數據、算法、算力等諸多生成式人工智能要素，并明確對生成式人工智能服務實行包容審慎和分類分級監(jiān)管。在數據方面，《辦法》提出“推動公共數據分類分級有序開放，擴展高質量的公共訓練數據資源”，“推進生成式人工智能基礎設施和公共訓練數據資源平臺建設”，支持行業(yè)組織、企業(yè)、教育和科研機構、公共文化機構、有關專業(yè)機構等在生成式人工智能數據資源建設等方面開展協(xié)作?！掇k法》第七條對訓練數據處理活動提出了具體要求。同時，第八條明確了數據標注規(guī)范，對在生成式人工智能技術研發(fā)過程中進行數據標注的，規(guī)定制定符合本辦法要求的清晰、具體、可操作的標注規(guī)則，開展數據標注質量評估，對標注人員進行必要培訓等。

  在算法和算力等方面，《辦法》第四條明確了算法設計過程中應當遵守的規(guī)定，并在第六條提出鼓勵生成式人工智能算法、框架、芯片及配套軟件平臺等基礎技術的自主創(chuàng)新，平等互利開展國際交流與合作，參與生成式人工智能相關國際規(guī)則制定?！掇k法》第十七條明確提供具有輿論屬性或者社會動員能力的生成式人工智能服務的，應當按照國家有關規(guī)定開展安全評估并履行算法備案、變更、注銷備案手續(xù)。同時，《辦法》還提出促進算力資源協(xié)同共享、提升算力資源利用效能，明確鼓勵采用安全可信的芯片、軟件、工具、算力和數據資源，充分回應技術產業(yè)發(fā)展需要。

  兼顧制度創(chuàng)新與監(jiān)管體系性，邁出通用人工智能治理探索腳步

  《辦法》兼顧創(chuàng)新制度設計與保持監(jiān)管體系性?！掇k法》第二章“技術發(fā)展與治理”作出了一系列創(chuàng)新的制度設計，圍繞生成式人工智能產業(yè)形態(tài)設計了覆蓋其生命周期的新型監(jiān)管措施。如第四條要求服務提供者在算法設計、訓練數據選擇、模型生成和優(yōu)化、提供服務等過程中采取有效措施防止產生各種歧視，并基于服務類型特點，提升生成式人工智能的透明度，提高生成內容的準確性和可靠性。與此同時，《辦法》第七條要求服務提供者依法開展預訓練、優(yōu)化訓練等訓練數據處理活動，應使用具有合法來源的數據和基礎模型，并且要遵守知識產權保護、個人信息保護等相關監(jiān)管要求。第十四條規(guī)定發(fā)現違法內容的，應當采取模型優(yōu)化訓練等措施進行整改。上述一系列適應技術發(fā)展的監(jiān)管措施，將有助于促進生成式人工智能規(guī)范應用。

  與此同時，《辦法》第三章明確服務規(guī)范。如在第十一條要求提供者對使用者的輸入信息和使用記錄依法履行保護義務，不得收集非必要個人信息，不得非法留存能夠識別使用者身份的輸入信息和使用記錄，不得非法向他人提供使用者的輸入信息和使用記錄，還應當依法及時受理和處理個人關于查閱、復制、更正、補充、刪除其個人信息等的請求，有效回應了社會各界對生成式人工智能產業(yè)特點是否能夠符合個人信息保護要求的擔憂。第十二條要求提供者按照《互聯(lián)網信息服務深度合成管理規(guī)定》的要求對圖片、視頻等生成內容進行標識，延續(xù)了對于生成內容的標識要求。由此可見，《辦法》不僅與我國以往的信息內容監(jiān)管制度相銜接，還充分考量了與個人信息保護、數據安全等制度的協(xié)調性。

  生成式人工智能的發(fā)展標志著人工智能正在從專用智能邁向通用智能，進入了全新的發(fā)展階段。中共中央政治局4月28日召開會議強調，“要重視通用人工智能發(fā)展，營造創(chuàng)新生態(tài)，重視防范風險”。《辦法》的各項具體制度開啟了通用人工智能立法的新進程。面對技術發(fā)展帶來的機遇與挑戰(zhàn)，《辦法》既創(chuàng)新制度設計又保持監(jiān)管一貫的體系性，既重視安全更多方推進技術產業(yè)發(fā)展，不僅引領國際人工智能治理實踐，更為我國未來通用人工智能的立法與治理做出了有益探索。

  作者：張凌寒 中國政法大學教授、博士生導師

      本文轉載自：安徽省網信辦，原文鏈接：http://www.ahwx.gov.cn/wlyj/202308/t20230829_7048041.html