生成式人工智能治理規(guī)則需平衡利弊、思深憂遠
4月11日,中國國家網(wǎng)信辦發(fā)布《生成式人工智能服務管理辦法(征求意見稿)》(下稱《意見稿》),向社會公開征求意見。4月12日,美國商務部就ChatGPT等AI大模型監(jiān)管措施公開征求意見,世界科技巨頭在不斷推出新品之際,各國監(jiān)管部門的步伐也正迎頭趕上,逐步開啟對人工智能生成式內容的監(jiān)管,未來的監(jiān)管政策成為中美競爭的關鍵變量。
美國監(jiān)管政策的變化
美國國家電信和信息管理局公開征求的內容方面,監(jiān)管政策意見主題主要包括:人工智能開發(fā)公司及其企業(yè)客戶應該進行什么樣的信任和安全測試;進行審計和評估需要什么樣的數(shù)據(jù)訪問;監(jiān)管機構和其他參與者如何激勵和支持人工智能系統(tǒng)的可信保證以及其他形式的問責制;不同行業(yè)可能需要哪些不同的監(jiān)管方法——如就業(yè)或醫(yī)療保健。
美國國家電信和信息管理局(NTIA)負責人Alan Davidson表示,在新技術發(fā)展的同時,也要保證其安全性、可靠性。新的大語言模型功能非常強大,它們確實會產(chǎn)生一些有害的內容。新的監(jiān)管政策不僅可以降低產(chǎn)品的安全性,也可以讓企業(yè)以更加安全的方式發(fā)展創(chuàng)新技術。
美國商務部表示,將在接下來的 60 天內就人工智能審計、風險評估和其他措施的可能性征求意見,這些措施可以緩解消費者對這些新技術產(chǎn)品的擔憂。從美國國家電信和信息管理局的AI監(jiān)管意見來看,其政策是目標是支持AI審計、評估、認證和其他機制的發(fā)展,以贏得人們對AI系統(tǒng)的信任。通過監(jiān)管,讓人工智能企業(yè)在政府的指導下,能以更安全的方式開展技術創(chuàng)新。
中國監(jiān)管政策走出重要一步
我國對人工智能一直持鼓勵發(fā)展的態(tài)度。國務院曾于2017年印發(fā)了《新一代人工智能發(fā)展規(guī)劃》,提出了人工智能發(fā)展的戰(zhàn)略目標;2022年,科技部等六部門印發(fā)了《關于加快場景創(chuàng)新以人工智能高水平應用促進經(jīng)濟高質量發(fā)展的指導意見》,明確提出鼓勵在重點行業(yè)深入挖掘人工智能技術應用場景。本次網(wǎng)信辦發(fā)布的《意見稿》是國家宏觀指導政策首次進入法規(guī)層面。
《意見稿》進一步明確“鼓勵優(yōu)先采用安全可信的軟件、工具、計算和數(shù)據(jù)資源”。安全可信的網(wǎng)絡產(chǎn)品和服務是《關鍵信息基礎設施安全保護條例》《網(wǎng)絡數(shù)據(jù)安全管理條例(征求意見稿)》對于關鍵信息基礎設施運營者和重要數(shù)據(jù)處理者的強制要求,雖然《意見稿》的口徑為“鼓勵”宣貫,但未來相關監(jiān)管是否會對如何判斷網(wǎng)絡產(chǎn)品和服務的安全可信發(fā)布系列規(guī)則或者標準,尚待進一步觀察。
比如,在訓練數(shù)據(jù)方面,《意見稿》對預訓練數(shù)據(jù)提出了更多的要求,要求保證訓練數(shù)據(jù)的“真實性、準確性、客觀性、多樣性”。清華大學中國發(fā)展規(guī)劃研究院執(zhí)行副院長董煜指出,大模型離不開數(shù)據(jù)的訓練,如果對于訓練數(shù)據(jù)作出過于嚴苛的規(guī)定,將阻礙大模型的發(fā)展速度。數(shù)據(jù)訓練的規(guī)模會決定人工智能生成內容的質量,數(shù)據(jù)的數(shù)量和質量比算法和模型更重要,美國可以做出ChatGPT,很大程度上在于美國對于全世界數(shù)據(jù)的收集和掌握。從歐盟、美國、韓國、日本等國家針對預訓練數(shù)據(jù)合法性的要求來看,為了支持大模型的發(fā)展,他們允許使用各種出版物對生成式人工智能訓練數(shù)據(jù)進行分析。因此,如果由于真實性、版權等問題無法使用相關訓練數(shù)據(jù),將對人工智能技術發(fā)展帶來不利影響。
生成式AI是不能輸?shù)舻摹皯?zhàn)役”
當前中美競爭的形勢十分激烈,從某種意義上說,生成式AI對未來的技術面貌具有相當?shù)闹厮芰?,這一認知已達成共識。國家高度重視科技進步,視科技創(chuàng)新為高質量發(fā)展的生命線。現(xiàn)階段生成式AI在中外監(jiān)管思路的明顯區(qū)別是,美歐各國側重從數(shù)據(jù)安全、數(shù)據(jù)保護的角度來介入和推動監(jiān)管落地,中國則是一種綜合治理的思路,強調權益保護、數(shù)據(jù)治理、內容治理等多個維度。
監(jiān)管的目的顯然不是要限制人工智能工具的開發(fā),而是要推動它的健康發(fā)展。中國的生成式人工智能產(chǎn)品和服務,百度的文心一言已經(jīng)面世,其他大模型也在發(fā)布或是處在測試階段。受限于有限的中文數(shù)據(jù),整體表現(xiàn)與ChatGPT有一定差距,如何幫它們健康地強大起來,這是對包括監(jiān)管體系在內的整個中國社會的考驗。
通過《意見稿》我們不難發(fā)現(xiàn),這一文件的出臺無疑為我國算法相關產(chǎn)業(yè)的發(fā)展提供了新的指導。然而,我們也注意到,該辦法中的一些細節(jié)仍有待進一步完善,有關問題仍需要立法者澄清。例如針對《意見稿》第九條,北京大學法學院薛軍教授指出,生成式人工智能服務,在某些特定場景下更類似于搜索服務,本質是一種智能檢索,應當允許用戶以游客的身份使用。這是因為,生成式人工智能服務可以根據(jù)用戶提供的查詢、問題或任務,自動產(chǎn)生相應的答案、方案或輸出。這個過程類似于搜索引擎對關鍵詞進行搜索并返回相關結果的過程,當然,還可以把搜索引擎與其結合生成更加動態(tài)、個性化、甚至創(chuàng)造性的輸出。微軟將ChatGPT問答模型遷入必應搜索引擎,可以讓更多的用戶通過輸入問題獲得答案,從而提高信息獲取的效率和質量,整個過程并不需要用戶的登錄或驗證。
未來隨著AI技術的發(fā)展,中國在生成式AI和大模型方面是否會面臨類似芯片的卡脖子局面,我們不得而知。為了不陷入被動局面,打造有利于國內生成式AI發(fā)展的政策環(huán)境在中美競爭中扮演著至關重要的角色。
陳晨 中國法學會網(wǎng)絡與信息法學研究會常務理事
版權聲明:凡注明“來源:中國西藏網(wǎng)”或“中國西藏網(wǎng)文”的所有作品,版權歸高原(北京)文化傳播有限公司。任何媒體轉載、摘編、引用,須注明來源中國西藏網(wǎng)和署著作者名,否則將追究相關法律責任。
- 中新人物|彈奏“九霄環(huán)佩”的李蓬蓬,她的琴聲響徹大洋彼岸
- 【百萬莊小課堂】什么是知識產(chǎn)權?我們?yōu)槭裁匆Wo知識產(chǎn)權?
- “五一”在即,二次感染要來?專家:新冠正走向流感化
- 【中國足球再出發(fā)】球市火爆!重新出發(fā)的中國足球,開了個好頭
- 拜登計劃正式宣布競選連任總統(tǒng) 美國民眾憂年齡問題
- 警惕!日本福島第一核電站核污水或在7月后排海
- 韓國總統(tǒng)尹錫悅將啟程赴美,與拜登第六次會晤
- IMF駐華首席代表:中國經(jīng)濟強勁反彈,產(chǎn)生積極溢出效應|世界觀
- 希臘總統(tǒng)批準解散議會并確定大選日期
- 俄烏局勢進展:俄方宣布將大規(guī)模驅逐德國外交官 烏官員吁西方援烏“跨越紅線”