技術(shù)發(fā)展帶來難以預(yù)知的風(fēng)險和挑戰(zhàn)

　　全球人工智能發(fā)展步入治理軌道

　　□ 本報記者 趙陽

　　當(dāng)前，全球人工智能技術(shù)快速發(fā)展，對經(jīng)濟(jì)社會發(fā)展和人類文明進(jìn)步產(chǎn)生深遠(yuǎn)影響，給世界帶來巨大機(jī)遇。與此同時，人工智能技術(shù)也帶來難以預(yù)知的各種風(fēng)險和復(fù)雜挑戰(zhàn)。

　　今年以來，多個國家和地區(qū)聚焦人工智能的治理工作已陸續(xù)展開。在全球開啟科技競爭的同時，各國人工智能治理體系也在迅速形成。

　　技術(shù)濫用問題引發(fā)擔(dān)憂

　　1956年被公認(rèn)為人工智能元年。從那時起至今60余年，人工智能技術(shù)在經(jīng)歷兩次發(fā)展浪潮后，以去年11月30日ChatGPT深度學(xué)習(xí)技術(shù)的推出為標(biāo)志，開始催生出各種各樣的創(chuàng)新應(yīng)用?？焖俚募夹g(shù)不斷顛覆人們的想象，但隨之而來的技術(shù)濫用問題也引發(fā)擔(dān)憂。

　　11月7日，日本《日經(jīng)亞洲評論》刊發(fā)的《人工智能正在放大東南亞新數(shù)字公民面臨的風(fēng)險》一文，就證明了這種擔(dān)憂不無道理。

　　平臺經(jīng)濟(jì)的興起以及數(shù)字化的推進(jìn)，正在幫助東南亞新興市場跨越式地邁向現(xiàn)代化。截至2022年，東盟的互聯(lián)網(wǎng)人口達(dá)到4.6億，在過去3年新增了1億用戶。其中3.7億人會在網(wǎng)上購物。

　　這種跨越式發(fā)展令人興奮，但在技術(shù)發(fā)展的復(fù)雜時期，人工智能尤其是生成式人工智能的興起，加劇了東南亞新上網(wǎng)人群受到的欺詐威脅。

　　文章介紹了一種常見的詐騙手段——“魚叉式網(wǎng)絡(luò)釣魚”，即向受害者發(fā)送看似真實的電子郵件，其中包含鏈接，如果點擊這些鏈接，就會觸發(fā)惡意軟件。這類騙局對東南亞社會弱勢群體的影響尤為嚴(yán)重。網(wǎng)絡(luò)安全公司Darktrace的數(shù)據(jù)顯示，由于生成式人工智能助長了欺詐行為，今年前兩個月，電子郵件攻擊數(shù)量同比增長135%。

　　文章認(rèn)為，網(wǎng)絡(luò)犯罪在東南亞已經(jīng)是一個緊迫的問題。根據(jù)IBM(國際商業(yè)機(jī)器公司)的數(shù)據(jù)，截至2022年，該地區(qū)網(wǎng)絡(luò)欺詐案件在全球所有同類案件中占31%。弗雷斯特研究公司去年進(jìn)行的一項調(diào)查顯示，東南亞市場四分之三的企業(yè)決策者表示，過去一年受到了網(wǎng)絡(luò)欺詐的影響。

　　文章最后總結(jié)稱，隨著東南亞數(shù)字經(jīng)濟(jì)參與者數(shù)量的激增，犯罪分子可以利用的切入點也越來越多。可能針對一個消費(fèi)者，可能針對一個小創(chuàng)業(yè)公司的實習(xí)生，還可能針對街角商店的銷售系統(tǒng)。雖然對這些小實體發(fā)起的攻擊不太可能立即對整個網(wǎng)絡(luò)系統(tǒng)產(chǎn)生深遠(yuǎn)影響，但對于生計會受到嚴(yán)重影響的東南亞購物者或小企業(yè)來說，這種攻擊將使他們及其周圍的人不愿再使用數(shù)字服務(wù)。

　　不僅如此，“人工智能嘴替”已在多個國家蔓延。美國總統(tǒng)拜登就透露他曾看到自己講話的深偽產(chǎn)品，對圖像的逼真程度感到吃驚。

　　多國和地區(qū)著手加強(qiáng)治理

　　毋庸置疑，人工智能的飛速發(fā)展正在顛覆人類認(rèn)知，它會不會打開“潘多拉魔盒”？盡管這種擔(dān)憂之聲未免有些杞人憂天，但也正是這種擔(dān)憂的存在，促使全球多國和地區(qū)紛紛著手加強(qiáng)管理，以保證科技創(chuàng)新與規(guī)范并進(jìn)。

　　當(dāng)?shù)貢r間6月14日，歐洲議會以499票贊成、28票反對、93票棄權(quán)的壓倒性優(yōu)勢通過了《人工智能法案》草案。根據(jù)草案，歐盟將人工智能系統(tǒng)(如ChatGPT等)劃分為不同的風(fēng)險組。應(yīng)用程序越危險，適用的規(guī)則就越嚴(yán)格。同時，歐盟還正著手制定全面的人工智能禁令，比如禁止鼓勵危險行為的交互式對話工具，以及用于預(yù)測誰將犯罪的預(yù)測性警務(wù)工具等。

　　10月30日，拜登簽署了一項關(guān)于人工智能的行政命令，被美國媒體稱為“有史以來政府為推進(jìn)人工智能安全領(lǐng)域所采取的最重大行動”。此外，美國商務(wù)部還將給人工智能生成內(nèi)容，比如通常被稱為“深偽技術(shù)”的AI生成音頻或圖像，制定更加嚴(yán)格的標(biāo)準(zhǔn)。加拿大、韓國、日本等國家同樣開始在人工智能領(lǐng)域采取規(guī)范和限制措施。

　　作為人工智能大國，中國在全球人工智能治理上從未缺位，一直在致力于提升人工智能技術(shù)的安全性、可靠性、可控性、公平性。

　　4月11日，中國國家互聯(lián)網(wǎng)信息辦公室發(fā)布《生成式人工智能服務(wù)管理辦法(征求意見稿)》(以下簡稱《征求意見稿》)，促進(jìn)生成式人工智能技術(shù)健康發(fā)展和規(guī)范應(yīng)用?！墩髑笠庖姼濉吩诿鞔_了對人工智能算法、框架等基礎(chǔ)技術(shù)的自主創(chuàng)新、推廣應(yīng)用、國際合作的鼓勵態(tài)度，在支持優(yōu)先采用安全可信的軟件、工具、計算和數(shù)據(jù)資源的同時，劃定了相關(guān)范圍，即辦法管轄范圍、辦法管理權(quán)限、“提供者”的責(zé)任主體認(rèn)定。此外，《征求意見稿》還將為未來生成式人工智能服務(wù)提供者在從業(yè)過程中的底線和規(guī)范提供法律依據(jù)。

　　而早在2021年12月，中國就向聯(lián)合國《特定常規(guī)武器公約》第六次審議大會提交《中國關(guān)于規(guī)范人工智能軍事應(yīng)用的立場文件》。2022年11月，中國又向聯(lián)合國《特定常規(guī)武器公約》締約國大會提交了《中國關(guān)于加強(qiáng)人工智能倫理治理的立場文件》。這些主張堅持維護(hù)人類福祉，堅守公平正義，體現(xiàn)了大國責(zé)任擔(dān)當(dāng)。

　　向國際社會提供中國方案

　　毫無疑問，人工智能正在席卷而來，這場深刻的革命，將徹底改變我們這個時代和生活。面對人工智能技術(shù)帶來的難以預(yù)知的風(fēng)險挑戰(zhàn)，國際社會迫切需要加強(qiáng)人工智能治理，推動人工智能朝著科技向善的方向發(fā)展。正如聯(lián)合國秘書長古特雷斯所指出的，要帶著“一種緊迫感、一種全球視野和一種學(xué)習(xí)者的心態(tài)”來應(yīng)對這項技術(shù)，各國應(yīng)展開協(xié)調(diào)并設(shè)定紅線，爭分奪秒推動人工智能造福人類。

　　在這場風(fēng)險挑戰(zhàn)中，中國向世界提供了人工智能治理方案。

　　在11月1日英國布萊奇利園舉行的首屆人工智能安全峰會上，中國代表指出，人工智能治理攸關(guān)全人類命運(yùn)，是世界各國面臨的共同課題。發(fā)展人工智能，應(yīng)當(dāng)積極倡導(dǎo)以人為本，智能向善，加強(qiáng)技術(shù)風(fēng)險管控，并在相互尊重、平等互利的原則基礎(chǔ)上，鼓勵各方協(xié)同共治，增強(qiáng)發(fā)展中國家在人工智能全球治理中的代表性和發(fā)言權(quán)，不斷彌合智能鴻溝和治理能力差距。中方愿與各方一道就人工智能安全治理加強(qiáng)溝通交流，為推動形成普遍參與的國際機(jī)制和具有廣泛共識的治理框架積極貢獻(xiàn)智慧。

　　而在不久前，中方在第三屆“一帶一路”國際合作高峰論壇期間提出《全球人工智能治理倡議》，就各方普遍關(guān)切的人工智能發(fā)展與治理問題給出建設(shè)性解決思路，更為人工智能相關(guān)國際討論和規(guī)則制定提供了藍(lán)本。比如支持在充分尊重各國政策和實踐基礎(chǔ)上，形成具有廣泛共識的全球人工智能治理框架和標(biāo)準(zhǔn)規(guī)范；支持在聯(lián)合國框架下討論成立國際人工智能治理機(jī)構(gòu)；加強(qiáng)面向發(fā)展中國家的國際合作與援助等。展現(xiàn)出中國推動完善全球治理的大國擔(dān)當(dāng)，是中國積極踐行人類命運(yùn)共同體理念，落實全球發(fā)展倡議、全球安全倡議、全球文明倡議的具體行動。

　　人工智能治理攸關(guān)全人類命運(yùn)，是世界各國面臨的共同課題。中國提出的方案將有力推動各方增進(jìn)對話合作、凝聚共識，共同構(gòu)建開放、公正、有效的治理機(jī)制，促進(jìn)人工智能造福全人類。（法治日報）