【學(xué)思踐悟】

作為新一輪科技革命和產(chǎn)業(yè)變革的重要驅(qū)動(dòng)力量，人工智能發(fā)展在發(fā)揮多方面積極作用的同時(shí)，也面臨著安全風(fēng)險(xiǎn)等一系列問(wèn)題。4月25日，習(xí)近平總書(shū)記在主持中共中央政治局第二十次集體學(xué)習(xí)時(shí)強(qiáng)調(diào)，“完善人工智能監(jiān)管體制機(jī)制，牢牢掌握人工智能發(fā)展和治理主動(dòng)權(quán)”。人工智能安全是我國(guó)總體國(guó)家安全觀的重要組成部分。習(xí)近平總書(shū)記高度重視統(tǒng)籌人工智能發(fā)展和安全，圍繞發(fā)展和安全辯證統(tǒng)一關(guān)系、筑牢國(guó)家安全屏障等作出一系列重要論述，強(qiáng)調(diào)“要加強(qiáng)人工智能發(fā)展的潛在風(fēng)險(xiǎn)研判和防范，維護(hù)人民利益和國(guó)家安全”。推動(dòng)人工智能健康有序發(fā)展，必須充分運(yùn)用法律、技術(shù)等多種手段，構(gòu)建并完善全方位、多層次的監(jiān)管機(jī)制，有效應(yīng)對(duì)人工智能帶來(lái)的各種風(fēng)險(xiǎn)和挑戰(zhàn)，確保人工智能安全、可靠、可控。

建立和完善人工智能法律制度體系

通過(guò)法律手段對(duì)人工智能進(jìn)行監(jiān)管是世界主要國(guó)家和地區(qū)的普遍通用做法。2017年以來(lái)，美國(guó)、歐盟、日本、新加坡等陸續(xù)發(fā)布人工智能領(lǐng)域的法律法規(guī)準(zhǔn)則，持續(xù)加強(qiáng)對(duì)人工智能的管理。近年來(lái)，我國(guó)持續(xù)加快人工智能領(lǐng)域立法步伐，出臺(tái)網(wǎng)絡(luò)安全法、數(shù)據(jù)安全法、個(gè)人信息保護(hù)法和《互聯(lián)網(wǎng)信息服務(wù)算法推薦管理規(guī)定》《互聯(lián)網(wǎng)信息服務(wù)深度合成管理規(guī)定》《生成式人工智能服務(wù)管理暫行辦法》等法律法規(guī)，在加強(qiáng)對(duì)人工智能監(jiān)管、防范人工智能風(fēng)險(xiǎn)等方面發(fā)揮了積極作用。與此同時(shí)，人工智能技術(shù)和應(yīng)用發(fā)展日新月異，人工智能的監(jiān)管需求日益增長(zhǎng)，相關(guān)法律法規(guī)還存在一些短板和不足，比如，法律體系還不夠完善，缺少人工智能安全監(jiān)管的專(zhuān)門(mén)法律，在一些促發(fā)展、保安全的關(guān)鍵問(wèn)題上還存在立法空白等。習(xí)近平總書(shū)記強(qiáng)調(diào)，“要堅(jiān)持促進(jìn)發(fā)展和依法管理相統(tǒng)一，既大力培育人工智能、物聯(lián)網(wǎng)、下一代通信網(wǎng)絡(luò)等新技術(shù)新應(yīng)用，又積極利用法律法規(guī)和標(biāo)準(zhǔn)規(guī)范引導(dǎo)新技術(shù)應(yīng)用”。我們要進(jìn)一步把握人工智能發(fā)展趨勢(shì)和規(guī)律，加快人工智能立法進(jìn)程，推動(dòng)人工智能相關(guān)立法工作列入國(guó)家立法規(guī)劃，盡快制定具有前瞻性的人工智能法律法規(guī)，為相關(guān)技術(shù)的研發(fā)、應(yīng)用和管理提供法律依據(jù)和保障；聚焦人工智能重點(diǎn)領(lǐng)域制定法規(guī)政策、行業(yè)規(guī)范，強(qiáng)化人工智能技術(shù)濫用的法律約束，逐步完善人工智能相關(guān)法律體系，為我國(guó)人工智能安全治理提供法律依據(jù)和支撐。

建立人工智能技術(shù)風(fēng)險(xiǎn)評(píng)估與分類(lèi)分級(jí)監(jiān)管機(jī)制

人工智能技術(shù)的復(fù)雜性和不確定性使其可能帶來(lái)多種風(fēng)險(xiǎn)，如數(shù)據(jù)泄露、算法偏見(jiàn)、系統(tǒng)被攻擊等，這些風(fēng)險(xiǎn)可能對(duì)個(gè)人、企業(yè)和社會(huì)產(chǎn)生負(fù)面影響。人工智能技術(shù)的風(fēng)險(xiǎn)評(píng)估與分類(lèi)分級(jí)監(jiān)管是確保人工智能技術(shù)安全、可靠和可持續(xù)發(fā)展的關(guān)鍵環(huán)節(jié)。通過(guò)建立健全風(fēng)險(xiǎn)評(píng)估與分類(lèi)分級(jí)監(jiān)管機(jī)制，既可以有效識(shí)別和量化潛在風(fēng)險(xiǎn)，保障人工智能技術(shù)的安全應(yīng)用，又能促進(jìn)人工智能的創(chuàng)新發(fā)展。生成式人工智能是人工智能的一個(gè)分支。2023年7月，國(guó)家網(wǎng)信辦等七部門(mén)發(fā)布《生成式人工智能服務(wù)管理暫行辦法》，明確要求對(duì)生成式人工智能服務(wù)實(shí)行包容審慎和分類(lèi)分級(jí)監(jiān)管，對(duì)具有輿論屬性或者社會(huì)動(dòng)員能力的生成式人工智能服務(wù)開(kāi)展安全評(píng)估。這是我國(guó)出臺(tái)的全面監(jiān)管生成式人工智能的規(guī)范文件。當(dāng)前，人工智能技術(shù)發(fā)展方興未艾，我們既要建立包括技術(shù)風(fēng)險(xiǎn)、數(shù)據(jù)安全風(fēng)險(xiǎn)、倫理風(fēng)險(xiǎn)、社會(huì)影響等在內(nèi)的風(fēng)險(xiǎn)評(píng)估體系，對(duì)人工智能系統(tǒng)的潛在風(fēng)險(xiǎn)進(jìn)行全面、動(dòng)態(tài)的評(píng)估，以便及時(shí)發(fā)現(xiàn)和防范風(fēng)險(xiǎn)；也要進(jìn)一步建立健全分類(lèi)分級(jí)監(jiān)管機(jī)制，根據(jù)人工智能應(yīng)用的領(lǐng)域、風(fēng)險(xiǎn)等級(jí)、安全后果以及容錯(cuò)能力等，劃分不同監(jiān)管級(jí)別，實(shí)施差異化的監(jiān)管措施，以確保人工智能技術(shù)健康、安全、可持續(xù)發(fā)展，更好保障社會(huì)公共利益和國(guó)家安全。

健全規(guī)范人工智能倫理審查機(jī)制

人工智能在給經(jīng)濟(jì)社會(huì)發(fā)展帶來(lái)巨大福利的同時(shí)，也帶來(lái)難以預(yù)知的各種風(fēng)險(xiǎn)和復(fù)雜挑戰(zhàn)。人工智能技術(shù)發(fā)展的不確定性、技術(shù)應(yīng)用的數(shù)據(jù)依賴(lài)性以及算法可解釋性可能導(dǎo)致技術(shù)失控、隱私失密、公平失衡等問(wèn)題，沖擊著人類(lèi)社會(huì)的倫理規(guī)范。近年來(lái)，為有效應(yīng)對(duì)人工智能引發(fā)的倫理問(wèn)題，我國(guó)成立了國(guó)家新一代人工智能治理專(zhuān)業(yè)委員會(huì)，發(fā)布了《新一代人工智能倫理規(guī)范》等規(guī)范制度，持續(xù)加強(qiáng)人工智能倫理治理，取得明顯成效。習(xí)近平總書(shū)記強(qiáng)調(diào)：“科技是發(fā)展的利器，也可能成為風(fēng)險(xiǎn)的源頭。要前瞻研判科技發(fā)展帶來(lái)的規(guī)則沖突、社會(huì)風(fēng)險(xiǎn)、倫理挑戰(zhàn)，完善相關(guān)法律法規(guī)、倫理審查規(guī)則及監(jiān)管框架。”要始終堅(jiān)持“以人為本、智能向善”的人工智能發(fā)展原則，加強(qiáng)對(duì)人工智能發(fā)展的安全倫理風(fēng)險(xiǎn)研判，對(duì)人工智能應(yīng)用可能產(chǎn)生的負(fù)面影響開(kāi)展預(yù)見(jiàn)性風(fēng)險(xiǎn)評(píng)估，提前做好風(fēng)險(xiǎn)預(yù)案，確保人工智能發(fā)展安全可控；積極引導(dǎo)企業(yè)、科研機(jī)構(gòu)等在人工智能發(fā)展中承擔(dān)社會(huì)責(zé)任，要求其規(guī)范數(shù)據(jù)采集、加強(qiáng)數(shù)據(jù)保護(hù)、修改推送規(guī)則、監(jiān)管虛假信息，防止出現(xiàn)數(shù)據(jù)濫用和虛假信息蔓延；深入開(kāi)展人工智能倫理教育和宣傳，構(gòu)建良好輿論氛圍，推動(dòng)人工智能安全可控、健康有序發(fā)展。

完善人工智能協(xié)同治理機(jī)制

人工智能是一個(gè)復(fù)雜的系統(tǒng)，對(duì)人工智能的監(jiān)管與治理也是一個(gè)復(fù)雜的系統(tǒng)工程。對(duì)人工智能實(shí)行有效監(jiān)管和治理，離不開(kāi)政府、企業(yè)、行業(yè)組織、學(xué)術(shù)團(tuán)體、社會(huì)公眾等多元主體的共同參與。2024年，全國(guó)網(wǎng)絡(luò)安全標(biāo)準(zhǔn)化技術(shù)委員會(huì)發(fā)布了《人工智能安全治理框架》1.0版，緊密結(jié)合人工智能技術(shù)特性，分析人工智能風(fēng)險(xiǎn)的來(lái)源和表現(xiàn)形式，提出一系列技術(shù)應(yīng)對(duì)和綜合防治措施，這對(duì)于推動(dòng)社會(huì)各方積極參與、協(xié)同推進(jìn)人工智能安全治理具有重要促進(jìn)作用。習(xí)近平總書(shū)記指出，“人工智能帶來(lái)前所未有發(fā)展機(jī)遇，也帶來(lái)前所未遇風(fēng)險(xiǎn)挑戰(zhàn)”。推動(dòng)人工智能健康發(fā)展，需要多方協(xié)同，共建共治。要明確監(jiān)管主體，成立人工智能專(zhuān)門(mén)監(jiān)管機(jī)構(gòu)，負(fù)責(zé)統(tǒng)籌協(xié)調(diào)人工智能安全監(jiān)管工作；建立健全跨部門(mén)協(xié)同監(jiān)管機(jī)制，加強(qiáng)政府內(nèi)部各部門(mén)的協(xié)同合作，形成監(jiān)管合力；建立社會(huì)多元共治機(jī)制，鼓勵(lì)行業(yè)協(xié)會(huì)、社會(huì)組織、企業(yè)等參與人工智能安全治理，著力形成政府、企業(yè)、社會(huì)組織和公眾共同參與的協(xié)同共治新局面。

完善人工智能?chē)?guó)際合作交流機(jī)制

當(dāng)前，人工智能在帶來(lái)巨大機(jī)遇的同時(shí)，也帶來(lái)威脅全球穩(wěn)定的風(fēng)險(xiǎn)，需要國(guó)際社會(huì)共同合作才能有效應(yīng)對(duì)。在這方面，中國(guó)始終堅(jiān)持在充分尊重各國(guó)政策和實(shí)踐基礎(chǔ)上，推動(dòng)形成具有廣泛共識(shí)的全球人工智能治理框架和標(biāo)準(zhǔn)規(guī)范，并在規(guī)則制定、合作機(jī)制建設(shè)、實(shí)踐推廣等方面持續(xù)貢獻(xiàn)中國(guó)智慧和力量。2023年10月，中國(guó)提出《全球人工智能治理倡議》，推動(dòng)各國(guó)協(xié)力繪就全球人工智能治理的未來(lái)藍(lán)圖；同年11月初，中國(guó)、美國(guó)、英國(guó)等28個(gè)國(guó)家和歐盟簽署《布萊切利宣言》，同意通過(guò)國(guó)際合作，建立人工智能監(jiān)管制度與方案；中國(guó)還積極舉辦世界人工智能大會(huì)、世界互聯(lián)網(wǎng)大會(huì)，促進(jìn)各國(guó)在人工智能等方面開(kāi)展合作。習(xí)近平總書(shū)記指出，“要廣泛開(kāi)展人工智能?chē)?guó)際合作”“早日形成具有廣泛共識(shí)的全球治理框架和標(biāo)準(zhǔn)規(guī)范”。我們要繼續(xù)發(fā)揮負(fù)責(zé)任大國(guó)作用，積極參與全球人工智能治理框架與標(biāo)準(zhǔn)規(guī)范的建立，通過(guò)簽署國(guó)際公約、參與國(guó)際組織活動(dòng)等方式，提升我國(guó)在國(guó)際人工智能治理中的話語(yǔ)權(quán)和影響力；積極與其他國(guó)家和地區(qū)開(kāi)展跨國(guó)監(jiān)管合作，共同應(yīng)對(duì)人工智能帶來(lái)的跨境安全挑戰(zhàn)，推動(dòng)形成統(tǒng)一的國(guó)際監(jiān)管標(biāo)準(zhǔn)和機(jī)制。

（作者：李國(guó)祥，系山西省社會(huì)科學(xué)院〔省政府發(fā)展研究中心〕馬克思主義研究所副所長(zhǎng)）