近年來(lái)，人工智能技術(shù)快速發(fā)展，在賦能人類(lèi)社會(huì )經(jīng)濟進(jìn)步的同時(shí)也帶來(lái)安全隱患和風(fēng)險挑戰。既要促進(jìn)人工智能技術(shù)發(fā)展和應用，又要確保其發(fā)展過(guò)程中的安全性、可靠性和可控性，構建人工智能治理體系的緊迫性日益凸顯。世界各國都積極探索人工智能治理的方法路徑。

今年3月，美國白宮行政管理和預算辦公室（OMB）發(fā)布《致行政部門(mén)和機構負責人的備忘錄》（以下簡(jiǎn)稱(chēng)“《指南》”）?！吨改稀芬?，設立首席人工智能官（CAIO）、成立人工智能治理委員會(huì )、推動(dòng)人工智能應用創(chuàng )新、遵循最低風(fēng)險管理實(shí)踐等，為推進(jìn)人工智能治理、創(chuàng )新和風(fēng)險管理確立了新的管理要求和實(shí)踐指引。作為負責任的科技大國，我國也積極推動(dòng)人工智能治理體系優(yōu)化完善，《指南》中的一些內容對于促進(jìn)我國政府部門(mén)人工智能應用和治理實(shí)踐具有參考價(jià)值。

《指南》的主要內容

首先，強化人工智能治理架構體系。一是設立首席人工智能官。各聯(lián)邦機構自《指南》發(fā)布60日內設立首席人工智能官，《指南》還對首席人工智能官的角色、職責、級別、職位以及匯報結構做出明確要求。二是組建人工智能治理委員會(huì )，由委員會(huì )召集高級別官員會(huì )議，統籌管理本單位人工智能應用，并且掃除障礙、管控風(fēng)險。三是實(shí)施遵從計劃管理，各聯(lián)邦機構自《指南》簽署180天內至2036年，每?jì)赡晗騉MB提交指南遵從計劃，確保本單位治理原則與治理方向與《指南》保持一致。四是實(shí)施用例清單管理。各聯(lián)邦機構需建立人工智能用例清單，并以年度為單位提交至OMB，同時(shí)面向公眾公開(kāi)。各聯(lián)邦機構還需識別影響安全和權利的人工智能用例，披露用例風(fēng)險細節與風(fēng)險防控措施。

其次，推動(dòng)負責任的人工智能創(chuàng )新。一是落實(shí)人工智能戰略管理。各聯(lián)邦機構需自《指南》發(fā)布365天內制定并公開(kāi)發(fā)布本單位人工智能發(fā)展戰略，識別并掃除人工智能應用障礙，提升本單位人工智能發(fā)展整體成熟度。二是為負責任地使用人工智能掃除障礙?！吨改稀访鞔_了“負責任地使用人工智能”的基本原則，即強化底線(xiàn)監管的同時(shí)消除人工智能使用的不必要和無(wú)益障礙，確保各聯(lián)邦機構擁有使用人工智能的足夠柔性，并提出IT設施、數據、網(wǎng)絡(luò )安全、生成式人工智能等四個(gè)方面具體指導建議。三是強化人工智能人才培養?！吨改稀访鞔_各聯(lián)邦機構需強化機構內部人工智能人才的選擇、使用、培育、留用，提升機構人工智能創(chuàng )新應用能力。四是推動(dòng)人工智能共享合作。各聯(lián)邦機構需以有利于政府與公眾再利用與協(xié)同的方式共享其人工智能代碼、模型和數據，保障人工智能應用的法律政策遵從與公眾權利保護。

最后，有效管控人工智能應用風(fēng)險。一是實(shí)施最低風(fēng)險管理實(shí)踐。所有聯(lián)邦機構對涉及安全與權利的人工智能（系統）實(shí)施最低風(fēng)險管理實(shí)踐。各機構需于2024年12月1日前實(shí)施該項管理，終止使用不符合最低風(fēng)險管理要求的人工智能。二是實(shí)施定期審查、報告披露與豁免管理制度。各聯(lián)邦機構需定期開(kāi)展審查評估，明確人工智能系統是否對安全和權利造成影響、是否符合《指南》規定的最低風(fēng)險管理實(shí)踐，對不符合要求的人工智能系統決定終止使用或尋求豁免。各聯(lián)邦機構需記錄并報告審查結果，在必要時(shí)向公眾披露。

《指南》本質(zhì)上是基于原有網(wǎng)信安全、隱私保護、公民權利、數據開(kāi)放等法律基礎，編織出一套以“人工智能應用”為核心的監管治理體系，既鼓勵人工智能應用與創(chuàng )新，同時(shí)亦形成對人工智能（尤其是生成式人工智能）風(fēng)險的系統性防控。

《指南》的發(fā)布，是對通用人工智能廣泛應用的主動(dòng)回應，既為政府部門(mén)部署和使用人工智能提供了可靠遵循，又形成對市場(chǎng)部門(mén)的示范性實(shí)踐與軟性行為約束。

我國人工智能治理的主要特點(diǎn)

作為負責任的科技大國，我國積極推動(dòng)人工智能治理體系優(yōu)化完善。目前，已形成以《中華人民共和國網(wǎng)絡(luò )安全法》《中華人民共和國數據安全法》《中華人民共和國個(gè)人信息保護法》為主體的人工智能治理法律框架，對人工智能涉及數據采集、數據處理、網(wǎng)絡(luò )安全、數據安全、個(gè)人信息保護等做出明確要求?！渡墒饺斯ぶ悄芊?wù)管理暫行辦法》對生成式人工智能服務(wù)的提供與使用做出規范，包括技術(shù)發(fā)展、服務(wù)規范、監督檢查和法律責任等?！秶胰斯ぶ悄墚a(chǎn)業(yè)綜合標準化體系建設指南》《國家新一代人工智能標準體系建設指南》的發(fā)布亦有效推進(jìn)我國人工智能標準體系的形成。

國內治理方面，推出《科技倫理審查辦法（試行）》和《生成式人工智能服務(wù)管理暫行辦法》，提出人工智能治理的中國方案。全球治理方面，積極倡導國際合作與全球共治，《全球人工智能治理倡議》《人工智能全球治理上海宣言》，堅持“以人為本、智能向善”，為世界提供了基于人類(lèi)命運共同體理念的人工智能治理新視角，為全球人工智能治理積極貢獻中國智慧。

2022年《關(guān)于加快場(chǎng)景創(chuàng )新以人工智能高水平應用促進(jìn)經(jīng)濟高質(zhì)量發(fā)展的指導意見(jiàn)》提出尊重人工智能發(fā)展規律，發(fā)揮政府和市場(chǎng)的積極性，共同為場(chǎng)景創(chuàng )新提供制度供給，促進(jìn)人工智能創(chuàng )新發(fā)展與監管規范相協(xié)調。2024年6月，工信部等四部門(mén)發(fā)布《國家人工智能產(chǎn)業(yè)綜合標準化體系建設指南（2024版）》亦是要求完善治理標準，結合人工智能治理實(shí)際需求，規范人工智能的技術(shù)研發(fā)、運營(yíng)服務(wù)和全生命周期治理。我國人工智能治理不斷走向體系深入。

我國雖然通過(guò)制定上述法律法規及標準指南構成人工智能治理基本遵從，但在細分領(lǐng)域（包括政務(wù)），如何使用和治理人工智能（尤其是生成式人工智能）尚缺乏可靠的規范指引。同時(shí)，由于我國在人工智能治理架構設置、制度規范方面仍然存在一些短板和不足，缺乏類(lèi)似首席人工智能官、人工智能治理委員會(huì )的治理架構設置及諸如遵從計劃管理、用例清單管理、部門(mén)發(fā)展戰略管理、最低風(fēng)險管理實(shí)踐、定期審查與報告披露等制度規范，中央或省級政府層面難以形成對內部人工智能使用情況的全面掌握和有序統籌，各部門(mén)無(wú)法在人工智能應用創(chuàng )新和人工智能風(fēng)險管理上形成有效協(xié)同。

此外，我國還存在高層次指南性文件缺位的問(wèn)題，這將造成三方面不利影響：一是不利于政府內部各部門(mén)條線(xiàn)形成協(xié)同一致的人工智能部署應用和治理監管；二是不利于政府引導示范作用發(fā)揮。政府采購與使用是最好的“產(chǎn)業(yè)政策”，通常會(huì )形成對各行業(yè)的示范引領(lǐng)作用；三是不利于人們消除對人工智能系統應用的焦慮與抗拒。

加快制定符合我國實(shí)際的人工智能治理指南

它山之石可以攻玉，其他國家在人工智能治理和應用實(shí)踐方面的一些有益探索也可以為我所用。當前，應結合我國人工智能治理和應用實(shí)踐，加快制定符合我國實(shí)際的人工智能治理指南。

第一，優(yōu)化人工智能治理組織架構。由中央政府或省級政府統籌本級行政單位人工智能的應用和治理。在當前強化數據要素管理的基礎上，嘗試引入首席人工智能官和人工智能治理委員會(huì )制度，形成包含各層級、各部門(mén)的人工智能治理體系和報告體系。

第二，完善人工智能治理工具體系。建議引入遵從計劃管理、用例清單管理、部門(mén)發(fā)展戰略管理、最低風(fēng)險管理實(shí)踐、定期審查與報告披露等管理工具，完善我國政府部門(mén)人工智能治理工具體系。

第三，推廣人工智能治理最佳實(shí)踐。在全國范圍內征集政府部門(mén)人工智能應用和治理最佳實(shí)踐，并基于《國家新一代人工智能標準體系建設指南》，結合生成式人工智能廣泛應用實(shí)際，形成并推廣具有全國范圍約束力的政府人工智能應用和治理指南。文章來(lái)源：經(jīng)濟參考報