金磚國家領(lǐng)導(dǎo)人關(guān)于人工智能全球治理的聲明
人工智能代表著推動全球邁向更加公平未來的重要機遇,將激發(fā)創(chuàng)新、提升生產(chǎn)力、推動可持續(xù)發(fā)展實踐,并切實增進(jìn)全人類福祉。
為實現(xiàn)上述愿景,人工智能全球治理須降低潛在風(fēng)險,著力解決各國特別是全球南方國家的需要。治理須在《聯(lián)合國憲章》和各國監(jiān)管框架下開展,尊重國家主權(quán),遵循代表性、發(fā)展導(dǎo)向、可及性、包容性、動態(tài)更新和敏捷性原則。治理應(yīng)切實注重個人數(shù)據(jù)保護(hù),保障人類權(quán)益,確保安全、透明、可持續(xù),且有利于彌合本國及國家間日益擴大的數(shù)字與數(shù)據(jù)鴻溝。世界各國應(yīng)共同努力,構(gòu)建以聯(lián)合國為核心的人工智能治理體系,弘揚共同價值觀,應(yīng)對風(fēng)險,建立信任,確保廣泛包容的人工智能國際合作與可及性,包括加強發(fā)展中國家人工智能能力建設(shè)。
在國際層面,各類治理倡議的激增及多邊協(xié)調(diào)中的分歧,可能加劇現(xiàn)有不對稱和全球數(shù)字治理的合法性赤字,從而進(jìn)一步削弱多邊主義。
為支持開展建設(shè)性對話,實現(xiàn)更加均衡的治理路徑,我們,金磚國家領(lǐng)導(dǎo)人一致同意制定一系列指導(dǎo)方針,以負(fù)責(zé)任方式推動人工智能技術(shù)開發(fā)、部署和應(yīng)用,助力實現(xiàn)可持續(xù)發(fā)展和包容性增長。這些方針僅限于非軍事領(lǐng)域的人工智能,應(yīng)通過國內(nèi)或適用的國際框架及具有互操作性的標(biāo)準(zhǔn)與協(xié)議,以包容、透明、基于共識的方式予以落實。
一、多邊主義、合法性與數(shù)字主權(quán)
聯(lián)合國是人工智能全球治理的核心。全球人工智能治理必須不惜一切代價避免碎片化與重復(fù)。我們必須依托聯(lián)合國系統(tǒng)作為充分包容且具有代表性的國際框架推進(jìn)人工智能國際治理。在聯(lián)合國相關(guān)倡議的決策進(jìn)程中,我們須推動新興市場和發(fā)展中國家及全球南方國家有意義參與并發(fā)揮作用,同時認(rèn)識到區(qū)域和多利益攸關(guān)方框架的互補作用,鼓勵開展人工智能政策交流和對話,激發(fā)創(chuàng)新活力,促進(jìn)經(jīng)濟增長。
人工智能協(xié)同共治錯綜復(fù)雜,但前景可期。發(fā)達(dá)國家與發(fā)展中國家的相關(guān)利益攸關(guān)方網(wǎng)絡(luò)應(yīng)根據(jù)各自角色與責(zé)任,貢獻(xiàn)專業(yè)知識、觀念和資源。重申各國政府在人工智能治理中占據(jù)基礎(chǔ)性和主導(dǎo)性作用,我們愿同私營部門、民間機構(gòu)、國際組織、科研和學(xué)術(shù)團體以及其他利益攸關(guān)方密切合作,以實現(xiàn)代表性和包容性。
數(shù)字主權(quán)和發(fā)展權(quán)是全球人工智能治理的關(guān)鍵。我們堅定支持各國在捍衛(wèi)基本權(quán)利的同時,有權(quán)充分利用數(shù)字經(jīng)濟與新興技術(shù)特別是人工智能帶來的發(fā)展紅利,通過加強數(shù)字基礎(chǔ)設(shè)施建設(shè)、培育本土技術(shù)人才、確保公民免受人工智能風(fēng)險傷害等方式,制定本國法律權(quán)限范圍內(nèi)的人工智能監(jiān)管框架,提升人工智能研究能力,培育自主技術(shù)創(chuàng)新,確保數(shù)據(jù)安全,推進(jìn)本國數(shù)字經(jīng)濟發(fā)展。
二、市場規(guī)范、數(shù)據(jù)治理與技術(shù)可及性
公平競爭和市場規(guī)范是人工智能邁向公平未來的基石。數(shù)字經(jīng)濟應(yīng)根據(jù)國內(nèi)法律框架和法規(guī)及適用的國際協(xié)定,明確國家、企業(yè)與用戶的權(quán)利和義務(wù),構(gòu)建公平競爭的市場環(huán)境,促進(jìn)創(chuàng)新和經(jīng)濟增長。我們強調(diào)避免監(jiān)管體系碎片化,推動公平、透明的市場規(guī)范重要性,鼓勵競爭,增強競爭力,避免任何形式的扭曲行為,營造可持續(xù)、健康的市場環(huán)境。
數(shù)據(jù)治理是人工智能包容性治理的關(guān)鍵。我們強調(diào),公平、包容和公正的數(shù)據(jù)治理對發(fā)展中國家利用數(shù)字經(jīng)濟和人工智能等新興技術(shù)至關(guān)重要。我們同樣認(rèn)識到需根據(jù)《金磚國家數(shù)據(jù)經(jīng)濟治理諒解》建立數(shù)據(jù)治理框架以建立信任,在尊重隱私權(quán)、個人數(shù)據(jù)保護(hù)、算法透明性、知識產(chǎn)權(quán)和國家安全等相關(guān)法律框架的同時,為發(fā)展中國家提供公平、一致、安全、可靠的高質(zhì)量數(shù)據(jù)。
人工智能技術(shù)獲取應(yīng)遵循公平、公正、賦能性與包容性原則。世界各國,無論處于何種經(jīng)濟發(fā)展階段,均享有開發(fā)、使用人工智能并從中受益的權(quán)利。我們強調(diào)應(yīng)通過國際合作促進(jìn)人工智能技術(shù)及關(guān)鍵部件的獲取,消除人工智能研究與創(chuàng)新的資金壁壘,尤其是在中低收入國家構(gòu)建必要的知識、技能與風(fēng)險管理框架,以有效利用人工智能技術(shù)。
保護(hù)知識產(chǎn)權(quán)與維護(hù)公共利益之間需要平衡。應(yīng)在專利權(quán)、透明度及問責(zé)制之間建立平衡,以維護(hù)公共利益,促進(jìn)國際技術(shù)轉(zhuǎn)移,遵守國內(nèi)法律及適用的國際法。針對未經(jīng)授權(quán)的人工智能使用,應(yīng)建立適當(dāng)?shù)闹R產(chǎn)權(quán)特別是版權(quán)保護(hù)機制,防止剝奪性數(shù)據(jù)提取和隱私侵犯,同時建立公平的補償機制。相關(guān)保護(hù)措施應(yīng)明確問責(zé)機制,遵守人工智能模型輸入與輸出透明度要求等相關(guān)法律。
人工智能發(fā)展應(yīng)堅持開放原則,鼓勵創(chuàng)新生態(tài)系統(tǒng)。在符合各國政策與優(yōu)先事項的情況下,我們鼓勵通過開放科學(xué)和開放創(chuàng)新機制推動開源發(fā)展和國際科技合作,將其作為提升人工智能研究、開發(fā)、創(chuàng)新、數(shù)據(jù)保護(hù)、數(shù)據(jù)主權(quán)及部署能力的關(guān)鍵引擎,允許研究人員、開發(fā)者及相關(guān)組織進(jìn)行審查和審計,進(jìn)而構(gòu)建安全、可信、透明的人工智能系統(tǒng)。我們必須確保實質(zhì)性參與并培育包容性協(xié)作方式,防范全球人工智能發(fā)展和供應(yīng)鏈壁壘。我們鼓勵開發(fā)資源高效、專業(yè)、開放的基礎(chǔ)模型,促進(jìn)人工智能創(chuàng)新生態(tài)系統(tǒng)發(fā)展。
國際標(biāo)準(zhǔn)應(yīng)助力實現(xiàn)具有包容性、代表性及可及性的人工智能。制定人工智能系統(tǒng)技術(shù)標(biāo)準(zhǔn)、規(guī)范與協(xié)議應(yīng)有公共部門、標(biāo)準(zhǔn)制定組織及聯(lián)合國專門機構(gòu)的參與,以確保在人工智能技術(shù)全開發(fā)周期及跨平臺應(yīng)用中具備可信性、互操作性、安全性與可靠性。我們必須杜絕以標(biāo)準(zhǔn)制定變相為中小企業(yè)及發(fā)展中經(jīng)濟體構(gòu)筑市場準(zhǔn)入壁壘。
三、公平與可持續(xù)發(fā)展
人工智能應(yīng)普惠共享。健全的基礎(chǔ)設(shè)施、有意義的互聯(lián)互通和數(shù)字包容是任何國家部署人工智能的先決條件。在數(shù)字公共基礎(chǔ)設(shè)施等基礎(chǔ)上構(gòu)建的數(shù)字政務(wù)服務(wù),可能會成為數(shù)字經(jīng)濟包容性發(fā)展、保障公民權(quán)利與福利的催化劑。應(yīng)通過國內(nèi)政策、多邊開發(fā)銀行等解決能力和基礎(chǔ)設(shè)施領(lǐng)域存在的普遍差距,以推進(jìn)人工智能在新興市場國家和發(fā)展中國家的應(yīng)用與開發(fā)。
人工智能引領(lǐng)協(xié)同可持續(xù)發(fā)展。我們致力于通過開源等方式支持人工智能應(yīng)用,應(yīng)對醫(yī)療衛(wèi)生、教育、安全、交通、能源、農(nóng)業(yè)、環(huán)境、水資源及廢棄物管理等領(lǐng)域的關(guān)鍵發(fā)展挑戰(zhàn),相關(guān)工作需遵循各國法律與優(yōu)先事項。應(yīng)持續(xù)推廣人工智能對可持續(xù)發(fā)展的益處。我們將聚焦培育、賦能本土技術(shù)能力與抱負(fù)的研究、開發(fā)與創(chuàng)新倡議,彌合發(fā)達(dá)國家與發(fā)展中國家間的技術(shù)鴻溝。
環(huán)境可持續(xù)性是人工智能發(fā)展的前提。人工智能應(yīng)幫助減排、適應(yīng)氣候變化、助力環(huán)境保護(hù)、推動可持續(xù)資源管理與優(yōu)化、維護(hù)生態(tài)平衡,助益經(jīng)濟社會可持續(xù)發(fā)展,并與各國優(yōu)先事項保持一致。開發(fā)和部署人工智能應(yīng)具有可持續(xù)性,最大限度減少其對環(huán)境的影響,應(yīng)對溫室氣體排放、能源和水資源消耗、材料使用以及電子廢棄物等問題。發(fā)展中國家應(yīng)把握低碳經(jīng)濟轉(zhuǎn)型帶來的機遇窗口,并通過人工智能領(lǐng)域的技術(shù)進(jìn)步引領(lǐng)發(fā)展。
人工智能應(yīng)保障體面勞動,提高生產(chǎn)力。人工智能系統(tǒng)有提高生產(chǎn)力、激發(fā)創(chuàng)新活力、創(chuàng)造就業(yè)機會的潛力,但同時也給勞動環(huán)境、工作強度和崗位替代帶來挑戰(zhàn)、關(guān)切和風(fēng)險,對就業(yè)和勞動者尊嚴(yán)構(gòu)成威脅。當(dāng)前,數(shù)字平臺快速發(fā)展,生成式人工智能等對就業(yè)市場的結(jié)構(gòu)性影響日益顯著,我們應(yīng)保障全體勞動者特別是直接受到數(shù)字化轉(zhuǎn)型影響群體的權(quán)力與福祉。在設(shè)計、部署及使用人工智能時應(yīng)考慮人力資源的適應(yīng)性和兼容性,利用人工智能等技術(shù)的優(yōu)勢,促進(jìn)體面勞動,實現(xiàn)充分和生產(chǎn)性就業(yè)。
人工智能應(yīng)成為變革教育和學(xué)習(xí)的工具。人工智能系統(tǒng)能夠整理信息、定制個性化體驗和提供建議,我們擔(dān)憂,過度依賴人工智能系統(tǒng)可能對人類認(rèn)知、決策過程及應(yīng)對復(fù)雜信息環(huán)境的能力產(chǎn)生影響。我們致力于提升民眾數(shù)字素養(yǎng),特別是教師與學(xué)生的數(shù)字素養(yǎng),使其能夠?qū)徤髟u估人工智能生成內(nèi)容,理解算法固有的偏差,培養(yǎng)強大的知識自主意識和批判思維能力。
四、符合倫理的、可信的、負(fù)責(zé)的人工智能,造福所有人
人工智能必須具有包容性。我們認(rèn)識到,在數(shù)據(jù)集和人工智能模型中,知識、文化遺產(chǎn)和文化價值的缺乏存在被濫用和歪曲的風(fēng)險。我們重申構(gòu)建合乎倫理的、透明的和負(fù)責(zé)的框架具有重要意義,例如聯(lián)合國教科文組織提出的《人工智能倫理問題建議書》。人工智能系統(tǒng)的研發(fā)必須充分尊重各國語言、文化、種族、地理及人口多樣性。我們?yōu)榇藨?yīng)開展國際合作,來訓(xùn)練全面、多語種、包容的優(yōu)質(zhì)數(shù)據(jù)集,并培育本土人工智能人才。
必須著力減輕歧視性偏見。我們需要有力工具識別并減少錯誤及負(fù)面算法偏差,確保獨立審計機制以維護(hù)公平,制定針對偏見風(fēng)險的評估標(biāo)準(zhǔn),避免歧視性和排他性現(xiàn)象。使用歧視性數(shù)據(jù)訓(xùn)練的人工智能系統(tǒng),往往對女性、少數(shù)族裔、殘障人士以及兒童、青少年、老年人等弱勢群體影響最為嚴(yán)重。推動不同背景人員開展跨學(xué)科合作對制定標(biāo)準(zhǔn)、提升模型運行與輸出的可解釋性、制定切實可行的治理策略至關(guān)重要,有助于防范負(fù)面偏見,支持負(fù)責(zé)任、公平地開發(fā)人工智能系統(tǒng)。
必須將公共利益置于首位。我們將秉持以人為本的理念,構(gòu)建和諧的人機交互關(guān)系,始終將人工智能作為提升人類自身能力的有力工具,確保人類對人工智能的最終控制權(quán)和監(jiān)督權(quán)。我們將構(gòu)建人類監(jiān)督機制、提升人工智能決策透明度和健全有效的問責(zé)體系作為優(yōu)先事項,以負(fù)責(zé)任且安全的方式推進(jìn)技術(shù)研發(fā)與應(yīng)用,降低相關(guān)風(fēng)險,實現(xiàn)社會效益最大化。
必須堅持以事實為基礎(chǔ)。人工智能生成的虛假文本、圖像、音頻及視頻內(nèi)容對信息真實性和完整性構(gòu)成嚴(yán)峻威脅,可能引發(fā)輿論操控、社會動蕩,影響公共機構(gòu)公信力。我們將采取多維治理方式,提升信息完整性,強化媒體教育策略和地方傳播工作,包括研發(fā)快速識別虛假信息和錯誤信息的工具,提升個體數(shù)字素養(yǎng)與批判性思維以增強網(wǎng)絡(luò)內(nèi)容鑒別力,制定明確的倫理準(zhǔn)則與法規(guī),在保護(hù)隱私權(quán)與數(shù)據(jù)安全的同時,滿足人工智能在信息傳播領(lǐng)域的開發(fā)和應(yīng)用。
人工智能系統(tǒng)必須堅守安全與信任。我們認(rèn)識到,需要實現(xiàn)人工智能安全、符合倫理、可信賴且負(fù)責(zé)任的發(fā)展,造福全人類。各國必須在遵循本國政策與安全考量的前提下,協(xié)同推動人工智能技術(shù)創(chuàng)新與可及性,同時應(yīng)對人工智能技術(shù)引發(fā)的即時與長期風(fēng)險。我們重申,攜手應(yīng)對并防范人工智能技術(shù)惡意應(yīng)用的有關(guān)風(fēng)險的重要性。應(yīng)審慎設(shè)計人工智能系統(tǒng)及其他信息通信技術(shù),使其能有效檢測并防止技術(shù)濫用,例如欺詐、計算機攻擊、網(wǎng)絡(luò)犯罪或數(shù)據(jù)操縱等。
五、未來之路
通用人工智能應(yīng)以審慎方式發(fā)展。至關(guān)重要的是,通用人工智能研究應(yīng)遵循倫理準(zhǔn)則,并以負(fù)責(zé)任且可信賴的方式進(jìn)行應(yīng)用,助力各國特別是新興市場與發(fā)展中經(jīng)濟體的經(jīng)濟增長,并應(yīng)對經(jīng)濟社會發(fā)展面臨的緊迫挑戰(zhàn)。若僅有少數(shù)實體掌控通用人工智能,將加劇不平等,催生新型技術(shù)依賴,對可持續(xù)發(fā)展帶來嚴(yán)峻挑戰(zhàn)。
邁向公平、包容的人工智能。金磚國家將采取共同、積極舉措,為所有人創(chuàng)造公平的數(shù)字環(huán)境,確定共同觀點,加強全球合作,推進(jìn)聯(lián)合國全球人工智能治理對話和國際人工智能科學(xué)小組,確保發(fā)展中國家有意義地參與相關(guān)進(jìn)程并發(fā)揮作用。我們將匯集各方力量,在國際平臺上推廣包括上述指導(dǎo)方針在內(nèi)的共同原則。我們歡迎各方特別是廣大發(fā)展中國家為完善指導(dǎo)方針貢獻(xiàn)智慧,將秉持開放態(tài)度持續(xù)優(yōu)化相關(guān)準(zhǔn)則。
(來源:外交部網(wǎng)站)