人工智能北京共識

人工智能倫理與規(guī)范是未來智能社會的發(fā)展基石，為規(guī)范和引領(lǐng)人工智能健康發(fā)展，為未來打造“負責(zé)任的、有益的”人工智能。5月25日，《人工智能北京共識》發(fā)布，這一共識提供的“北京方案”，對于實現(xiàn)人工智能“自律”“善治”“有序”具有重要意義。

《人工智能北京共識》是由北京智源人工智能研究院聯(lián)合北京大學(xué)、清華大學(xué)、中國科學(xué)院自動化研究所、中國科學(xué)院計算技術(shù)研究所、新一代人工智能產(chǎn)業(yè)技術(shù)創(chuàng)新戰(zhàn)略聯(lián)盟等高校、科研院所和產(chǎn)業(yè)聯(lián)盟共同發(fā)布。同時，北京智源人工智能研究院人工智能倫理與安全研究中心揭牌成立。

《人工智能北京共識》針對人工智能的研發(fā)、使用、治理三方面，提出了各個參與方應(yīng)該遵循的有益于人類命運共同體構(gòu)建和社會發(fā)展的15條原則。

北京智源人工智能研究院院長黃鐵軍發(fā)布《北京共識》時強調(diào)：研發(fā)方面，提倡要有益于增進社會與生態(tài)的福祉，服從人類的整體利益，設(shè)計上要合乎倫理，體現(xiàn)出多樣性與包容性，盡可能地惠及更多人，要對潛在倫理風(fēng)險與隱患負責(zé)，提升技術(shù)水平控制各種風(fēng)險，并最大范圍共享人工智能發(fā)展成果。

使用方面，提倡善用和慎用，避免誤用和濫用，以最大化人工智能技術(shù)帶來的益處、最小化其風(fēng)險，應(yīng)確保利益相關(guān)者對其權(quán)益所受影響有充分的知情與同意，并能夠通過教育與培訓(xùn)適應(yīng)人工智能發(fā)展帶來的影響。

治理方面，對人工智能部分替代人類工作保持包容和謹慎態(tài)度，鼓勵探索更能發(fā)揮人類優(yōu)勢和特點的新工作，廣泛開展國際合作，共享人工智能治理經(jīng)驗。人工智能的準則與治理措施應(yīng)做到適應(yīng)和適度，并開展長遠戰(zhàn)略設(shè)計，以確保未來人工智能始終保持向?qū)ι鐣幸娴姆较虬l(fā)展。

據(jù)介紹，人工智能倫理與規(guī)范已經(jīng)引起了各國政府和學(xué)術(shù)界、企業(yè)界等的廣泛關(guān)注。歐盟、英國、日本等國際組織和國家，均發(fā)布了人工智能的倫理準則。《人工智能北京共識》關(guān)注“服務(wù)于人”，將“和諧與優(yōu)化共生”這一中國哲學(xué)和文化中的特色理念，作為尋求跨行業(yè)、跨部門、跨地區(qū)全球協(xié)作的指導(dǎo)思想，并強調(diào)促進人工智能相關(guān)準則的“落地”。

另外，為降低人工智能發(fā)展過程中可能存在的技術(shù)風(fēng)險和倫理隱患，北京智源人工智能研究院專門成立人工智能倫理與安全研究中心，中國科學(xué)院自動化研究所曾毅研究員任研究中心主任。

曾毅介紹人工智能倫理與安全研究中心的主要研究內(nèi)容是：“研究中心將圍繞人工智能倫理與安全的理論探索、算法模型、系統(tǒng)平臺、行業(yè)應(yīng)用等開展一系列研究，目前主要包括四大方面：一是低風(fēng)險機器學(xué)習(xí)模型與平臺的構(gòu)建，建立機器學(xué)習(xí)模型安全性的評估體系，并結(jié)合具體領(lǐng)域進行驗證。二是開展符合人類倫理道德的智能自主學(xué)習(xí)模型研究，實現(xiàn)人工智能行為與人類價值觀的校準，并在模擬環(huán)境與真實場景中進行驗證。三是建設(shè)數(shù)據(jù)安全示范應(yīng)用系統(tǒng)，建立數(shù)據(jù)基礎(chǔ)設(shè)施、數(shù)據(jù)分級、權(quán)限控制、數(shù)據(jù)審計，最大限度防止數(shù)據(jù)泄密，降低風(fēng)險，探索允許用戶撤銷個人數(shù)據(jù)授權(quán)的機制及計算平臺。四是構(gòu)建人工智能風(fēng)險與安全綜合沙盒平臺，建設(shè)自動檢測平臺，針對數(shù)據(jù)與算法的安全性、公平性、可追溯性、風(fēng)險類型、影響程度與影響范圍等方面，對人工智能產(chǎn)品及應(yīng)用進行風(fēng)險與安全綜合檢測與評估，引導(dǎo)行業(yè)健康發(fā)展。”

北京市科委主任許強認為：經(jīng)過60多年的發(fā)展，新一代人工智能正在全球范圍蓬勃興起，深刻地影響和改變了人類的生產(chǎn)生活方式，帶動人類社會全面進入智能時代。人工智能涉及范圍極廣，應(yīng)對人工智能帶來的挑戰(zhàn)，不是一個領(lǐng)域、一個城市、一個部門、一個機構(gòu)能夠獨立完成的，需要充分匯聚科學(xué)家、企業(yè)家、產(chǎn)業(yè)聯(lián)盟和社會各界的力量，多方參與、共同努力，持續(xù)推動人工智能倫理、規(guī)范方面的學(xué)術(shù)研究與成果轉(zhuǎn)化應(yīng)用，并不斷強化行業(yè)自律。

會議倡導(dǎo)北京人工智能領(lǐng)域廣大創(chuàng)新主體，積極踐行并不斷完善共識的內(nèi)涵，共同營造良好生態(tài)，加快人工智能領(lǐng)域基礎(chǔ)研究、核心技術(shù)創(chuàng)新和高精尖產(chǎn)業(yè)發(fā)展，讓人工智能更好支撐北京高質(zhì)量發(fā)展和創(chuàng)新驅(qū)動發(fā)展戰(zhàn)略實施，并更好造福全人類。

今后，人工智能倫理與安全研究中心將為降低人工智能的風(fēng)險和倫理隱患提供技術(shù)服務(wù)，促進人工智能行業(yè)的良性健康發(fā)展。

一、《人工智能北京共識》發(fā)布15條原則規(guī)范AI

5月25日，北京智源人工智能研究院聯(lián)合北京大學(xué)、清華大學(xué)、中科院自動化研究所、中科院計算技術(shù)研究所、新一代人工智能產(chǎn)業(yè)技術(shù)創(chuàng)新戰(zhàn)略聯(lián)盟等高校、院所和產(chǎn)業(yè)聯(lián)盟，共同發(fā)布《人工智能北京共識》。同時，北京智源人工智能研究院人工智能倫理與安全研究中心揭牌成立。

北京智源人工智能研究院院長黃鐵軍介紹，《人工智能北京共識》針對人工智能研發(fā)、使用和治理三方面，提出了各個參與方應(yīng)該遵循的有益于人類命運共同體構(gòu)建和社會發(fā)展的15條原則。

其中，在研發(fā)方面，《人工智能北京共識》提倡要有益于增進社會與生態(tài)的福祉，服從人類的整體利益，設(shè)計上要合乎倫理，體現(xiàn)出多樣性與包容性，盡可能地惠及更多人，要對潛在倫理風(fēng)險與隱患負責(zé)，提升技術(shù)水平控制各種風(fēng)險，并最大范圍共享人工智能發(fā)展成果。

在使用方面，提倡善用和慎用，避免誤用和濫用，以最大化人工智能技術(shù)帶來的益處、最小化其風(fēng)險，應(yīng)確保利益相關(guān)者對其權(quán)益所受影響有充分的知情與同意，并能夠通過教育與培訓(xùn)適應(yīng)人工智能發(fā)展帶來的影響。

在治理方面，對人工智能部分替代人類工作保持包容和謹慎態(tài)度，鼓勵探索更能發(fā)揮人類優(yōu)勢和特點的新工作，廣泛開展國際合作，共享人工智能治理經(jīng)驗。人工智能的準則與治理措施應(yīng)做到適應(yīng)和適度，并開展長遠戰(zhàn)略設(shè)計，以確保未來人工智能始終保持向?qū)ι鐣幸娴姆较虬l(fā)展。

北京市科委主任許強表示，人工智能倫理與規(guī)范是未來智能社會發(fā)展的重要基石，已經(jīng)引起了相關(guān)國際組織、政府和學(xué)術(shù)界、企業(yè)界的廣泛關(guān)注。歐盟、英國、日本等國際組織和國家，均發(fā)布了人工智能的倫理準則。

據(jù)悉，《人工智能北京共識》關(guān)注“服務(wù)于人”，將“和諧與優(yōu)化共生”這一中國哲學(xué)和文化中的特色理念，作為尋求跨行業(yè)、跨部門、跨地區(qū)全球協(xié)作的指導(dǎo)思想，并強調(diào)促進人工智能相關(guān)準則的“落地”，為未來打造“負責(zé)任的、有益的”人工智能。這一共識的發(fā)布，為規(guī)范和引領(lǐng)人工智能健康發(fā)展提供了“北京方案”，對于實現(xiàn)人工智能“自律”“善治”“有序”具有重要意義。

為降低人工智能發(fā)展過程中可能存在的技術(shù)風(fēng)險和倫理隱患，北京智源人工智能研究院專門成立人工智能倫理與安全研究中心，中科院自動化研究所曾毅研究員任研究中心主任。

曾毅介紹，該研究中心將圍繞人工智能倫理與安全的理論探索、算法模型、系統(tǒng)平臺、行業(yè)應(yīng)用等開展一系列研究。

目前，該研究中心將主要開展四大方面研究。一是低風(fēng)險機器學(xué)習(xí)模型與平臺的構(gòu)建，建立機器學(xué)習(xí)模型安全性的評估體系，并結(jié)合具體領(lǐng)域進行驗證。二是開展符合人類倫理道德的智能自主學(xué)習(xí)模型研究，實現(xiàn)人工智能行為與人類價值觀的校準，并在模擬環(huán)境與真實場景中進行驗證。三是建設(shè)數(shù)據(jù)安全示范應(yīng)用系統(tǒng)，建立數(shù)據(jù)基礎(chǔ)設(shè)施、數(shù)據(jù)分級、權(quán)限控制、數(shù)據(jù)審計，最大限度防止數(shù)據(jù)泄密，降低風(fēng)險，探索允許用戶撤銷個人數(shù)據(jù)授權(quán)的機制及計算平臺。四是構(gòu)建人工智能風(fēng)險與安全綜合沙盒平臺，建設(shè)自動檢測平臺，針對數(shù)據(jù)與算法的安全性、公平性、可追溯性、風(fēng)險類型、影響程度與影響范圍等方面，對人工智能產(chǎn)品及應(yīng)用進行風(fēng)險與安全綜合檢測與評估，引導(dǎo)行業(yè)健康發(fā)展。

曾毅等與會專家表示，人工智能涉及范圍極廣，應(yīng)對人工智能帶來的挑戰(zhàn)，不是一個領(lǐng)域、一個城市、一個部門、一個機構(gòu)能夠獨立完成的，需要充分匯聚科學(xué)家、企業(yè)家、產(chǎn)業(yè)聯(lián)盟和社會各界的力量，多方參與、共同努力，持續(xù)推動人工智能倫理、規(guī)范方面的學(xué)術(shù)研究與成果轉(zhuǎn)化應(yīng)用，并不斷強化行業(yè)自律。

《人工智能北京共識》倡導(dǎo)北京人工智能領(lǐng)域廣大創(chuàng)新主體，積極踐行并不斷完善共識的內(nèi)涵，共同營造良好生態(tài)，加快人工智能領(lǐng)域基礎(chǔ)研究、核心技術(shù)創(chuàng)新和高精尖產(chǎn)業(yè)發(fā)展，讓人工智能更好支撐北京高質(zhì)量發(fā)展和創(chuàng)新驅(qū)動發(fā)展戰(zhàn)略實施，并更好造福全人類。

二、國際人工智能與教育大會在京閉幕，通過成果文件《北京共識》

國際人工智能與教育大會于2019年5月16-18日在北京召開。國家主席習(xí)近平向大會致賀信。開幕式上，孫春蘭副總理宣讀習(xí)近平主席賀信并致辭。來自全球100多個國家、10余個國際組織的約500位代表匯聚一堂，共同探討全球教育的未來發(fā)展之路，并通過成果文件《北京共識》。

大會舉行期間，在“通過人工智能促進可持續(xù)發(fā)展目標實現(xiàn)的新興政策與戰(zhàn)略”主題的部長論壇環(huán)節(jié)，教育部部長陳寶生以《中國的人工智能教育》為題做主旨發(fā)言，分享了走向智能時代中國教育的思考和探索。

教育部副部長孫堯在“促進人工智能在教育領(lǐng)域應(yīng)用的公平性、包容性和透明性”為主題的全體會議環(huán)節(jié)，做主旨發(fā)言，與參會人士交流和探討了教育扶貧話題。

孫堯表示，教育扶貧承載著阻斷貧困代際傳遞的重大使命，中國教育部堅持精準扶貧精準脫貧的基本方略，深入推進扶智育人教育脫貧攻堅行動，著力構(gòu)建較為完善的教育扶貧制度體系，著力實施補短兜底的教育扶貧工程項目，著力落實精準到人的學(xué)生資助體系，著力推動量身定制的教育扶貧傾斜政策，著力探索“高校品牌”的特色扶貧路徑，全力打好教育脫貧攻堅戰(zhàn)。

孫堯表示，脫貧攻堅戰(zhàn)已進入決戰(zhàn)決勝的關(guān)鍵時期，我們將以習(xí)近平主席關(guān)于扶貧的重要論述為指引，狠抓工作落實，深入推進“人工智能+教育扶貧”，持續(xù)拓展教育脫貧攻堅方式，提升教育脫貧攻堅精準度，加大教育脫貧攻堅力度，鞏固提升教育脫貧攻堅成果，堅決打贏教育脫貧攻堅戰(zhàn)。

教育部副部長、中國聯(lián)合國教科文組織全國委員會主任田學(xué)軍在閉幕式致辭中提出，人類正加速迎來、日益走近智能時代，新情況新課題層出不窮，迫切需要國際社會采取負責(zé)任態(tài)度、堅持人文理念、秉持合作精神。此次大會能夠取得圓滿成功、成果超出預(yù)期，關(guān)鍵在于與會代表展現(xiàn)出了堅定的責(zé)任擔(dān)當(dāng)、深切的人文關(guān)懷以及積極的合作精神。

田學(xué)軍表示，中國愿意進一步密切與教科文組織和廣大會員國合作，落實《北京共識》，繼續(xù)圍繞人工智能與教育搭建國際交流平臺，攜手共建更加包容、更加公平、更加優(yōu)質(zhì)的現(xiàn)代化教育，為全面實現(xiàn)2030年可持續(xù)發(fā)展目標，為推動構(gòu)建人類命運共同體做出應(yīng)有貢獻。

教育部副部長鐘登華在“展望人工智能時代教育的未來”為主題的主題會議環(huán)節(jié)，做主題發(fā)言，分享了近年來中國政府推動智能教育發(fā)展的認識與行動。

鐘登華指出，人類社會的發(fā)展離不開科技的創(chuàng)新和教育的進步，以人工智能為代表的新一代信息技術(shù)的快速發(fā)展，將會對傳統(tǒng)的教育理念、教育體系和教學(xué)模式產(chǎn)生革命性影響，從而進一步釋放教育在推動人類社會發(fā)展過程中的巨大潛力。近年來，在《新一代人工智能發(fā)展規(guī)劃》《高等學(xué)校人工智能創(chuàng)新行動計劃》《中國教育現(xiàn)代化2035》等政策文件的指引下，一些地區(qū)和學(xué)校在提升信息素養(yǎng)、推廣智能學(xué)伴、構(gòu)建智能化校園、改革評價方式、促進交叉融合等方面開始了人工智能與教育教學(xué)融合的探索。

鐘登華表示，智能時代的中國教育發(fā)展，將呈現(xiàn)幾個新特征：教育改革創(chuàng)新將注入人機協(xié)同、共創(chuàng)分享的新動力；教育科學(xué)研究將進入交叉融合、集智創(chuàng)新的新階段；教育發(fā)展目標將聚焦更加公平、更有質(zhì)量的新標準；教育治理體系將面臨社會倫理、數(shù)據(jù)安全的新挑戰(zhàn)。他希望，通過多種方式加強與世界各國的交流與合作，在聯(lián)合國教科文組織的引領(lǐng)下，共同開展相關(guān)科學(xué)研究，進行理論創(chuàng)新與實踐探索，分享發(fā)展經(jīng)驗和創(chuàng)新成果，為實現(xiàn)全納、公平、可持續(xù)的優(yōu)質(zhì)教育，實現(xiàn)全人類的共同利益貢獻力量。

三、服從人類整體利益、合乎倫理，人工智能有了“北京方案”

人工智能的發(fā)展關(guān)乎全社會的未來，到底該如何促進其健康發(fā)展？今天（5月25日）上午，北京智源人工智能研究院聯(lián)合北京大學(xué)、清華大學(xué)、中國科學(xué)院、新一代人工智能產(chǎn)業(yè)技術(shù)創(chuàng)新戰(zhàn)略聯(lián)盟等一批高校、科研院所和產(chǎn)業(yè)聯(lián)盟，共同發(fā)布《人工智能北京共識》。該共識在人工智能的研發(fā)、使用、治理三方面提出15條原則，為規(guī)范和引領(lǐng)人工智能健康發(fā)展提供“北京方案”，提出“和諧與優(yōu)化共生”。

人工智能倫理與規(guī)范是未來智能社會的發(fā)展基石，已經(jīng)引起全世界廣泛關(guān)注。歐盟、英國、日本等均已制定人工智能的倫理準則。

《人工智能北京共識》針對人工智能的研發(fā)、使用、治理三方面，提出了各個參與方應(yīng)該遵循的有益于人類命運共同體構(gòu)建和社會發(fā)展的15條原則。

其中，研發(fā)方面，提倡要有益于增進社會與生態(tài)的福祉，服從人類的整體利益，設(shè)計上要合乎倫理，體現(xiàn)出多樣性與包容性，盡可能地惠及更多人，要對潛在倫理風(fēng)險與隱患負責(zé)，提升技術(shù)水平控制各種風(fēng)險，并最大范圍共享人工智能發(fā)展成果。

使用方面，提倡善用和慎用，避免誤用和濫用，以最大化人工智能技術(shù)帶來的益處、最小化其風(fēng)險，應(yīng)確保利益相關(guān)者對其權(quán)益所受影響有充分的知情與同意，并能夠通過教育與培訓(xùn)適應(yīng)人工智能發(fā)展帶來的影響。

在治理方面，對人工智能部分替代人類工作保持包容和謹慎態(tài)度，鼓勵探索更能發(fā)揮人類優(yōu)勢和特點的新工作，廣泛開展國際合作，共享人工智能治理經(jīng)驗。人工智能的準則與治理措施應(yīng)做到適應(yīng)和適度，并開展長遠戰(zhàn)略設(shè)計，以確保未來人工智能始終保持向?qū)ι鐣幸娴姆较虬l(fā)展。

本次發(fā)布的《人工智能北京共識》將“和諧與優(yōu)化共生”這一中國哲學(xué)和文化中的特色理念，作為尋求跨行業(yè)、跨部門、跨地區(qū)全球協(xié)作的指導(dǎo)思想，這為規(guī)范和引領(lǐng)人工智能健康發(fā)展提供了“北京方案”。

同時，為降低人工智能發(fā)展過程中可能存在的技術(shù)風(fēng)險和倫理隱患，北京智源人工智能研究院專門成立人工智能倫理與安全研究中心。

該研究中心主任、中國科學(xué)院自動化研究所研究員曾毅介紹，未來，中心將圍繞人工智能倫理與安全的理論探索、算法模型、系統(tǒng)平臺、行業(yè)應(yīng)用等開展一系列研究，目前研究內(nèi)容主要包括四大方面，即構(gòu)建低風(fēng)險機器學(xué)習(xí)模型與平臺、開展符合人類倫理道德的智能自主學(xué)習(xí)模型研究、建設(shè)數(shù)據(jù)安全示范應(yīng)用系統(tǒng)以及構(gòu)建人工智能風(fēng)險與安全綜合沙盒平臺。

四、《人工智能北京共識》發(fā)布，15條原則規(guī)范AI研發(fā)、使用和治理

由北京智源人工智能研究院聯(lián)合北京大學(xué)、清華大學(xué)、中國科學(xué)院自動化研究所等單位共同制訂的《人工智能北京共識》于5月25日發(fā)布。針對人工智能研發(fā)、使用、治理三方面，《北京共識》提出各個參與方應(yīng)該遵循的有益于人類命運共同體構(gòu)建和社會發(fā)展的15條原則。