• 通過(guò)算法黑箱侵犯外賣(mài)小哥利益的事件 “AI成‘監(jiān)工’：算法下外賣(mài)騎手挑戰(zhàn)交通規(guī)則，‘助手’可能變‘殺手’”（排名第1，得票率51.20%）； 

• 假借人工智能技術(shù)進(jìn)行違法行為的事件 “湖南岳陽(yáng)警方破獲AI犯罪案，技術(shù)犯罪仍要懲罰人”（排名第9，得票率48.75%）。 

國(guó)際方面，最受關(guān)注的是人工智能技術(shù)突破現(xiàn)有邊界，有可能對(duì)人類(lèi)福祉造成不良影響的事件，如：

• “人工智能可以翻譯大腦想法將大腦信號(hào)轉(zhuǎn)化為文本數(shù)據(jù)，‘讀懂意識(shí)’讓隱私無(wú)處遁藏”（排名第2，得票率50.09%）； 

• “人工智能技術(shù)突破現(xiàn)有邊界，具備‘自主意識(shí)’，可實(shí)現(xiàn)獨(dú)立研發(fā)、自我修復(fù)等功能”（排名第8，得票率48.75%）。 

黨的十九屆四中全會(huì)《決定》提出，“健全科技倫理治理體制”。將健全科技倫理治理體制作為推進(jìn)國(guó)家治理體系現(xiàn)代化的重要組成部分，是以習(xí)近平同志為核心的黨中央在全球范圍新一輪科技革命和產(chǎn)業(yè)變革蓬勃興起、人類(lèi)發(fā)展面臨前所未有的新機(jī)遇和新挑戰(zhàn)的歷史時(shí)刻作出的重大部署，對(duì)于克服科技領(lǐng)域存在的倫理問(wèn)題、促進(jìn)我國(guó)科技事業(yè)健康發(fā)展，具有重要意義。

據(jù)有關(guān)機(jī)構(gòu)預(yù)測(cè)，2030年，人工智能將帶動(dòng)全球GDP增長(zhǎng)14%；其中，最大的收益將來(lái)自中國(guó)與北美，總計(jì)高達(dá)10.7萬(wàn)億美元，占全球經(jīng)濟(jì)影響的近70%。如此巨大的經(jīng)濟(jì)體量，若失去法律、道德和倫理的約束，有可能造成不可逆轉(zhuǎn)的負(fù)面影響。本次調(diào)查中，全球性、地區(qū)性及各國(guó)涉及法律、倫理、道德規(guī)范建設(shè)的事件得到了專(zhuān)家和公眾的廣泛關(guān)注，

• 如 “歐美、韓國(guó)相繼出臺(tái)AI治理新規(guī)，嚴(yán)格限制、甚至禁用相關(guān)人工智能技術(shù)在某些場(chǎng)景的發(fā)展和應(yīng)用”（排名第4，得票率49.73%）等。 

此外，西方國(guó)家推動(dòng)人工智能在軍事領(lǐng)域的使用也受到廣泛關(guān)注，

• “人工智能首次控制美國(guó)軍用系統(tǒng)，或?qū)㈤_(kāi)啟算法戰(zhàn)新時(shí)代”（排名第10，得票率48.22%）這一事件受到案例評(píng)審專(zhuān)家的多次提及。 

清華大學(xué)人工智能?chē)?guó)際治理研究院名譽(yù)院長(zhǎng)傅瑩指出：“既然人工智能武器化不可避免，專(zhuān)家們研究的方向應(yīng)是尋找合適的治理路徑。”

上海交通大學(xué)文科資深教授、中國(guó)法與社會(huì)研究院季衛(wèi)東院長(zhǎng)認(rèn)為，當(dāng)今世界面臨著圍繞人工智能和數(shù)據(jù)的國(guó)際規(guī)則的博弈，中國(guó)在全球化時(shí)代和數(shù)字經(jīng)濟(jì)轉(zhuǎn)型過(guò)程中相對(duì)處于比較領(lǐng)先的位置。但由于我們過(guò)去對(duì)人工智能治理重視程度不夠，導(dǎo)致人工智能產(chǎn)品、產(chǎn)業(yè)在“走出去”的過(guò)程中，往往會(huì)在歐美國(guó)家遇到限制或指責(zé)，有些問(wèn)題的確可以促進(jìn)我國(guó)產(chǎn)品、技術(shù)、規(guī)范的進(jìn)步，但我們也要學(xué)習(xí)適當(dāng)?shù)?、巧妙地利用?guī)則來(lái)維護(hù)國(guó)家和企業(yè)的合法權(quán)益。同時(shí)也要注意到不同國(guó)家人工智能治理模式的區(qū)別，比如美國(guó)強(qiáng)調(diào)人工智能企業(yè)的商業(yè)利益與企業(yè)在競(jìng)爭(zhēng)中保持優(yōu)勢(shì)地位；歐盟則強(qiáng)調(diào)公民權(quán)利保障及在該前提下的規(guī)則博弈；中國(guó)在上述兩個(gè)方面都有所涉及。

當(dāng)前，我國(guó)正在積極融入人工智能全球治理體系，盡管偶有逆流和阻撓，但依然肩負(fù)起了一個(gè)負(fù)責(zé)任大國(guó)應(yīng)肩負(fù)的責(zé)任，在人工智能全球治理中積極貢獻(xiàn)自己的智慧和經(jīng)驗(yàn)。目前的基本共識(shí)是人工智能的治理體系需要“柔性的倫理”和“硬性的法律”共同構(gòu)建，更需要各個(gè)國(guó)家、國(guó)際組織、行業(yè)組織、企業(yè)、公眾的多元主體參與，倫理、技術(shù)、規(guī)范、立法等治理舉措齊頭并進(jìn)的協(xié)同共治模式。

從頂層設(shè)計(jì)方面實(shí)施國(guó)家規(guī)劃并確定立法步驟。

2017年，國(guó)家印發(fā)了《新一代人工智能發(fā)展規(guī)劃》和《促進(jìn)新一代人工智能產(chǎn)業(yè)發(fā)展三年行動(dòng)計(jì)劃（2018—2020年）》，其中對(duì)人工智能倫理道德、法律政策提出了明確要求。要秉持“一張藍(lán)圖繪到底”的精神，根據(jù)規(guī)劃要求實(shí)施人工智能法律政策“三步走”：

到2020年，部分領(lǐng)域的人工智能倫理規(guī)范和政策法規(guī)初步建立；到2025年，初步建立人工智能法律法規(guī)、倫理規(guī)范和政策體系，形成人工智能安全評(píng)估和管控能力：到2030年，建成更加完善的人工智能法律法規(guī)、倫理規(guī)范和政策體系。

2019年5月《人工智能北京共識(shí)》發(fā)布，針對(duì)人工智能的研發(fā)、使用、治理三方面，提出了各個(gè)參與方應(yīng)該遵循的有益于人類(lèi)命運(yùn)共同體構(gòu)建和社會(huì)發(fā)展的15條原則。我國(guó)還鼓勵(lì)不同層次主體圍繞科技向善等核心倫理價(jià)值，擬定評(píng)價(jià)規(guī)則，構(gòu)建人工智能的評(píng)估評(píng)價(jià)體系。一方面，引導(dǎo)人工智能健康持續(xù)發(fā)展，通過(guò)產(chǎn)業(yè)發(fā)展反哺人工智能治理領(lǐng)域法律法規(guī)等規(guī)則的建立健全；另一方面，借助人工智能等現(xiàn)代信息技術(shù)手段全面提升治理能力和治理現(xiàn)代化水平。2019年11月，《關(guān)于<中共中央關(guān)于堅(jiān)持和完善中國(guó)特色社會(huì)主義制度推進(jìn)國(guó)家治理體系和治理能力現(xiàn)代化若干重大問(wèn)題的決定>的說(shuō)明》中指出：更加重視運(yùn)用人工智能、互聯(lián)網(wǎng)、大數(shù)據(jù)等現(xiàn)代信息技術(shù)手段提升治理能力和治理現(xiàn)代化水平。

清華大學(xué)發(fā)布的相關(guān)領(lǐng)域研究報(bào)告顯示，在人工智能領(lǐng)域，中國(guó)在科技產(chǎn)出與人才投入、產(chǎn)業(yè)發(fā)展和市場(chǎng)應(yīng)用、發(fā)展戰(zhàn)略和政策環(huán)境等方面表現(xiàn)亮眼，特別是論文總量和高被引論文數(shù)量、專(zhuān)利數(shù)量均排名世界第一，企業(yè)數(shù)量全球第二。2019年6月，《亞太及日本企業(yè)人工智能倫理道德研究》報(bào)告顯示，中國(guó)企業(yè)在運(yùn)用人工智能指導(dǎo)方針及管理標(biāo)準(zhǔn)方面位居亞洲前列。這些成績(jī)的取得，與我國(guó)對(duì)人工智能“先行一步”的態(tài)度與積極主動(dòng)地發(fā)展先進(jìn)技術(shù)密不可分。

企業(yè)不僅是技術(shù)的創(chuàng)造者，更是技術(shù)應(yīng)用的決斷者、技術(shù)價(jià)值的設(shè)計(jì)者。企業(yè)價(jià)值觀與行為，將直接影響技術(shù)為人類(lèi)社會(huì)帶來(lái)的改變。因此，企業(yè)是AI治理中決不能缺席的力量。AI治理是企業(yè)發(fā)展的必選項(xiàng)，而不是錦上添花。

但是目前，全球AI治理尚未形成統(tǒng)一標(biāo)準(zhǔn)與成熟路徑。各國(guó)法律法規(guī)、標(biāo)準(zhǔn)規(guī)范各異，且落后于企業(yè)的商業(yè)實(shí)踐，因此，企業(yè)自律成為有責(zé)任感、有長(zhǎng)遠(yuǎn)發(fā)展意識(shí)的AI企業(yè)的首要準(zhǔn)則。企業(yè)邁出自律的第一步，對(duì)AI行業(yè)整體發(fā)展來(lái)說(shuō)就是重大進(jìn)步。

縱觀近年來(lái)人工智能治理領(lǐng)域內(nèi)的爭(zhēng)議事件，與人工智能頭部企業(yè)相關(guān)的事件不勝枚舉，尤其在2020年，國(guó)際科技巨頭、中國(guó)領(lǐng)先科技企業(yè)都開(kāi)始加速企業(yè)行動(dòng)，提出企業(yè)自律措施。

• 本次調(diào)查中，與企業(yè)AI治理相關(guān)的事件有 “美國(guó)科技巨頭依據(jù)自身道德判斷，加強(qiáng)企業(yè)自律及對(duì)人工智能技術(shù)的監(jiān)管”，排名第6，得票率49.55%； 

• “自動(dòng)駕駛服務(wù)駛上快車(chē)道，百度、滴滴等‘無(wú)人車(chē)’行駛背后的權(quán)責(zé)歸屬引關(guān)注”，排名第7，得票率48.89%。 

人工智能的“自我進(jìn)化”會(huì)隨著相關(guān)技術(shù)研究的深入而越來(lái)越高，需要對(duì)技術(shù)發(fā)展中可能存在的風(fēng)險(xiǎn)與不確定性進(jìn)行準(zhǔn)確判斷，更需要來(lái)自研究機(jī)構(gòu)或前沿科技企業(yè)等專(zhuān)業(yè)力量的支持，以確?？萍贾卫淼挠行浴Ｖ型馇把乜萍计髽I(yè)在人工智能治理中扮演著重要角色，頭部企業(yè)對(duì)人工智能治理實(shí)踐探索與理論研究的深度參與，為AI向善提供了重要指針。正如曠視副總裁蔣燕所言，“企業(yè)不能缺席人工智能治理，行勝于言，企業(yè)要將人工智能治理的每一步都落實(shí)到工作中”。2020年，AI企業(yè)曠視在AI治理上進(jìn)行了更為深入的學(xué)術(shù)研究、探索并成功運(yùn)行企業(yè)嵌入式治理模式。

上述事件背后與之緊密相關(guān)的看似是企業(yè)，卻不僅僅是孤立的企業(yè)個(gè)體行為，政府、社會(huì)、研發(fā)人員都在其中發(fā)揮重大作用。企業(yè)是AI治理重要的承載方和落地執(zhí)行者，更多企業(yè)的加入可以更為有效的落地法律法規(guī)?？蒲腥藛T是人工智能的“技術(shù)源頭”，在絕大多數(shù)情況下可以從源頭上對(duì)人工智能的行為與能力進(jìn)行限制。2018年10月，在中共中央政治局就人工智能發(fā)展現(xiàn)狀和趨勢(shì)舉行第九次集體學(xué)習(xí)時(shí)，習(xí)近平總書(shū)記指出，“要加強(qiáng)基礎(chǔ)理論研究，支持科學(xué)家勇闖人工智能科技前沿的‘無(wú)人區(qū)’，努力在人工智能發(fā)展方向和理論、方法、工具、系統(tǒng)等方面取得變革性、顛覆性突破，確保我國(guó)在人工智能這個(gè)重要領(lǐng)域的理論研究走在前面、關(guān)鍵核心技術(shù)占領(lǐng)制高點(diǎn)”。

當(dāng)前社會(huì)上關(guān)于是否需要賦予人工智能法律主體地位，以及對(duì)于人工智能創(chuàng)造出來(lái)的作品或產(chǎn)品，其是否擁有著作權(quán)或受到知識(shí)產(chǎn)權(quán)保護(hù)等問(wèn)題存在諸多討論。

• “全國(guó)首例：法院認(rèn)定人工智能生成文章構(gòu)成作品，擁有著作權(quán)”，在本次評(píng)選中排名第3，得票率49.78%。這一標(biāo)志性事件，為今后應(yīng)對(duì)此類(lèi)問(wèn)題提供了參考樣本。 

特別值得一提的是，公眾對(duì)AI與民生相關(guān)的問(wèn)題高度關(guān)心，

• “AI向善，技術(shù)預(yù)警獨(dú)居老人水表及校園暴力行為”，排名第5，得票率49.69%，這一事件引發(fā)了很多網(wǎng)友的討論。 

國(guó)安新一代人工智能治理專(zhuān)業(yè)委員會(huì)發(fā)布的《新一代人工智能治理原則——發(fā)展負(fù)責(zé)任的人工智能》突出了發(fā)展負(fù)責(zé)任的人工智能這一主題，強(qiáng)調(diào)了和諧友好、公平公正、包容共享、尊重隱私、安全可控、共擔(dān)責(zé)任、開(kāi)放協(xié)作、敏捷治理等八項(xiàng)原則。在該原則指引下，我們會(huì)發(fā)現(xiàn)AI技術(shù)的“初心”——讓人類(lèi)擁有更加美好的生活。中國(guó)特色社會(huì)主義進(jìn)入新時(shí)代，我國(guó)社會(huì)主要矛盾已經(jīng)轉(zhuǎn)化為人民日益增長(zhǎng)的美好生活需要和不平衡不充分的發(fā)展之間的矛盾。日益增長(zhǎng)的美好生活需要科技助力，更需要科技向善的力量。

在全球化浪潮下，人類(lèi)命運(yùn)共同體正在加速構(gòu)建，在人工智能及其他領(lǐng)域的治理中，沒(méi)有國(guó)家可以獨(dú)善其身。亦沒(méi)有任何一個(gè)社會(huì)主體能作壁上觀。在此，我們發(fā)出三點(diǎn)呼吁：

全球?qū)υ捝希?/span>我們希望各國(guó)能夠展開(kāi)更加積極地對(duì)話，在AI治理上達(dá)成廣泛共識(shí)，構(gòu)建并推動(dòng)既符合全球人類(lèi)福祉又符合各個(gè)國(guó)家特色發(fā)展的的人工智能治理框架，形成多維度、多層次、多主題的協(xié)同共治模式。 

企業(yè)責(zé)任上，企業(yè)不僅是技術(shù)的創(chuàng)造者，同時(shí)也是技術(shù)的自省者。希望越來(lái)越多的企業(yè)，能夠積極參與到AI治理中來(lái)，實(shí)現(xiàn)企業(yè)實(shí)踐與學(xué)術(shù)研究更加緊密的結(jié)合，實(shí)現(xiàn)新治理模式的有效落地。 

社會(huì)認(rèn)知上，AI這一關(guān)乎每個(gè)人生活的前沿技術(shù)，需要社會(huì)大眾更加理性地關(guān)注與看待。希望創(chuàng)造更加良性的公眾反饋機(jī)制與輿論環(huán)境，實(shí)現(xiàn)AI可持續(xù)發(fā)展。 

AI技術(shù)作為推動(dòng)人類(lèi)社會(huì)可持續(xù)發(fā)展的使能技術(shù)，為社會(huì)帶來(lái)的改變還存在很大空間。與此同時(shí)，AI產(chǎn)業(yè)自身的可持續(xù)發(fā)展之路，也是漫長(zhǎng)且充滿艱辛。我們必須合力并進(jìn)，才能實(shí)現(xiàn)共贏共享。AI時(shí)代，為了構(gòu)建更好的人類(lèi)命運(yùn)共同體，我們?nèi)孕璨恍概Γ?/span>