-
通過(guò)算法黑箱侵犯外賣(mài)小哥利益的事件 “AI成‘監工’：算法下外賣(mài)騎手挑戰交通規則，‘助手’可能變‘殺手’”（排名第1，得票率51.20%）；
-
假借人工智能技術(shù)進(jìn)行違法行為的事件 “湖南岳陽(yáng)警方破獲AI犯罪案，技術(shù)犯罪仍要懲罰人”（排名第9，得票率48.75%）。
國際方面，最受關(guān)注的是人工智能技術(shù)突破現有邊界，有可能對人類(lèi)福祉造成不良影響的事件，如：
-
“人工智能可以翻譯大腦想法將大腦信號轉化為文本數據，‘讀懂意識’讓隱私無(wú)處遁藏”（排名第2，得票率50.09%）；
-
“人工智能技術(shù)突破現有邊界，具備‘自主意識’，可實(shí)現獨立研發(fā)、自我修復等功能”（排名第8，得票率48.75%）。
黨的十九屆四中全會(huì )《決定》提出，“健全科技倫理治理體制”。將健全科技倫理治理體制作為推進(jìn)國家治理體系現代化的重要組成部分，是以習近平同志為核心的黨中央在全球范圍新一輪科技革命和產(chǎn)業(yè)變革蓬勃興起、人類(lèi)發(fā)展面臨前所未有的新機遇和新挑戰的歷史時(shí)刻作出的重大部署，對于克服科技領(lǐng)域存在的倫理問(wèn)題、促進(jìn)我國科技事業(yè)健康發(fā)展，具有重要意義。
據有關(guān)機構預測，2030年，人工智能將帶動(dòng)全球GDP增長(cháng)14%；其中，最大的收益將來(lái)自中國與北美，總計高達10.7萬(wàn)億美元，占全球經(jīng)濟影響的近70%。如此巨大的經(jīng)濟體量，若失去法律、道德和倫理的約束，有可能造成不可逆轉的負面影響。本次調查中，全球性、地區性及各國涉及法律、倫理、道德規范建設的事件得到了專(zhuān)家和公眾的廣泛關(guān)注，
-
如 “歐美、韓國相繼出臺AI治理新規，嚴格限制、甚至禁用相關(guān)人工智能技術(shù)在某些場(chǎng)景的發(fā)展和應用”（排名第4，得票率49.73%）等。
此外，西方國家推動(dòng)人工智能在軍事領(lǐng)域的使用也受到廣泛關(guān)注，
-
“人工智能首次控制美國軍用系統，或將開(kāi)啟算法戰新時(shí)代”（排名第10，得票率48.22%）這一事件受到案例評審專(zhuān)家的多次提及。
清華大學(xué)人工智能?chē)H治理研究院名譽(yù)院長(cháng)傅瑩指出：“既然人工智能武器化不可避免，專(zhuān)家們研究的方向應是尋找合適的治理路徑。”
上海交通大學(xué)文科資深教授、中國法與社會(huì )研究院季衛東院長(cháng)認為，當今世界面臨著(zhù)圍繞人工智能和數據的國際規則的博弈，中國在全球化時(shí)代和數字經(jīng)濟轉型過(guò)程中相對處于比較領(lǐng)先的位置。但由于我們過(guò)去對人工智能治理重視程度不夠，導致人工智能產(chǎn)品、產(chǎn)業(yè)在“走出去”的過(guò)程中，往往會(huì )在歐美國家遇到限制或指責，有些問(wèn)題的確可以促進(jìn)我國產(chǎn)品、技術(shù)、規范的進(jìn)步，但我們也要學(xué)習適當地、巧妙地利用規則來(lái)維護國家和企業(yè)的合法權益。同時(shí)也要注意到不同國家人工智能治理模式的區別，比如美國強調人工智能企業(yè)的商業(yè)利益與企業(yè)在競爭中保持優(yōu)勢地位；歐盟則強調公民權利保障及在該前提下的規則博弈；中國在上述兩個(gè)方面都有所涉及。
當前，我國正在積極融入人工智能全球治理體系，盡管偶有逆流和阻撓，但依然肩負起了一個(gè)負責任大國應肩負的責任，在人工智能全球治理中積極貢獻自己的智慧和經(jīng)驗。目前的基本共識是人工智能的治理體系需要“柔性的倫理”和“硬性的法律”共同構建，更需要各個(gè)國家、國際組織、行業(yè)組織、企業(yè)、公眾的多元主體參與，倫理、技術(shù)、規范、立法等治理舉措齊頭并進(jìn)的協(xié)同共治模式。
從頂層設計方面實(shí)施國家規劃并確定立法步驟。
2017年，國家印發(fā)了《新一代人工智能發(fā)展規劃》和《促進(jìn)新一代人工智能產(chǎn)業(yè)發(fā)展三年行動(dòng)計劃（2018—2020年）》，其中對人工智能倫理道德、法律政策提出了明確要求。要秉持“一張藍圖繪到底”的精神，根據規劃要求實(shí)施人工智能法律政策“三步走”：
到2020年，部分領(lǐng)域的人工智能倫理規范和政策法規初步建立；到2025年，初步建立人工智能法律法規、倫理規范和政策體系，形成人工智能安全評估和管控能力：到2030年，建成更加完善的人工智能法律法規、倫理規范和政策體系。
2019年5月《人工智能北京共識》發(fā)布，針對人工智能的研發(fā)、使用、治理三方面，提出了各個(gè)參與方應該遵循的有益于人類(lèi)命運共同體構建和社會(huì )發(fā)展的15條原則。我國還鼓勵不同層次主體圍繞科技向善等核心倫理價(jià)值，擬定評價(jià)規則，構建人工智能的評估評價(jià)體系。一方面，引導人工智能健康持續發(fā)展，通過(guò)產(chǎn)業(yè)發(fā)展反哺人工智能治理領(lǐng)域法律法規等規則的建立健全；另一方面，借助人工智能等現代信息技術(shù)手段全面提升治理能力和治理現代化水平。2019年11月，《關(guān)于<中共中央關(guān)于堅持和完善中國特色社會(huì )主義制度推進(jìn)國家治理體系和治理能力現代化若干重大問(wèn)題的決定>的說(shuō)明》中指出：更加重視運用人工智能、互聯(lián)網(wǎng)、大數據等現代信息技術(shù)手段提升治理能力和治理現代化水平。
清華大學(xué)發(fā)布的相關(guān)領(lǐng)域研究報告顯示，在人工智能領(lǐng)域，中國在科技產(chǎn)出與人才投入、產(chǎn)業(yè)發(fā)展和市場(chǎng)應用、發(fā)展戰略和政策環(huán)境等方面表現亮眼，特別是論文總量和高被引論文數量、專(zhuān)利數量均排名世界第一，企業(yè)數量全球第二。2019年6月，《亞太及日本企業(yè)人工智能倫理道德研究》報告顯示，中國企業(yè)在運用人工智能指導方針及管理標準方面位居亞洲前列。這些成績(jì)的取得，與我國對人工智能“先行一步”的態(tài)度與積極主動(dòng)地發(fā)展先進(jìn)技術(shù)密不可分。
企業(yè)不僅是技術(shù)的創(chuàng )造者，更是技術(shù)應用的決斷者、技術(shù)價(jià)值的設計者。企業(yè)價(jià)值觀(guān)與行為，將直接影響技術(shù)為人類(lèi)社會(huì )帶來(lái)的改變。因此，企業(yè)是AI治理中決不能缺席的力量。AI治理是企業(yè)發(fā)展的必選項，而不是錦上添花。
但是目前，全球AI治理尚未形成統一標準與成熟路徑。各國法律法規、標準規范各異，且落后于企業(yè)的商業(yè)實(shí)踐，因此，企業(yè)自律成為有責任感、有長(cháng)遠發(fā)展意識的AI企業(yè)的首要準則。企業(yè)邁出自律的第一步，對AI行業(yè)整體發(fā)展來(lái)說(shuō)就是重大進(jìn)步。
縱觀(guān)近年來(lái)人工智能治理領(lǐng)域內的爭議事件，與人工智能頭部企業(yè)相關(guān)的事件不勝枚舉，尤其在2020年，國際科技巨頭、中國領(lǐng)先科技企業(yè)都開(kāi)始加速企業(yè)行動(dòng)，提出企業(yè)自律措施。
-
本次調查中，與企業(yè)AI治理相關(guān)的事件有 “美國科技巨頭依據自身道德判斷，加強企業(yè)自律及對人工智能技術(shù)的監管”，排名第6，得票率49.55%；
-
“自動(dòng)駕駛服務(wù)駛上快車(chē)道，百度、滴滴等‘無(wú)人車(chē)’行駛背后的權責歸屬引關(guān)注”，排名第7，得票率48.89%。
人工智能的“自我進(jìn)化”會(huì )隨著(zhù)相關(guān)技術(shù)研究的深入而越來(lái)越高，需要對技術(shù)發(fā)展中可能存在的風(fēng)險與不確定性進(jìn)行準確判斷，更需要來(lái)自研究機構或前沿科技企業(yè)等專(zhuān)業(yè)力量的支持，以確?？萍贾卫淼挠行?。中外前沿科技企業(yè)在人工智能治理中扮演著(zhù)重要角色，頭部企業(yè)對人工智能治理實(shí)踐探索與理論研究的深度參與，為AI向善提供了重要指針。正如曠視副總裁蔣燕所言，“企業(yè)不能缺席人工智能治理，行勝于言，企業(yè)要將人工智能治理的每一步都落實(shí)到工作中”。2020年，AI企業(yè)曠視在A(yíng)I治理上進(jìn)行了更為深入的學(xué)術(shù)研究、探索并成功運行企業(yè)嵌入式治理模式。
上述事件背后與之緊密相關(guān)的看似是企業(yè)，卻不僅僅是孤立的企業(yè)個(gè)體行為，政府、社會(huì )、研發(fā)人員都在其中發(fā)揮重大作用。企業(yè)是AI治理重要的承載方和落地執行者，更多企業(yè)的加入可以更為有效的落地法律法規?？蒲腥藛T是人工智能的“技術(shù)源頭”，在絕大多數情況下可以從源頭上對人工智能的行為與能力進(jìn)行限制。2018年10月，在中共中央政治局就人工智能發(fā)展現狀和趨勢舉行第九次集體學(xué)習時(shí)，習近平總書(shū)記指出，“要加強基礎理論研究，支持科學(xué)家勇闖人工智能科技前沿的‘無(wú)人區’，努力在人工智能發(fā)展方向和理論、方法、工具、系統等方面取得變革性、顛覆性突破，確保我國在人工智能這個(gè)重要領(lǐng)域的理論研究走在前面、關(guān)鍵核心技術(shù)占領(lǐng)制高點(diǎn)”。
當前社會(huì )上關(guān)于是否需要賦予人工智能法律主體地位，以及對于人工智能創(chuàng )造出來(lái)的作品或產(chǎn)品，其是否擁有著(zhù)作權或受到知識產(chǎn)權保護等問(wèn)題存在諸多討論。
-
“全國首例：法院認定人工智能生成文章構成作品，擁有著(zhù)作權”，在本次評選中排名第3，得票率49.78%。這一標志性事件，為今后應對此類(lèi)問(wèn)題提供了參考樣本。
特別值得一提的是，公眾對AI與民生相關(guān)的問(wèn)題高度關(guān)心，
-
“AI向善，技術(shù)預警獨居老人水表及校園暴力行為”，排名第5，得票率49.69%，這一事件引發(fā)了很多網(wǎng)友的討論。
國安新一代人工智能治理專(zhuān)業(yè)委員會(huì )發(fā)布的《新一代人工智能治理原則——發(fā)展負責任的人工智能》突出了發(fā)展負責任的人工智能這一主題，強調了和諧友好、公平公正、包容共享、尊重隱私、安全可控、共擔責任、開(kāi)放協(xié)作、敏捷治理等八項原則。在該原則指引下，我們會(huì )發(fā)現AI技術(shù)的“初心”——讓人類(lèi)擁有更加美好的生活。中國特色社會(huì )主義進(jìn)入新時(shí)代，我國社會(huì )主要矛盾已經(jīng)轉化為人民日益增長(cháng)的美好生活需要和不平衡不充分的發(fā)展之間的矛盾。日益增長(cháng)的美好生活需要科技助力，更需要科技向善的力量。
在全球化浪潮下，人類(lèi)命運共同體正在加速構建，在人工智能及其他領(lǐng)域的治理中，沒(méi)有國家可以獨善其身。亦沒(méi)有任何一個(gè)社會(huì )主體能作壁上觀(guān)。在此，我們發(fā)出三點(diǎn)呼吁：
全球對話(huà)上，我們希望各國能夠展開(kāi)更加積極地對話(huà)，在A(yíng)I治理上達成廣泛共識，構建并推動(dòng)既符合全球人類(lèi)福祉又符合各個(gè)國家特色發(fā)展的的人工智能治理框架，形成多維度、多層次、多主題的協(xié)同共治模式。
企業(yè)責任上，企業(yè)不僅是技術(shù)的創(chuàng )造者，同時(shí)也是技術(shù)的自省者。希望越來(lái)越多的企業(yè)，能夠積極參與到AI治理中來(lái)，實(shí)現企業(yè)實(shí)踐與學(xué)術(shù)研究更加緊密的結合，實(shí)現新治理模式的有效落地。
社會(huì )認知上，AI這一關(guān)乎每個(gè)人生活的前沿技術(shù)，需要社會(huì )大眾更加理性地關(guān)注與看待。希望創(chuàng )造更加良性的公眾反饋機制與輿論環(huán)境，實(shí)現AI可持續發(fā)展。
AI技術(shù)作為推動(dòng)人類(lèi)社會(huì )可持續發(fā)展的使能技術(shù)，為社會(huì )帶來(lái)的改變還存在很大空間。與此同時(shí)，AI產(chǎn)業(yè)自身的可持續發(fā)展之路，也是漫長(cháng)且充滿(mǎn)艱辛。我們必須合力并進(jìn)，才能實(shí)現共贏(yíng)共享。AI時(shí)代，為了構建更好的人類(lèi)命運共同體，我們仍需不懈努力！
責編：梅亞川
