日前，人民智庫(kù)與曠視 AI 治理研究院成立聯(lián)合課題組，邀請(qǐng)中國(guó)人工智能產(chǎn)業(yè)發(fā)展聯(lián)盟（AIIA）為課題支持，共同開展“2021 年度全球十大人工智能治理事件”遴選、評(píng)議，過(guò)程中得到了許多位行業(yè)權(quán)威專家和企業(yè)代表的大力支持。

通過(guò)此次梳理總結(jié)，力圖從喧嘩的輿論聲音以及理性的專家點(diǎn)評(píng)中透析出 AI 治理未來(lái)發(fā)展趨勢(shì)，研判 AI 在各領(lǐng)域、各場(chǎng)景應(yīng)用的新空間、新作為，使其可控可靠可信服務(wù)于人類對(duì)科技改善生活、增進(jìn)福祉的美好愿景。接下來(lái)我們將把各位專家針對(duì)具體事件的精彩點(diǎn)評(píng)陸續(xù)發(fā)布出來(lái)，與所有 AI 從業(yè)者和關(guān)注負(fù)責(zé)任 AI 發(fā)展的朋友共勉。

事件七、美國(guó)新提案將賦予社交媒體用戶禁止算法的權(quán)利

案例描述

國(guó)外媒體報(bào)道，美國(guó)眾議院一個(gè)由兩黨議員組成的小組提出一項(xiàng)法案，要求Meta 旗下 Facebook 和 Google 等互聯(lián)網(wǎng)平臺(tái)允許用戶查看非算法選擇的內(nèi)容。共和黨眾議員巴克在一份聲明中表示：“消費(fèi)者應(yīng)該有權(quán)選擇如何使用互聯(lián)網(wǎng)平臺(tái)，而不必受到由特定用戶數(shù)據(jù)驅(qū)動(dòng)的秘密算法操縱?！保▉?lái)源：TechWeb）

專家點(diǎn)評(píng)

張凌寒 北京科技大學(xué)法學(xué)院副教授、國(guó)家人工智能倫理與道德標(biāo)準(zhǔn)小組成員

網(wǎng)絡(luò)平臺(tái)的算法操縱問題一直受到美國(guó)立法的高度關(guān)注。原因在于，平臺(tái)通過(guò)算法設(shè)置了新聞議程，不僅引導(dǎo)和操縱了社會(huì)輿論走向，還可以“千人千面”地精準(zhǔn)個(gè)性化推送信息從而影響用戶個(gè)人的政治傾向。平臺(tái)的算法操縱力量直接動(dòng)搖了美國(guó)政治的基礎(chǔ)——民主選舉，因此算法操縱新聞議程和用戶觀點(diǎn)成為了美國(guó)立法的焦點(diǎn)，這是美國(guó)政治與平臺(tái)治理多方問題合力造成的社會(huì)重大問題。然而，美國(guó)近三年已經(jīng)有多部關(guān)于平臺(tái)治理、算法規(guī)制的法案在國(guó)會(huì)立法議程中無(wú)疾而終，背后的原因令人深思。私人資本控制平臺(tái)、社會(huì)輿論，進(jìn)而控制國(guó)家政治走向，為世界各國(guó)提供了鏡鑒。

張軍平 復(fù)旦大學(xué)計(jì)算機(jī)科學(xué)技術(shù)學(xué)院教授、博士生導(dǎo)師社交媒體用戶在使用互聯(lián)網(wǎng)平臺(tái)獲得便利的同時(shí)，也有可能在不知情的情況下，泄露自己的隱私。因此，明確賦予社交媒體用戶禁用算法的權(quán)利，本質(zhì)上就是在保護(hù)公民的隱私。

事件八、AI 增進(jìn)人類福祉新方向：AI 干預(yù)自殺、AI 手語(yǔ)主播、AI 氣候預(yù)測(cè)

案例描述

中科院心理所研究員朱廷劭通過(guò) AI 算法開發(fā)了自殺意念識(shí)別模型，并組織志愿者團(tuán)隊(duì)給予干預(yù)和救助。央視新聞聯(lián)合百度智能云打造總臺(tái)首個(gè) AI 手語(yǔ)主播正式亮相。此外，科大訊飛、愛奇藝等企業(yè)均先后推出善用手語(yǔ)表達(dá)的仿真 AI 主播。世界地球日當(dāng)天，達(dá)摩院與南京信息工程大學(xué)、國(guó)家氣候中心等聯(lián)合舉辦業(yè)界首個(gè) AI 氣候預(yù)測(cè)大賽，AI 首次預(yù)測(cè)未來(lái)兩年氣候。

專家點(diǎn)評(píng)

江濤 科大訊飛高級(jí)副總裁

AI 主播技術(shù)本質(zhì)是以情感貫穿從文本語(yǔ)義到語(yǔ)氣，到面部表情等的后臺(tái)邏輯，在虛擬世界中打造一個(gè)真實(shí)的助手或合作伙伴。該技術(shù)在受到火熱追捧的同時(shí)，也面臨嚴(yán)峻的技術(shù)挑戰(zhàn)，如更多視頻融合元素、虛擬人情感、豐富虛擬人技能、場(chǎng)景化主題、情感化決策融入虛擬人設(shè)計(jì)中等。

期待在不久的將來(lái)，拓展出更多領(lǐng)域的虛擬人落地應(yīng)用，實(shí)現(xiàn)虛擬人的“面對(duì)面”進(jìn)行互動(dòng)交流、業(yè)務(wù)咨詢、智能問答、服務(wù)導(dǎo)覽等。AI 客服、AI 經(jīng)理、AI 店長(zhǎng)、AI 演示員等多種社會(huì)角色，或許將陸續(xù)在不同行業(yè)、不同領(lǐng)域“上崗”，讓人們切實(shí)體會(huì)到“人工智能建設(shè)的美好世界”。

潘天群 南京大學(xué)哲學(xué)系教授、博導(dǎo)，南京大學(xué)科學(xué)技術(shù)與社會(huì)研究所所長(zhǎng)當(dāng)代社會(huì)有抑郁等心理障礙的人越來(lái)越多，因心理問題而自殺的人也越來(lái)越多。在網(wǎng)上“樹洞”進(jìn)行傾訴是心理障礙者的一個(gè)重要渠道。該軟件的應(yīng)用及推廣，在其他手段的配合下，能夠阻止更多的意圖自殺的人。當(dāng)然該軟件需要，彌補(bǔ)其先天的倫理缺陷：網(wǎng)上傾訴是個(gè)人隱私，基于樹洞的自殺干預(yù)本身意味著樹洞本身不是“黑洞”。該軟件是公益性的，有巨大的社會(huì)價(jià)值，同時(shí)，該軟件有示范性意義：基于網(wǎng)上的資源可以開發(fā)出各種公益價(jià)值的軟件。李金龍 招商銀行人工智能實(shí)驗(yàn)室主任AI 技術(shù)的不斷發(fā)展啟發(fā)著不同行業(yè)，為很多之前難以解決的問題提供新的思路。除了可以借助系統(tǒng)能力做到更全面的服務(wù)覆蓋以外，AI 技術(shù)也可以節(jié)約研究成本加速應(yīng)用效率。隨著 AI 在生物醫(yī)學(xué)、社會(huì)服務(wù)以及大氣研究等多個(gè)領(lǐng)域落地開花，AI 的能力被進(jìn)一步證明，并更好的服務(wù)人類，為基礎(chǔ)研究加速。早期的如語(yǔ)音播報(bào)能力為視弱者提供移動(dòng)服務(wù)，到現(xiàn)在的 AI 預(yù)測(cè)蛋白質(zhì)結(jié)構(gòu)節(jié)約研究成本等，無(wú)不證明，科學(xué)合理使用 AI 能力可以為人類社會(huì)造福。當(dāng)然，在使用的時(shí)候也需要考慮 AI 本身的局限性，如今的 AI 技術(shù)底層仍是統(tǒng)計(jì)思維，因此在實(shí)際使用中一定要注意 AI 系統(tǒng)偏見的問題。張軍平 復(fù)旦大學(xué)計(jì)算機(jī)科學(xué)技術(shù)學(xué)院教授、博士生導(dǎo)師

氣象是人工智能里處理的一個(gè)難點(diǎn)問題，因?yàn)闅庀蟊旧淼囊?guī)律性周期性，有可能遠(yuǎn)長(zhǎng)于人類有意識(shí)收集數(shù)據(jù)的時(shí)間，同時(shí)，氣象的變化原因也遠(yuǎn)多于人類可以收集到的數(shù)據(jù)維度。但通過(guò)大數(shù)據(jù)和人工智能算法分析，我們有可能學(xué)習(xí)到氣象的局部、短時(shí)間的規(guī)律，并為氣象預(yù)測(cè)提供服務(wù)。