保障算法技術(shù)創(chuàng)新與應(yīng)用健康、有序、繁榮發(fā)展

隨著數(shù)字化的深入發(fā)展，智能算法已經(jīng)成為基礎(chǔ)性、通用性的技術(shù)，持續(xù)在經(jīng)濟(jì)社會的各個(gè)領(lǐng)域應(yīng)用發(fā)展。從互聯(lián)網(wǎng)領(lǐng)域中的推薦算法、AI生成內(nèi)容（AIGC），到產(chǎn)業(yè)領(lǐng)域中的自動(dòng)駕駛汽車、醫(yī)療AI、工業(yè)質(zhì)檢AI，再到社會公共服務(wù)中的便民應(yīng)用，可見算法為數(shù)字經(jīng)濟(jì)和社會的高質(zhì)量發(fā)展“提質(zhì)增效”。

與此同時(shí)，算法的廣泛應(yīng)用也帶來一些負(fù)面問題，諸如信息繭房、隱私侵犯、大數(shù)據(jù)殺熟、算法濫用等。為此，國內(nèi)外開始探索建立算法治理的新路徑新舉措，更好地保障可信的、負(fù)責(zé)任的、以人為本的算法技術(shù)創(chuàng)新與應(yīng)用。

在這些背景下，騰訊研究院法律研究中心研究推出了《人工智能時(shí)代的算法治理報(bào)告2022——構(gòu)建法律、倫理、技術(shù)協(xié)同的算法治理格局》。報(bào)告立足于算法的技術(shù)趨勢和行業(yè)應(yīng)用現(xiàn)狀，從法律監(jiān)管、倫理治理、技術(shù)治理三個(gè)層面梳理總結(jié)國內(nèi)外在算法治理方面的實(shí)踐做法，以期通過多元參與、敏捷靈活、精準(zhǔn)有效的算法治理，保障算法技術(shù)創(chuàng)新與應(yīng)用健康、有序、繁榮發(fā)展。

以下為報(bào)告核心內(nèi)容摘要。后臺回復(fù)關(guān)鍵詞“AI治理2022”即可查看/下載完整報(bào)告

技術(shù)趨勢：算法創(chuàng)新推動(dòng)經(jīng)濟(jì)社會智能化發(fā)展

當(dāng)前，在算法技術(shù)創(chuàng)新中，主要有大模型、合成數(shù)據(jù)和生成性AI三個(gè)趨勢。其中，大模型無疑是最為重要的發(fā)展趨勢之一。相較于過去功能較為單一的算法模型而言，大模型具有更強(qiáng)的通用性。因此，大模型也意味著“AI工業(yè)化”的到來。AI工業(yè)化是指，AI具備了標(biāo)準(zhǔn)化、模塊化、自動(dòng)化的特征，能夠大規(guī)模地在產(chǎn)業(yè)中落地應(yīng)用。大模型正體現(xiàn)了AI標(biāo)準(zhǔn)化、模塊化、自動(dòng)化的實(shí)現(xiàn)路徑，并且大模型形成的成本邊際效應(yīng)，極大地節(jié)約了AI應(yīng)用成本。

利用生成對抗性網(wǎng)絡(luò)（GAN）等AI深度合成技術(shù)生產(chǎn)的合成數(shù)據(jù)，為算法技術(shù)創(chuàng)新及其在各領(lǐng)域的創(chuàng)新應(yīng)用提供了必需的數(shù)據(jù)源。尤其是在大模型時(shí)代，使用合成數(shù)據(jù)訓(xùn)練的算法模型具有更高的準(zhǔn)確性、魯棒性和通用性。此外，生成性AI也是最新的發(fā)展方向，大多生成性AI基于大模型，可以自主生成文本、圖像、音頻、視頻、虛擬場景等多種類型的數(shù)字內(nèi)容，將帶來一場零邊際成本的內(nèi)容生產(chǎn)變革，進(jìn)而給數(shù)字內(nèi)容業(yè)態(tài)帶來巨大影響。

算法技術(shù)創(chuàng)新推動(dòng)算法在經(jīng)濟(jì)社會各領(lǐng)域的廣泛應(yīng)用，不斷帶來創(chuàng)新性應(yīng)用。例如，算法為產(chǎn)業(yè)數(shù)字化轉(zhuǎn)型“增智提效”，不僅提升了農(nóng)業(yè)、工業(yè)制造等傳統(tǒng)產(chǎn)業(yè)的效率和自動(dòng)化水平，也為自動(dòng)駕駛等新興產(chǎn)業(yè)的發(fā)展賦能。同時(shí)，算法也逐漸成為數(shù)字文化產(chǎn)業(yè)創(chuàng)新的基礎(chǔ)設(shè)施，不斷促進(jìn)數(shù)字文化產(chǎn)業(yè)繁榮。此外，在推動(dòng)社會治理現(xiàn)代化方面，算法極大地優(yōu)化了社會公共服務(wù)效率，進(jìn)一步推動(dòng)智慧政務(wù)“服務(wù)下沉”，促使政務(wù)信息化、數(shù)字化、智慧化成為各級政府改革的剛需。

監(jiān)管層面：國內(nèi)外推進(jìn)，算法立法和監(jiān)管，積極規(guī)范算法應(yīng)用

目前，國內(nèi)外都在對算法應(yīng)用進(jìn)行不同程度的立法和監(jiān)管。國內(nèi)重點(diǎn)針對互聯(lián)網(wǎng)信息服務(wù)算法推薦、分享經(jīng)濟(jì)平臺算法勞動(dòng)管理、算法應(yīng)用中數(shù)據(jù)競爭、算法推薦的版權(quán)治理、深度合成等問題積極探索立法和監(jiān)管舉措。國外則側(cè)重人工智能監(jiān)管、公共服務(wù)中算法應(yīng)用監(jiān)管、算法應(yīng)用中的個(gè)人數(shù)據(jù)保護(hù)、算法自動(dòng)化決策、數(shù)字零工經(jīng)濟(jì)中的勞動(dòng)者權(quán)益保障等問題。

值得一提的是，在整體的監(jiān)管路徑上，各國存在差異。例如，歐盟正在制定人工智能法案，嘗試基于風(fēng)險(xiǎn)等級分類，對所有人工智能應(yīng)用建立一個(gè)統(tǒng)一的、通用的監(jiān)管框架，但效果和影響還有待觀察。很多專家預(yù)測，正像之前的數(shù)據(jù)隱私立法GPDR對全球科技行業(yè)的影響那樣，歐盟人工智能法案將“布魯塞爾效應(yīng)”延伸到AI領(lǐng)域，而這正是歐盟所希望的，即通過監(jiān)管為全球樹立AI治理標(biāo)準(zhǔn)。美英則更加強(qiáng)調(diào)監(jiān)管和行業(yè)自律的結(jié)合。

例如，美國白宮最近發(fā)布的《AI權(quán)利法案藍(lán)圖》(Blueprint for AI Bill of Rights)，明確提出行業(yè)主管部門牽頭、應(yīng)用場景導(dǎo)向的分散化監(jiān)管思路，同時(shí)提出5項(xiàng)自愿性的原則。今年7月，英國發(fā)布政策文件“建立促進(jìn)創(chuàng)新的AI監(jiān)管路徑”（Establishing a pro-innovation approach to regulating AI），提出以原則為指導(dǎo)，對AI應(yīng)用采取促進(jìn)創(chuàng)新的監(jiān)管，聚焦具體應(yīng)用場景，基于風(fēng)險(xiǎn)大小，確保監(jiān)管的相稱性和適應(yīng)性?？梢姡绹陀訌?qiáng)調(diào)行業(yè)主管部門牽頭、聚焦具體應(yīng)用場景的分散化監(jiān)管思路。

倫理治理：從原則走向?qū)嵺`，更好保障負(fù)責(zé)任創(chuàng)新

目前，全球各國、社會組織、行業(yè)在算法倫理治理上進(jìn)行了長期探索，從過去積極探索算法治理的倫理原則，到現(xiàn)在逐步開展倫理治理的落地實(shí)踐并取得階段性成效。

從全球AI倫理治理來看，已經(jīng)從原則共識走向治理實(shí)踐。2021年11月25日，教科文組織第41屆大會正式通過的首份人工智能倫理問題全球性協(xié)議--《人工智能倫理問題建議書》標(biāo)志著全球已經(jīng)就算法倫理治理達(dá)成了倫理共識，正在走向倫理治理實(shí)踐。它不僅制定了首個(gè)規(guī)范性全球框架，同時(shí)賦予各國在相應(yīng)層面應(yīng)用該框架的責(zé)任，也為規(guī)范人工智能發(fā)展和應(yīng)用提供了實(shí)踐指導(dǎo)和工具基礎(chǔ)。

我國也在不斷通過政策和立法提出算法倫理治理的要求，倫理治理呈現(xiàn)制度化、法律化的趨勢。例如，我國已經(jīng)組建國家科技倫理委員會，負(fù)責(zé)指導(dǎo)和統(tǒng)籌協(xié)調(diào)推進(jìn)全國科技倫理治理體系建設(shè)工作?！蛾P(guān)于加強(qiáng)科技倫理治理的意見》則對落實(shí)科技倫理治理做出了頂層設(shè)計(jì)和全面部署，涉及總體要求、科技倫理原則、科技倫理治理體制、科技倫理治理制度保障、科技倫理審查和監(jiān)管，以及科技倫理教育和宣傳等六大方面?！稊?shù)據(jù)安全法》《互聯(lián)網(wǎng)信息服務(wù)算法推薦管理規(guī)定》《關(guān)于加強(qiáng)互聯(lián)網(wǎng)信息服務(wù)算法綜合治理的指導(dǎo)意見》等法律法規(guī)和規(guī)范性文件，則對數(shù)據(jù)和算法活動(dòng)提出了科技倫理治理的要求和措施。

業(yè)界在算法倫理治理方面做出了較多的探索。首先，國內(nèi)外科技企業(yè)積極建立AI倫理委員會等科技倫理治理機(jī)構(gòu)，為企業(yè)的倫理制度建設(shè)、倫理評估與審查、倫理教育與文化建設(shè)等提供組織保障，踐行負(fù)責(zé)任的研究與創(chuàng)新理念；其次，業(yè)界在AI風(fēng)險(xiǎn)管理機(jī)制和AI倫理標(biāo)準(zhǔn)認(rèn)證方面進(jìn)行了前沿探索，旨在幫助AI的設(shè)計(jì)者、開發(fā)者、使用者以及評估者更好地管理AI生命周期中可能出現(xiàn)的風(fēng)險(xiǎn)，同時(shí)也為對符合倫理標(biāo)準(zhǔn)的人工智能產(chǎn)品、服務(wù)或系統(tǒng)進(jìn)行鑒定認(rèn)證；最后，針對頻發(fā)的算法歧視等問題，業(yè)界效仿“網(wǎng)絡(luò)安全Bug賞金挑戰(zhàn)賽”的眾包模式，開創(chuàng)了算法倫理賞金機(jī)制，不僅能快速識別算法問題并改進(jìn)其產(chǎn)品和服務(wù)，也可以提高客戶信任度。

技術(shù)治理：以可信AI為抓手，打造安全可靠、負(fù)責(zé)任的算法應(yīng)用

在算法的技術(shù)治理方面，可信AI正逐步成為行業(yè)規(guī)范化、技術(shù)商業(yè)化的關(guān)鍵助推器，其核心是讓AI應(yīng)用滿足公平、安全、可解釋、隱私保護(hù)等條件，因此也是落實(shí)算法治理的重要技術(shù)實(shí)踐。以中國、美國、歐盟為代表的AI領(lǐng)頭羊均把可信AI放在AI倫理和治理的核心位置，發(fā)展可信AI也正在成為全球的共識。AI企業(yè)作為人工智能技術(shù)產(chǎn)品化的主體，在可信AI的發(fā)展實(shí)踐中正發(fā)揮著日益積極的作用。

第一，可解釋性。2021年，學(xué)界、產(chǎn)業(yè)界都在積極探索算法可解釋性的技術(shù)路徑和實(shí)踐路徑，促進(jìn)算法技術(shù)透明。騰訊研究院等發(fā)布的國內(nèi)首份《可解釋AI發(fā)展報(bào)告2022》對此進(jìn)行了全面梳理，比如，建立“模型說明書”標(biāo)準(zhǔn)，促進(jìn)算法模型本身的透明度和可理解性，增加相關(guān)主體對模型的理解和信任；抑或是打造可解釋性工具，推動(dòng)構(gòu)建可解釋的AI模型（XAI）。

第二，安全性。AI內(nèi)生安全能力與AI檢測工具保障技術(shù)安全應(yīng)用與發(fā)展。算法安全主要集中在兩個(gè)層面。一是，對算法系統(tǒng)本身的保護(hù)，保護(hù)人工智能訓(xùn)練數(shù)據(jù)、訓(xùn)練管道和機(jī)器學(xué)習(xí)模型，即AI內(nèi)生安全。對于AI內(nèi)生安全，企業(yè)和科研團(tuán)隊(duì)都給予高度關(guān)注。例如，騰訊朱雀實(shí)驗(yàn)室不斷探索高階的算法模型攻擊模式，如“AI供應(yīng)鏈攻擊”、“重構(gòu)模型后門攻擊”、“數(shù)據(jù)木馬隱藏攻擊”等。二是，研發(fā)檢測識別工具來促進(jìn)生成性AI算法和AI生成/合成內(nèi)容的安全可控應(yīng)用，應(yīng)對深度偽造、AI換臉、AI欺詐等算法惡意使用的行為。

第三，公平性。目前可信AI在促進(jìn)算法公平性上有很多的創(chuàng)新和實(shí)踐，主流的是從數(shù)據(jù)和算法兩個(gè)方面入手，如使用族群、性別等屬性均衡的數(shù)據(jù)集，在算法模型中增加約束或正則項(xiàng)消除偏差等。與此同時(shí)，公平性檢測也是促進(jìn)算法公平的重要實(shí)踐方式。業(yè)界不僅推出了基于不同緯度和視角的公平性測試的數(shù)據(jù)基準(zhǔn)，而且陸續(xù)也在推出公平性測試的算法、工具等。

第四，隱私保護(hù)。業(yè)界分別從數(shù)據(jù)、算法兩個(gè)方面進(jìn)行可信AI隱私保護(hù)的技術(shù)創(chuàng)新和部署：在數(shù)據(jù)方面，主要包括差分隱私、合成數(shù)據(jù)、同態(tài)加密（HE）、匿名化等技術(shù)手段；在算法方面，以隱私計(jì)算為主要領(lǐng)域，主要包括了安全多方計(jì)算、零知識證明、聯(lián)邦學(xué)習(xí)等。

第五，可信AI的發(fā)展過程中，算法倫理服務(wù)市場也在同步興起。未來國內(nèi)外大型科技企業(yè)不僅會提出更加完善的AI倫理解決方案來服務(wù)于企業(yè)內(nèi)部的技術(shù)研發(fā)和產(chǎn)品業(yè)務(wù)穩(wěn)定發(fā)展，它們也會將這些AI倫理解決方案和經(jīng)驗(yàn)包裝成可復(fù)制、可推廣的服務(wù)產(chǎn)品，去賦能更多的人工智能科技企業(yè)和產(chǎn)品。同時(shí)，也會有更多的創(chuàng)業(yè)者涌入這個(gè)領(lǐng)域，圍繞AI倫理服務(wù)進(jìn)行創(chuàng)業(yè)。

展望：走向法律、倫理、技術(shù)協(xié)作互動(dòng)的算法治理實(shí)踐

面向未來，靈活有效的算法治理離不開法律、倫理、技術(shù)等多種治理手段的協(xié)同作用，也需要監(jiān)管部門、行業(yè)和企業(yè)、研究機(jī)構(gòu)、社會組織以及社會公眾等多元主體的共同參與。仍需堅(jiān)持以人為本、科技向善等理念，實(shí)現(xiàn)算法創(chuàng)新應(yīng)用和安全之間的平衡發(fā)展。

在法律治理方面，需要采取分場景分行業(yè)的分級分類監(jiān)管思路，劃定算法應(yīng)用的底線，形成敏捷的、精準(zhǔn)的長效監(jiān)管和治理機(jī)制，探索政策指南、監(jiān)管沙盒、安全港、試點(diǎn)、標(biāo)準(zhǔn)認(rèn)證、事后追責(zé)等多元化的監(jiān)管措施，確保算法技術(shù)創(chuàng)新與應(yīng)用發(fā)展既生機(jī)勃勃又井然有序。

在倫理治理方面，隨著算法技術(shù)與人類社會的深入融合、未來數(shù)字科技逐漸走進(jìn)“深水區(qū)”，以算法倫理治理防范算法風(fēng)險(xiǎn)、推動(dòng)負(fù)責(zé)任創(chuàng)新，已經(jīng)成為各國政府、科技企業(yè)的共識。未來，算法倫理治理的制度建設(shè)會逐步完善，內(nèi)部建設(shè)主要以機(jī)構(gòu)內(nèi)的科技倫理委員會為載體，外部建設(shè)有第三方倫理認(rèn)證等探索性嘗試。

在技術(shù)治理方面，以技術(shù)創(chuàng)新解決技術(shù)應(yīng)用帶來的問題是算法治理實(shí)踐的關(guān)鍵一環(huán)，能夠打通抽象的治理原則和具體的技術(shù)實(shí)踐之間的鴻溝。圍繞可信AI及應(yīng)用，未來會有更多倫理性的技術(shù)工具、技術(shù)解決方案。倫理設(shè)計(jì)的理念和實(shí)踐正在與技術(shù)治理、技術(shù)創(chuàng)新緊密融合。越來越多的倫理考量將進(jìn)入到技術(shù)的研發(fā)設(shè)計(jì)過程中。

本文僅代表作者觀點(diǎn)，版權(quán)歸原創(chuàng)者所有，如需轉(zhuǎn)載請?jiān)谖闹凶⒚鱽碓醇白髡呙帧?/p>

免責(zé)聲明：本文系轉(zhuǎn)載編輯文章，僅作分享之用。如分享內(nèi)容、圖片侵犯到您的版權(quán)或非授權(quán)發(fā)布，請及時(shí)與我們聯(lián)系進(jìn)行審核處理或刪除，您可以發(fā)送材料至郵箱：service@tojoy.com