人類社會(huì)正加速進(jìn)入智能化時(shí)代，數(shù)據(jù)是關(guān)鍵生產(chǎn)要素，算法是核心生產(chǎn)力。隨著人工智能、大數(shù)據(jù)等新型信息技術(shù)的快速發(fā)展，算法與互聯(lián)網(wǎng)信息服務(wù)深度融合，為用戶提供個(gè)性化、精準(zhǔn)化、智能化的信息服務(wù)?；ヂ?lián)網(wǎng)信息服務(wù)算法在加速互聯(lián)網(wǎng)信息傳播、繁榮數(shù)字經(jīng)濟(jì)、促進(jìn)社會(huì)發(fā)展的同時(shí)，其不合理應(yīng)用也影響了正常的傳播秩序、市場(chǎng)秩序和社會(huì)秩序，給維護(hù)意識(shí)形態(tài)安全、社會(huì)公平公正和網(wǎng)民合法權(quán)益帶來(lái)挑戰(zhàn)。

為規(guī)范互聯(lián)網(wǎng)信息服務(wù)算法應(yīng)用生態(tài)，國(guó)家互聯(lián)網(wǎng)信息辦公室、工業(yè)和信息化部、公安部、國(guó)家市場(chǎng)監(jiān)督管理總局聯(lián)合發(fā)布《互聯(lián)網(wǎng)信息服務(wù)算法推薦管理規(guī)定》（以下簡(jiǎn)稱《規(guī)定》）?！兑?guī)定》是目前我國(guó)針對(duì)互聯(lián)網(wǎng)信息服務(wù)算法推薦出臺(tái)的最為系統(tǒng)的專門性部門規(guī)章，為規(guī)范互聯(lián)網(wǎng)信息服務(wù)算法推薦活動(dòng)、促進(jìn)互聯(lián)網(wǎng)信息服務(wù)健康發(fā)展、推進(jìn)網(wǎng)絡(luò)空間治理提供了重要的制度保障，意義重大，影響深遠(yuǎn)。

一、堅(jiān)持主流價(jià)值導(dǎo)向，管理好使用好發(fā)展好算法應(yīng)用

《規(guī)定》著眼于網(wǎng)絡(luò)信息內(nèi)容生態(tài)治理，防范互聯(lián)網(wǎng)信息服務(wù)算法濫用風(fēng)險(xiǎn)，保障用戶合法權(quán)益，充分發(fā)揮算法服務(wù)正能量傳播作用，營(yíng)造風(fēng)清氣正的網(wǎng)絡(luò)空間?！兑?guī)定》從以下三個(gè)方面明確了算法治理的總體方向。

（一）堅(jiān)持正確導(dǎo)向，算法向上向善。《規(guī)定》鼓勵(lì)算法推薦服務(wù)提供者使用算法積極傳播正能量、抵制違法和不良信息?！兑?guī)定》鼓勵(lì)算法正向應(yīng)用和創(chuàng)新發(fā)展，通過(guò)人工干預(yù)優(yōu)化算法推薦服務(wù)機(jī)制，將網(wǎng)絡(luò)信息內(nèi)容生態(tài)治理和算法治理有機(jī)結(jié)合，弘揚(yáng)社會(huì)主義核心價(jià)值觀。

（二）堅(jiān)持風(fēng)險(xiǎn)防控，推進(jìn)算法規(guī)制。《規(guī)定》著眼互聯(lián)網(wǎng)信息服務(wù)中潛在的算法影響網(wǎng)絡(luò)輿論、算法誘導(dǎo)用戶沉迷或過(guò)度消費(fèi)、算法共謀和不正當(dāng)競(jìng)爭(zhēng)等算法應(yīng)用風(fēng)險(xiǎn)，由此引出治理對(duì)象，通過(guò)算法規(guī)制規(guī)范互聯(lián)網(wǎng)信息服務(wù)算法推薦活動(dòng)，維護(hù)國(guó)家安全和社會(huì)公共利益。

（三）堅(jiān)持規(guī)范發(fā)展，防止算法濫用。《規(guī)定》倡導(dǎo)，提供算法推薦服務(wù)應(yīng)遵循公正公平、公開透明、科學(xué)合理和誠(chéng)實(shí)信用的原則，四個(gè)基本原則為算法規(guī)范發(fā)展框定了邊界?！兑?guī)定》在信息服務(wù)規(guī)范和用戶權(quán)益保護(hù)部分，設(shè)置了算法應(yīng)用的應(yīng)當(dāng)行為和禁止行為，明確了算法應(yīng)用的底線。

二、建立健全科學(xué)的監(jiān)管體系，形成算法治理長(zhǎng)效機(jī)制

《規(guī)定》明確了互聯(lián)網(wǎng)信息服務(wù)算法綜合治理的監(jiān)管體系，構(gòu)建了涵蓋算法分級(jí)分類、算法備案管理、算法安全評(píng)估、算法風(fēng)險(xiǎn)監(jiān)測(cè)等舉措的科學(xué)監(jiān)管體系，逐步形成算法治理長(zhǎng)效機(jī)制。具體體現(xiàn)在三個(gè)方面：

（一）算法分級(jí)分類，科學(xué)精細(xì)治理。《規(guī)定》明確了算法治理的對(duì)象，即應(yīng)用算法推薦技術(shù)向用戶提供信息的算法推薦服務(wù)提供者?！兑?guī)定》將互聯(lián)網(wǎng)信息服務(wù)推薦算法分為生成合成類、個(gè)性化推送類、排序精選類、檢索過(guò)濾類、調(diào)度決策類等五大類，并分別設(shè)置了針對(duì)性的差異化條款。例如，對(duì)于生成合成類算法推薦服務(wù)，強(qiáng)調(diào)“應(yīng)做出顯著標(biāo)識(shí)”；對(duì)于個(gè)性化推送類，突出用戶的自主選擇權(quán)等用戶權(quán)益保護(hù)；對(duì)于決策調(diào)度類，關(guān)注算法自動(dòng)化決策對(duì)勞動(dòng)者、消費(fèi)者等造成的影響。對(duì)算法推薦服務(wù)的分級(jí)分類管理，體現(xiàn)了科學(xué)化、精細(xì)化的算法治理基本思路。

（二）算法備案先行，治理有章可循。《規(guī)定》要求具有輿論屬性或者社會(huì)動(dòng)員能力的算法推薦服務(wù)提供者通過(guò)互聯(lián)網(wǎng)信息服務(wù)算法備案系統(tǒng)履行算法備案手續(xù)，并在對(duì)外提供服務(wù)的網(wǎng)站、應(yīng)用程序等的顯著位置標(biāo)明其備案編號(hào)。算法備案是《規(guī)定》提出的一個(gè)重要舉措，以算法推薦服務(wù)為切入點(diǎn)對(duì)其使用的互聯(lián)網(wǎng)信息服務(wù)算法進(jìn)行備案，將算法和服務(wù)作為一個(gè)有機(jī)整體進(jìn)行治理。算法自評(píng)估報(bào)告是算法備案的一項(xiàng)亮點(diǎn)內(nèi)容，為國(guó)家監(jiān)管部門和算法推薦服務(wù)提供者協(xié)同推動(dòng)算法治理工作提供了重要抓手。

（三）算法安全評(píng)估，力求標(biāo)本兼治。《規(guī)定》明確了網(wǎng)信部門和電信、公安、市場(chǎng)監(jiān)管等有關(guān)部門對(duì)算法推薦服務(wù)依法開展安全評(píng)估和監(jiān)督檢查的工作職責(zé)，并要求算法推薦服務(wù)提供者對(duì)安全評(píng)估和監(jiān)督檢查工作提供必要的數(shù)據(jù)、技術(shù)等支持或協(xié)助。算法安全評(píng)估著眼于治本，從算法推薦服務(wù)的基本原理、目的意圖、主要運(yùn)行機(jī)制等方面入手，以“事前”評(píng)估的方式排除算法在模型、數(shù)據(jù)、策略、人工干預(yù)等方面的安全隱患；算法監(jiān)督檢查以事中監(jiān)測(cè)的方式發(fā)現(xiàn)算法使用過(guò)程中的安全風(fēng)險(xiǎn)及算法濫用帶來(lái)的算法亂象。算法安全評(píng)估和監(jiān)督檢查工作覆蓋了算法應(yīng)用的全生命周期，二者相互促進(jìn)，力求算法治理做到標(biāo)本兼治。

三、建設(shè)算法治理技術(shù)支撐體系，促進(jìn)算法健康有序發(fā)展

《規(guī)定》的出臺(tái)，是進(jìn)一步提升網(wǎng)絡(luò)綜合治理能力的應(yīng)時(shí)應(yīng)勢(shì)之舉，具有很強(qiáng)的探索性和前瞻性，也標(biāo)志著我國(guó)網(wǎng)絡(luò)空間治理邁入新的發(fā)展階段。但是，算法綜合治理目前仍處于起步階段，在技術(shù)支撐和能力建設(shè)方面有待進(jìn)一步加強(qiáng)。加快推進(jìn)算法綜合治理技術(shù)支撐體系建設(shè)，是切實(shí)保障算法綜合治理工作有力有序推進(jìn)的關(guān)鍵。同時(shí)，算法安全既是國(guó)家重大需求，也是國(guó)際科技前沿，國(guó)家科研機(jī)構(gòu)應(yīng)加大算法安全方面的科技攻關(guān)，建設(shè)算法安全評(píng)估和風(fēng)險(xiǎn)監(jiān)測(cè)的科研創(chuàng)新平臺(tái)，建設(shè)支撐互聯(lián)網(wǎng)信息服務(wù)算法綜合治理的技術(shù)體系。建議加強(qiáng)如下工作：

（一）優(yōu)化算法安全科研布局，構(gòu)建算法治理關(guān)鍵技術(shù)聯(lián)合攻關(guān)體系。圍繞智能算法安全這一重大創(chuàng)新領(lǐng)域，組建國(guó)家重點(diǎn)實(shí)驗(yàn)室，形成引領(lǐng)算法安全基礎(chǔ)研究的戰(zhàn)略力量；充分調(diào)動(dòng)“政產(chǎn)學(xué)研用”各方優(yōu)勢(shì)力量，探索共建新型研發(fā)機(jī)構(gòu)，加大科研攻關(guān)力度，研究算法安全內(nèi)生機(jī)理、算法安全風(fēng)險(xiǎn)評(píng)估、算法全生命周期安全監(jiān)測(cè)等關(guān)鍵技術(shù)問(wèn)題。

（二）完善算法人才隊(duì)伍結(jié)構(gòu)，建立算法安全治理人才隊(duì)伍培養(yǎng)體系。鼓勵(lì)高校設(shè)置并加強(qiáng)算法安全相關(guān)專業(yè)學(xué)科建設(shè)，擴(kuò)大招生和培養(yǎng)規(guī)模，加大算法安全治理基礎(chǔ)人才培養(yǎng)力度;完善算法安全治理領(lǐng)域成果評(píng)價(jià)和人才激勵(lì)機(jī)制，提供良好科研生態(tài)環(huán)境，政策導(dǎo)向與市場(chǎng)優(yōu)化雙管齊下，培養(yǎng)一支高素質(zhì)算法安全人才隊(duì)伍。

（三）加強(qiáng)基礎(chǔ)科研設(shè)施建設(shè)，提升算法自主創(chuàng)新和安全可控能力。建設(shè)算法安全基礎(chǔ)科研設(shè)施，促進(jìn)算法研發(fā)工作，支持算法與社會(huì)、經(jīng)濟(jì)各領(lǐng)域深度結(jié)合。加強(qiáng)知識(shí)產(chǎn)權(quán)保護(hù)，提高自研算法產(chǎn)品的推廣和使用，增強(qiáng)算法核心競(jìng)爭(zhēng)力。推進(jìn)算法安全科學(xué)普及工作，提升企業(yè)和社會(huì)公眾的算法安全風(fēng)險(xiǎn)意識(shí)，引導(dǎo)社會(huì)各界積極參與社會(huì)監(jiān)督，共同推進(jìn)算法綜合治理。（作者：程學(xué)旗，中國(guó)科學(xué)院計(jì)算技術(shù)研究所副所長(zhǎng)）

關(guān)鍵詞： 算法 綜合治理 科研