文：呂倩

來源：第一财經(jīng)

1月4日，我國(guó)算法推薦政策明确落地。網信中國(guó)公衆号公布《互聯網信息服務算法推薦管理規定》（簡稱《規定》），由國(guó)家網信辦、工信部、公安部和市場監管總局等四部門聯合制訂，于2021年11月16日經(jīng)網信辦審議通過(guò)，并經(jīng)工信部等四部委同意後(hòu)公布，將(jiāng)自2022年3月1日起(qǐ)施行。

《規定》要求，算法推薦服務提供者應當向(xiàng)用戶提供不針對(duì)其個人特征的選項，或者向(xiàng)用戶提供便捷的關閉算法推薦服務的選項。用戶選擇關閉算法推薦服務的，算法推薦服務提供者應當立即停止提供相關服務。

多位接受第一财經(jīng)記者采訪的行業人士表示，作爲我國(guó)首部聚焦于算法治理的部門規章，《規定》的落地給到用戶更多自主選擇權，矯正過(guò)去平台商業利益最大化的傾向(xiàng)。其背後(hòu)有對(duì)《反不正當競争法》《數據安全條例》《個人信息保護法》（簡稱《個保法》）《未成(chéng)年人保護法》的延續，也意味著(zhe)2022年，我國(guó)進(jìn)入算法監管元年。

算法監管元年

近年來，算法應用在給政治、經(jīng)濟、社會(huì)發(fā)展注入新動能(néng)的同時，算法歧視、“大數據殺熟”、誘導沉迷等算法不合理應用導緻的問題也深刻影響著(zhe)正常的傳播秩序、市場秩序和社會(huì)秩序，給維護意識形态安全、社會(huì)公平公正和網民合法權益帶來挑戰。在互聯網信息服務領域出台具有針對(duì)性的算法推薦規章制度，是防範化解安全風險的需要，也是促進(jìn)算法推薦服務健康發(fā)展、提升監管能(néng)力水平的需要。

此次《規定》明确，應用算法推薦技術，是指利用生成(chéng)合成(chéng)類、個性化推送類、排序精選類、檢索過(guò)濾類、調度決策類等算法技術向(xiàng)用戶提供信息。深度科技研究院院長(cháng)張孝榮對(duì)第一财經(jīng)記者表示，無論是網站還(hái)是移動APP，都(dōu)屬于算法規定規制範圍。重點來看，受此次《規定》影響較大的包括拼多多與淘寶等 電商類、頭條抖音系的内容類、百度搜索類以及其它行業等。算法規定涵蓋了信息服務規範、用戶權益保護、 監督管理、法律責任等多方面(miàn)内容，對(duì)維護用戶權益保障行業有序發(fā)展起(qǐ)到了積極推動作用。

透鏡公司研究創始人況玉清對(duì)第一财經(jīng)記者表示，《規則》是國(guó)内首個有明确界限和操作指引的算法監管規則。之前行業内雖出過(guò)不得大數據殺熟等規定，但較爲籠統，沒(méi)有明确的監管細則配套。而這(zhè)種(zhǒng)發(fā)展規律在況玉清看來，是大數據行業應用普及到一定程度的必然結果——行業發(fā)展規律便是商業化走在監管之前，任何創新行業皆是如此。

世輝律師事(shì)務所合夥人王新銳將(jiāng)2022年稱爲“算法監管元年”，他稱，無論是中國(guó)的《個人信息保護法》，還(hái)是歐盟的GDPR，均對(duì)自動化決策作出了原則性規定，而類似《電子商務法》《反壟斷法》等法律及配套規則，也對(duì)大數據殺熟、濫用算法排除競争作出了原則性限制。但上述法律規則無論是對(duì)行爲還(hái)是結果進(jìn)行規制，目前都(dōu)非常抽象，操作性不強。

過(guò)去數年，算法技術實際一直應用于商業方面(miàn)，服務于平台方與企業方的利益，甚至持續發(fā)生騎手被(bèi)困算法系統、大數據殺熟、飯圈亂象、信息繭房、用戶隐私洩露等問題。Marteker創始人馮祺對(duì)第一财經(jīng)記者表示，算法作爲技術本身，并未起(qǐ)到真正的“科技向(xiàng)善”作用，甚至對(duì)消費者造成(chéng)騷擾。《規定》的落地本質上來說是一件好(hǎo)事(shì)，讓廣告營銷人“帶著(zhe)鐐铐跳舞”，讓行業從野蠻生長(cháng)到有法可依，讓平台更側重于保護用戶的權益，推出用戶真正需要的内容與服務。

當然，平台需要一定的适應期，馮祺稱，比如通過(guò)聯邦學(xué)習技術多維度參考，從群體中提取共性；另外，通過(guò)内容營銷、KOL營銷、廣告植入等方式，也具備較好(hǎo)的效果。

要推薦，不要霸權

一位長(cháng)期關注互聯網行業的人士對(duì)第一财經(jīng)記者表示，此次監管重點選擇落地在算法層面(miàn)，一大原因在于算法對(duì)應的恰恰是用戶權益——《規定》内容中提到，網信部門會(huì)同電信、公安、市場監管等有關部門建立算法分級分類安全管理制度，同時根據算法推薦服務的輿論屬性或者社會(huì)動員能(néng)力、内容類别、用戶規模、算法推薦技術處理的數據敏感程度以及對(duì)用戶行爲的幹預程度，對(duì)算法推薦服務提供者實行分類分級管理，一定程度上體現了精準治理的立法理念。

這(zhè)其中，該人士稱，“輿論屬性”包含了用戶評論與發(fā)言，“社會(huì)動員能(néng)力”則是指平台所服務的用戶基數。而互聯網營銷區别于常規營銷的最大特點，正是用戶畫像，算法的目的就是找到最精确的衡量标準。

此前行業有“算法沒(méi)有價值觀”的觀點，引發(fā)一番辯論。但随著(zhe)平台規模的擴大，算法價值觀也被(bèi)動附帶上平台的傾向(xiàng)性。“先有傾向(xiàng)性目标，後(hòu)有傾向(xiàng)性算法。向(xiàng)善的服務提供向(xiàng)善的算法，‘不善’的服務提供‘不善’的算法”，上述人士表示。

近年來，以金融行業爲例，爲了獲得平台公司的金融服務，中國(guó)消費者往往需要向(xiàng)其提供個人信息，進(jìn)而産生過(guò)度采集數據的問題，如在2016年至2017年“現金貸”高速增長(cháng)期間，出現買賣借款人信息的情況。

此前在第三屆外灘金融峰會(huì)上，中國(guó)金融四十人論壇資深研究員、清華大學(xué)五道(dào)口金融學(xué)院院長(cháng)張曉慧表示，算法的複雜性以及算法使用者的刻意隐瞞，使得絕大多數人無法理解算法的工作原理，導緻作爲算法使用者的大型科技公司，特别是那些幾乎控股了所有與個人生活行爲相關的數字平台公司得以處于事(shì)實上的支配地位，形成(chéng)“算法霸權”，從而嚴重危害了算法相對(duì)人也就是消費者的合法權益。

貴州數據寶産品研究院院長(cháng)李可順對(duì)記者表示，《規定》的落地，一個比較明顯的影響在于通過(guò)算法高強度曝光某些視頻或商品，讓消費者過(guò)度消費甚至做出錯誤消費決策的行爲得到收斂。而不好(hǎo)的内容或商品將(jiāng)無法獲得算法紅利加成(chéng)，平台非“合規”收入增速將(jiāng)趨緩。

當然，李可順認爲個性化推薦隻是算法推薦的其中一方面(miàn)，從技術角度看，算法分可解釋性強與可解釋性弱兩(liǎng)類，前者的更易于審查，因此現階段實際并沒(méi)有非常完善的算法标準過(guò)渡方案，讓消費者掌握是否個性化推薦的主動權，是解決方案可選項之一。

王新銳表示，算法本身并不是新技術，但因算法應用産生一些社會(huì)問題近幾年日益受到各界關注。《規定》正是回應了這(zhè)些社會(huì)熱點問題，尤其針對(duì)算法歧視、大數據殺熟、誘導沉迷等。相比數據，算法的技術性更強，更不容易被(bèi)描述和感知，因此如何制定和執行規則就更爲困難。

行業“算”什麼(me)？

算法濫用對(duì)行業、對(duì)消費者的負面(miàn)影響早已暗自滋長(cháng)。

此前微博發(fā)布公告稱將(jiāng)加大力度處理熱搜榜熱門話題榜刷榜行爲，對(duì)刷榜行爲的直接受益者進(jìn)行處罰。爲的是确保熱搜榜、熱門話題榜的真實可信，不斷對(duì)産品本身進(jìn)行算法升級，并設置了以大數據識别爲基礎的防刷體系。對(duì)于存在作弊特征的行爲，系統都(dōu)會(huì)實時進(jìn)行識别和攔截。

但據記者從娛樂行業以及接近微博方面(miàn)人士了解到，微博外有大批供應商企業，可以通過(guò)小号刷贊等方式，進(jìn)行輿論引導。

當時微博調整的核心便是引入編輯人工幹預的模式，將(jiāng)算法挖掘作爲基礎，在排序和選擇上放棄純粹算法的方式，引入編輯對(duì)違反有關法律法規的内容、社會(huì)負能(néng)量的信息、過(guò)度娛樂化的信息進(jìn)行人工幹預。

微博之外，電商與短視頻行業也在算法監管逐漸落地期間進(jìn)行自我調整。2021年10月，天貓、京東在發(fā)貨環節上對(duì)消費者訂單中涉及個人的敏感信息進(jìn)行加密處理，軟件服務商與商家從淘寶開(kāi)發(fā)平台或訂單推動服務中已無法獲得收件人隐私信息。

《數據安全條例》出台後(hòu)，微信更新《隐私保護指引》，添加“視頻号、公衆号、看一看、搜一搜個性化推薦或展示機制”，增加個性化自主控制路徑。包括抖音、快手、今日頭條、B站、小紅書等平台均在2021年11月初完成(chéng)針對(duì)隐私政策的更新。記者體驗發(fā)現，抖音與快手均將(jiāng)個性化廣告選擇按鍵設置在明顯位置。

聚焦于算法政策主要影響到的短視頻與電商行業，李可順對(duì)第一财經(jīng)記者表示，在短視頻等場景，算法會(huì)偏向(xiàng)于大V賬号，而非優質内容小号，形成(chéng)平台内的流量壟斷行爲，而這(zhè)將(jiāng)直接影響用戶對(duì)于信息的公平獲取及知情權。

同時，平台的流量也會(huì)偏向(xiàng)于部分頭部電商号，這(zhè)些賬戶商家的産品未必優質，但在内容算法的不斷轟炸下，用戶易受引導、進(jìn)而做出異常的購買行爲，甚至形成(chéng)了普遍的沖動消費。

中國(guó)電子技術标準化研究院信息安全研究中心審查部總監何延哲對(duì)第一财經(jīng)記者表示，短視頻根據用戶喜好(hǎo)數據進(jìn)行信息推送，便需要對(duì)推送内容進(jìn)行評估，是否會(huì)導緻真正的沉迷。何延哲認爲，現在到了對(duì)短視頻信息推送踩刹車的時間，預防信息繭房效應過(guò)重，爲消費者的選擇權更換更大的空間，對(duì)算法透明度與用戶選擇權進(jìn)行引導。

何延哲稱，此前各平台已根據《個保法》對(duì)個性化推薦功能(néng)進(jìn)行修正，結合當下的《規定》，平台需要給到用戶更多的選擇權，過(guò)去的推薦個性化往往是商業利益最大化，而非真正的站到用戶角度爲其提供個性化的高質量的推送服務。

此次《規定》明确了算法推薦服務提供者的用戶權益保護要求，包括保障算法知情權，要求告知用戶其提供算法推薦服務的情況，并公示服務的基本原理、目的意圖和主要運行機制等；保障算法選擇權，應當向(xiàng)用戶提供不針對(duì)其個人特征的選項，或者便捷的關閉算法推薦服務的選項。對(duì)向(xiàng)未成(chéng)年人、老年人、勞動者和消費者等主體提供算法推薦服務的，《規定》要求不得利用算法推薦服務誘導未成(chéng)年人沉迷網絡，應當便利老年人安全使用算法推薦服務。

隻是，面(miàn)對(duì)算法，個體如何進(jìn)行監督和舉證，還(hái)顯得勢單力薄，寄希望于行業自身的完善也略顯。