不想再被怎么關(guān)也關(guān)不掉的APP彈窗廣告困擾?不愿再在朋友圈看到自動(dòng)推送的購(gòu)物鏈接?厭倦了在手機(jī)上反復(fù)收到大量、類似題材的新聞消息?近日，國(guó)家網(wǎng)信辦發(fā)布了《互聯(lián)網(wǎng)信息服務(wù)算法推薦管理規(guī)定(征求意見稿)》(以下簡(jiǎn)稱為《意見稿》)，劍指算法治理痛點(diǎn)。不少人歡呼，終于看到了擺脫被算法推薦“綁架”的曙光。
算法推薦褒貶不一
據(jù)不完全統(tǒng)計(jì)，基于算法的個(gè)性化內(nèi)容推送已超過整個(gè)互聯(lián)網(wǎng)信息內(nèi)容分發(fā)的70%。推薦算法已經(jīng)在不知不覺中融入了我們工作、生活的方方面面。然而，業(yè)界對(duì)推薦算法的評(píng)論始終褒貶不一。
一方面，進(jìn)入數(shù)字時(shí)代，算法成為挖掘數(shù)據(jù)價(jià)值的重要手段。其核心價(jià)值是把“人找信息”轉(zhuǎn)變?yōu)?ldquo;信息找人”，高效完成人與信息的匹配。算法越精準(zhǔn)，平臺(tái)對(duì)用戶行為習(xí)慣、興趣喜好的了解越深入，分發(fā)的內(nèi)容也就越符合用戶需求;而對(duì)于平臺(tái)而言，通過這種“投其所好”的方式也可以快速獲取商業(yè)價(jià)值，實(shí)現(xiàn)“雙贏”。也正因如此，推薦算法成為了主流的內(nèi)容分發(fā)方式，也是各大平臺(tái)的“技術(shù)標(biāo)配”。
另一方面，算法的重要特征是程序化和量化，從技術(shù)角度看是用一套分析數(shù)據(jù)和處理問題的程序指令或量化決策系統(tǒng)，來協(xié)助用戶準(zhǔn)確、快捷地尋找問題的解決方案，其背后往往隱含著程序設(shè)計(jì)者的某種“期望”。大量碎片化、快餐化、圈層化的信息流涌入，會(huì)使人逐漸喪失主動(dòng)、獨(dú)立思考的能力，迷失于“信息繭房”之中，并引發(fā)信息暴食、情緒傳染、視野局限、大數(shù)據(jù)殺熟、隱私風(fēng)險(xiǎn)等諸多問題。
有業(yè)界人士曾表示：“算法容易讓人去走極端，會(huì)把人搞得非常分裂。”不過，賽迪顧問大數(shù)據(jù)產(chǎn)業(yè)研究中心高級(jí)分析師姚學(xué)超對(duì)《中國(guó)電子報(bào)》記者表示：“實(shí)際上，算法本身是中立的科學(xué)計(jì)算模型，并無善惡之分。”真正的問題在于如何把握好其中的“度”，找出算法使用與用戶權(quán)利保障之間那個(gè)微妙的平衡點(diǎn)。
要讓算法真正得其所用、用得其所，治理非常關(guān)鍵。“算法治理的難點(diǎn)在于如何平衡自動(dòng)化與人工干預(yù)之間的關(guān)系。”安恒信息首席科學(xué)家、高級(jí)副總裁劉博在接受《中國(guó)電子報(bào)》記者采訪時(shí)指出?！兑庖姼濉返耐瞥稣菫榱颂剿魉惴ㄖ卫砺窂?，推動(dòng)互聯(lián)網(wǎng)信息服務(wù)行業(yè)健康、有序發(fā)展。
保護(hù)用戶合法權(quán)益
此次發(fā)布的《意見稿》中明確提出，算法推薦服務(wù)提供者應(yīng)當(dāng)向用戶提供不針對(duì)其個(gè)人特征的選項(xiàng)，或者向用戶提供便捷的關(guān)閉算法推薦服務(wù)的選項(xiàng);不得實(shí)施流量造假、控制熱搜等影響網(wǎng)絡(luò)輿論;外賣及網(wǎng)約車平臺(tái)對(duì)勞動(dòng)者、消費(fèi)者的雙重算法需規(guī)范，保證勞動(dòng)者算法的公正透明;抵制算法對(duì)消費(fèi)者“大數(shù)據(jù)殺熟”等相關(guān)管理規(guī)定，為解決當(dāng)下廣受社會(huì)公眾矚目的焦點(diǎn)問題提供了指導(dǎo)意見。
“《意見稿》極大地提升了用戶對(duì)互聯(lián)網(wǎng)內(nèi)容的自主選擇權(quán)利，也會(huì)在一定程度上降低平臺(tái)對(duì)用戶精準(zhǔn)廣告、精準(zhǔn)營(yíng)銷的既得利益。”劉博表示，“這將對(duì)于依據(jù)算法提供服務(wù)作為商業(yè)模式的公司產(chǎn)生巨大影響。”
他認(rèn)為，將算法服務(wù)作為核心商業(yè)模式的平臺(tái)將受到強(qiáng)監(jiān)管。同時(shí)，有輿論屬性和社會(huì)動(dòng)員能力的算法推薦服務(wù)商也是重點(diǎn)監(jiān)管對(duì)象，比如算法推薦新聞?lì)怉PP、短視頻平臺(tái)等。此外，電商和向勞動(dòng)者提供工作調(diào)度服務(wù)的平臺(tái)類算法推薦服務(wù)提供者同樣會(huì)受到監(jiān)管，比如打車、外賣平臺(tái)等。
上海財(cái)經(jīng)大學(xué)商學(xué)院數(shù)字經(jīng)濟(jì)研究中心主任鐘鴻鈞同樣認(rèn)為，《意見稿》的出臺(tái)，將對(duì)互聯(lián)網(wǎng)數(shù)字經(jīng)濟(jì)的商業(yè)模式產(chǎn)生較大影響。“互聯(lián)網(wǎng)平臺(tái)基于用戶數(shù)據(jù)的‘野蠻生長(zhǎng)’紅利期已經(jīng)過去了，需要在更加合規(guī)的環(huán)境下，進(jìn)行調(diào)整和反思。”
姚學(xué)超指出：“對(duì)算法推薦服務(wù)提供者而言，《意見稿》明確提出了30項(xiàng)‘應(yīng)當(dāng)如何做’和11項(xiàng)‘不得做什么’的具體要求，細(xì)化了算法推薦服務(wù)提供者的行為邊界、底線和紅線，將塑造算法需向善的主流價(jià)值觀。對(duì)用戶而言，該意見稿將有效規(guī)范互聯(lián)網(wǎng)企業(yè)應(yīng)用算法的行為，有利于用戶避免長(zhǎng)期沉迷于某些推薦內(nèi)容，也為用戶合法權(quán)益保護(hù)提供了可靠的制度保障。”
盡管《規(guī)定》還處于征求意見的階段，具體的施行日期還未確定，但可以預(yù)見的是，隨著國(guó)家監(jiān)管趨嚴(yán)，網(wǎng)絡(luò)環(huán)境很快將迎來新一輪“凈化”。值得關(guān)注的是，據(jù)字節(jié)跳動(dòng)相關(guān)負(fù)責(zé)人透露，《意見稿》發(fā)布后，抖音和今日頭條已進(jìn)行系統(tǒng)升級(jí)，為用戶明確提供了個(gè)性化推送的關(guān)閉選擇。后續(xù)，字節(jié)跳動(dòng)將不斷優(yōu)化產(chǎn)品功能，提高用戶信息保護(hù)水平。
把好算法推薦的“方向盤”
當(dāng)前，算法推薦服務(wù)已經(jīng)構(gòu)建起一條完整的服務(wù)鏈，包括內(nèi)容生產(chǎn)、數(shù)據(jù)采集分析、平臺(tái)推薦及服務(wù)反饋等。有觀點(diǎn)認(rèn)為，此次《意見稿》是從推薦形式和服務(wù)終端即用戶層面出發(fā)，去打破算法推薦“圍城”，但這還不夠。下一步，仍需進(jìn)一步細(xì)化相關(guān)管理制度，把好算法服務(wù)的“方向盤”。
一方面，算法推薦應(yīng)轉(zhuǎn)變?cè)O(shè)計(jì)思路，從“平臺(tái)主導(dǎo)”轉(zhuǎn)變?yōu)?ldquo;用戶選擇”模式。多位業(yè)內(nèi)專家指出，以技術(shù)制約技術(shù)、以平臺(tái)限制平臺(tái)，應(yīng)成為保護(hù)用戶利益的思路。應(yīng)當(dāng)鼓勵(lì)第三方機(jī)構(gòu)通過數(shù)據(jù)技術(shù)測(cè)評(píng)各大平臺(tái)的算法推薦，彌補(bǔ)用戶的技術(shù)缺陷。姚學(xué)超也談到：“作為擁有海量用戶數(shù)據(jù)和強(qiáng)大算法能力的互聯(lián)網(wǎng)巨頭，除了利用算法和數(shù)據(jù)進(jìn)行商業(yè)變現(xiàn)，更應(yīng)該利用算法和數(shù)據(jù)進(jìn)行科技創(chuàng)新。”
另一方面，應(yīng)該從算法提供、使用、監(jiān)督三個(gè)方面全面推動(dòng)行業(yè)健康發(fā)展，為互聯(lián)網(wǎng)信息服務(wù)營(yíng)造良好的氛圍。劉博指出：“算法推薦服務(wù)提供者應(yīng)當(dāng)配合有關(guān)主管部門依法實(shí)施安全評(píng)估和監(jiān)督檢查工作，并提供必要的技術(shù)、數(shù)據(jù)等支持和協(xié)助。同時(shí)，應(yīng)當(dāng)落實(shí)算法安全主體責(zé)任，定期審核、評(píng)估、驗(yàn)證算法機(jī)制機(jī)理、模型、數(shù)據(jù)和應(yīng)用結(jié)果，加強(qiáng)信息內(nèi)容管理，建立健全用于識(shí)別違法和不良信息的特征庫(kù)，加強(qiáng)算法推薦服務(wù)版面頁(yè)面生態(tài)管理;用戶應(yīng)該積極通過投訴渠道和制度，投訴舉報(bào)違法行為，切實(shí)保障自身合法權(quán)益;相關(guān)行業(yè)組織應(yīng)加強(qiáng)行業(yè)自律，建立健全自律制度和行業(yè)準(zhǔn)則，組織制定行業(yè)標(biāo)準(zhǔn)，督促指導(dǎo)算法推薦服務(wù)提供者建立健全服務(wù)規(guī)范、依法提供服務(wù)并接受社會(huì)監(jiān)督。”(記者 宋婧)
