隨著網(wǎng)絡(luò)技術(shù)快速發(fā)展，算法應(yīng)用日漸廣泛。與此同時(shí)，有的互聯(lián)網(wǎng)服務(wù)平臺(tái)濫用算法，可能造成的“信息繭房”“大數(shù)據(jù)殺熟”“誘導(dǎo)沉迷”等問(wèn)題也日益受到社會(huì)關(guān)注。不久前，《互聯(lián)網(wǎng)信息服務(wù)算法推薦管理規(guī)定》正式施行；4月8日起，中央網(wǎng)信辦牽頭開(kāi)展“清朗·2022年算法綜合治理”專項(xiàng)行動(dòng)……過(guò)去一個(gè)時(shí)期，監(jiān)管部門主動(dòng)作為，全社會(huì)共同發(fā)力，算法亂象得到有效整治，算法應(yīng)用日益朝著向上向善的軌道發(fā)展。隨著網(wǎng)絡(luò)技術(shù)快速發(fā)展，算法應(yīng)用日漸廣泛。與此同時(shí)，有的互聯(lián)網(wǎng)服務(wù)平臺(tái)濫用算法，可能造成的“信息繭房”“大數(shù)據(jù)殺熟”“誘導(dǎo)沉迷”等問(wèn)題也日益受到社會(huì)關(guān)注。不久前，《互聯(lián)網(wǎng)信息服務(wù)算法推薦管理規(guī)定》正式施行；4月8日起，中央網(wǎng)信辦牽頭開(kāi)展“清朗·2022年算法綜合治理”專項(xiàng)行動(dòng)……過(guò)去一個(gè)時(shí)期，監(jiān)管部門主動(dòng)作為，全社會(huì)共同發(fā)力，算法亂象得到有效整治，算法應(yīng)用日益朝著向上向善的軌道發(fā)展。
算法濫用，對(duì)公眾產(chǎn)生不利影響
李明（化名）下載了一個(gè)以“知識(shí)分享”為主題的APP。打開(kāi)后，一篇標(biāo)記著“您可能感興趣”的文章被推送至界面。
“這不恰好是我最關(guān)注的話題嗎？”李明點(diǎn)進(jìn)去一看，文章的觀點(diǎn)“恰好”與自己的十分一致，讓李明感覺(jué)“有理有據(jù)，令人信服”。李明看完一篇，系統(tǒng)又推薦了另一篇他感興趣的文章。不知不覺(jué)，李明竟在該APP上一連“刷”了幾個(gè)小時(shí)。“這就是算法推薦的作用。”某公司軟件工程師黃淑介紹，平臺(tái)會(huì)抓取用戶觀看某話題總體評(píng)價(jià)的停留時(shí)間、留言時(shí)是正面還是負(fù)面傾向、“點(diǎn)贊”還是“反對(duì)”等信息來(lái)判定用戶的內(nèi)容偏好。此后，平臺(tái)還會(huì)利用算法依據(jù)“內(nèi)容相似度”和“用戶相似度”，把你最可能感興趣的內(nèi)容推薦給你。那么算法推薦的大規(guī)模使用，是否會(huì)對(duì)公眾產(chǎn)生不利影響？“算法推薦的個(gè)性化分發(fā)技術(shù)，較多地依賴總體熱度、個(gè)體興趣等數(shù)據(jù)?！睆?fù)旦大學(xué)新聞學(xué)院副院長(zhǎng)、教授周葆華介紹，目前對(duì)算法推薦的擔(dān)憂主要在于：一方面平臺(tái)追求更大傳播熱度，形成對(duì)內(nèi)容價(jià)值觀的忽視，如推薦低俗內(nèi)容；另一方面基于對(duì)個(gè)性化興趣和朋友關(guān)系的計(jì)算，信息推送與觀點(diǎn)供給可能形成“回音室”效應(yīng)，從而讓用戶深陷“信息繭房”中。胡女士通過(guò)某APP向某酒店預(yù)訂一個(gè)房間，支付價(jià)格近3000元?？扇胱『蟛虐l(fā)現(xiàn)，該房型的實(shí)際掛牌價(jià)僅1000多元。作為該平臺(tái)“鉆石貴賓客戶”，胡女士非但沒(méi)有享受到會(huì)員優(yōu)惠，還支付了高于實(shí)際產(chǎn)品價(jià)格的費(fèi)用。胡女士認(rèn)為自己遭遇了“大數(shù)據(jù)殺熟”。她懷疑平臺(tái)利用算法進(jìn)行用戶“畫(huà)像”，根據(jù)自己對(duì)價(jià)格不敏感、不索要發(fā)票等消費(fèi)習(xí)慣，抬高價(jià)格，欺詐銷售，遂將該平臺(tái)公司訴至法院。據(jù)介紹，利用算法進(jìn)行“大數(shù)據(jù)殺熟”的情形現(xiàn)實(shí)中不少見(jiàn)。例如購(gòu)買同一班飛機(jī)票，自己花了上千元，別人同時(shí)購(gòu)買卻只花了幾百元，這可能只是因?yàn)槟阋呀?jīng)是平臺(tái)“熟客”，不再需要低價(jià)吸引等。此外，算法推薦還存在諸多其他問(wèn)題。一些外賣等服務(wù)平臺(tái)采用調(diào)度決策類算法進(jìn)行工作調(diào)度時(shí)，過(guò)度追求工作效率和強(qiáng)度，按照最短可能用時(shí)設(shè)置配送員的配送時(shí)限，讓“外賣小哥”為了按時(shí)送達(dá)而不得不超速、逆行等；有些平臺(tái)還存在偏見(jiàn)歧視問(wèn)題，將違法和不良信息關(guān)鍵詞記入用戶興趣點(diǎn)；某些應(yīng)用程序設(shè)置算法未經(jīng)允許抓取用戶個(gè)人信息……“有效治理算法亂象，是構(gòu)建安全清朗的網(wǎng)絡(luò)生態(tài)的必然要求?！敝袊?guó)政法大學(xué)副教授鄭玉雙表示，要健全算法的法律規(guī)制模式，破解算法的法律規(guī)制難題，實(shí)現(xiàn)算法善治。
建章立制，為算法立規(guī)矩樹(shù)導(dǎo)向
不久前，胡女士“大數(shù)據(jù)殺熟”一案終審判決。兩審法院均認(rèn)為，平臺(tái)公司未依法告知關(guān)系訂單交易的真實(shí)信息，怠于對(duì)平臺(tái)內(nèi)經(jīng)營(yíng)者進(jìn)行有效監(jiān)管，構(gòu)成欺詐，遂判定該平臺(tái)公司退還胡女士訂房差價(jià)并支付賠償金。但是，法院并未對(duì)平臺(tái)公司是否構(gòu)成“大數(shù)據(jù)殺熟”予以認(rèn)定。
“利用算法針對(duì)不同消費(fèi)者設(shè)置不同價(jià)格的行為是否違法，有時(shí)難以判斷?！敝袊?guó)法學(xué)會(huì)法治研究所研究員劉金瑞認(rèn)為，出現(xiàn)這種現(xiàn)象，主要是因?yàn)榇饲胺煞ㄒ?guī)對(duì)于算法亂象的規(guī)制比較零散，有的規(guī)定針對(duì)性不強(qiáng)。社會(huì)有期待，立法機(jī)關(guān)及時(shí)作出回應(yīng)。個(gè)人信息是實(shí)現(xiàn)算法推薦的基礎(chǔ)。2021年11月1日，個(gè)人信息保護(hù)法實(shí)施。其中“大數(shù)據(jù)殺熟”等問(wèn)題一時(shí)成為人們關(guān)注的熱點(diǎn)。個(gè)人信息保護(hù)法明確規(guī)定：個(gè)人信息處理者利用個(gè)人信息進(jìn)行自動(dòng)化決策，應(yīng)當(dāng)保證決策的透明度和結(jié)果公平、公正，不得對(duì)個(gè)人在交易價(jià)格等交易條件上實(shí)行不合理的差別待遇。“個(gè)人信息保護(hù)法等法律實(shí)現(xiàn)了對(duì)‘大數(shù)據(jù)殺熟’等算法濫用現(xiàn)象的限制，但目前各類算法亂象仍需一部專門、完整、系統(tǒng)的法規(guī)來(lái)進(jìn)行全面規(guī)制。”中國(guó)傳媒大學(xué)文化產(chǎn)業(yè)管理學(xué)院教授劉文杰說(shuō)，從全過(guò)程完善算法推薦的有關(guān)規(guī)范，是從根本上加強(qiáng)算法規(guī)制的客觀要求。今年3月1日，由國(guó)家互聯(lián)網(wǎng)信息辦公室、工業(yè)和信息化部、公安部、國(guó)家市場(chǎng)監(jiān)督管理總局聯(lián)合發(fā)布的《互聯(lián)網(wǎng)信息服務(wù)算法推薦管理規(guī)定》（以下簡(jiǎn)稱《規(guī)定》）施行。這是第一部從全過(guò)程完整規(guī)范算法推薦的部門規(guī)章。其中明確了算法知情權(quán)、算法選擇權(quán)等對(duì)算法推薦服務(wù)提供者的用戶權(quán)益保護(hù)要求，對(duì)社會(huì)關(guān)注的“大數(shù)據(jù)殺熟”“引誘沉迷”“引導(dǎo)輿論”“特殊群體保護(hù)”等熱點(diǎn)問(wèn)題，都做出了針對(duì)性規(guī)范。“《規(guī)定》是第一部系統(tǒng)、全面以算法為調(diào)整對(duì)象的規(guī)范性法律文件。從體系性、規(guī)制工具箱的豐富性、調(diào)整算法的多樣性、對(duì)用戶權(quán)益保護(hù)的周全性等多個(gè)層面來(lái)說(shuō)，《規(guī)定》都具有開(kāi)創(chuàng)性意義。”中國(guó)政法大學(xué)教授張凌寒表示。“《規(guī)定》與個(gè)人信息保護(hù)法、電子商務(wù)法、數(shù)據(jù)安全法等法律相銜接，再配合近年來(lái)頒布的關(guān)于平臺(tái)經(jīng)濟(jì)領(lǐng)域的反壟斷指南、在線旅游經(jīng)營(yíng)服務(wù)管理暫行規(guī)定等規(guī)范性文件，規(guī)制算法亂象有了較為完備的制度體系?！敝袊?guó)信息通信研究院互聯(lián)網(wǎng)法律研究中心高級(jí)研究員楊婕說(shuō)。
多元共治，引導(dǎo)算法向上向善
算法廣泛而深入地應(yīng)用于互聯(lián)網(wǎng)，因此，算法治理絕不是憑一家之力就能實(shí)現(xiàn)的，必須全社會(huì)攜手，建立多元共治的局面。
監(jiān)管部門及時(shí)有效的政策舉措，是規(guī)制算法亂象的有力武器。2022年3月1日起，互聯(lián)網(wǎng)信息服務(wù)算法備案系統(tǒng)正式上線運(yùn)行。根據(jù)相關(guān)要求，具有輿論屬性或者社會(huì)動(dòng)員能力的算法推薦服務(wù)提供者應(yīng)當(dāng)在提供服務(wù)之日起10個(gè)工作日內(nèi)填報(bào)服務(wù)提供者的名稱、服務(wù)形式、應(yīng)用領(lǐng)域、算法類型、算法自評(píng)估報(bào)告等信息。4月8日起，中央網(wǎng)信辦牽頭開(kāi)展“清朗·2022年算法綜合治理”專項(xiàng)行動(dòng)，深入排查整改互聯(lián)網(wǎng)企業(yè)平臺(tái)算法安全問(wèn)題，重點(diǎn)檢查具有較強(qiáng)輿論屬性或社會(huì)動(dòng)員能力的大型網(wǎng)站、平臺(tái)及產(chǎn)品等。在算法治理過(guò)程中，司法發(fā)揮著引導(dǎo)行為、明確底線、穩(wěn)定預(yù)期的重要作用。前不久，一影視公司發(fā)現(xiàn)某視頻平臺(tái)在無(wú)授權(quán)的情況下，播放其享有完整著作權(quán)的電影，認(rèn)為該平臺(tái)構(gòu)成侵權(quán)，遂將其訴至法院。該視頻平臺(tái)公司辯稱，電影是平臺(tái)用戶自行上傳的，其推薦行為系平臺(tái)自帶的算法推薦所致，并沒(méi)有侵權(quán)的意圖。法院經(jīng)審理認(rèn)為，該視頻平臺(tái)公司的上述算法推薦行為，實(shí)際上是向用戶提供了信息流推薦服務(wù)，存在提高侵權(quán)傳播效率、擴(kuò)大侵權(quán)傳播范圍的風(fēng)險(xiǎn)，同時(shí)也為其自身獲得了更多的流量等利益，其理應(yīng)對(duì)用戶的侵權(quán)行為負(fù)有更高的注意義務(wù)。“近年來(lái)，數(shù)起涉及算法推薦的司法案件引起社會(huì)關(guān)注，相關(guān)判決起到了為算法應(yīng)用立規(guī)矩、樹(shù)導(dǎo)向的作用?！蔽髂险ù髮W(xué)副教授易健雄說(shuō)。此外，平臺(tái)企業(yè)的行業(yè)自律也必不可少。2021年10月22日，深圳市APP個(gè)人信息共護(hù)大會(huì)舉行。20余家重點(diǎn)APP運(yùn)營(yíng)企業(yè)簽署《深圳市APP個(gè)人信息保護(hù)自律承諾書(shū)》，承諾將保護(hù)用戶公平交易權(quán)，不利用大數(shù)據(jù)“殺熟”；未經(jīng)用戶單獨(dú)同意，不利用敏感個(gè)人信息進(jìn)行線上精準(zhǔn)營(yíng)銷和線下推銷等。此前，國(guó)內(nèi)10家互聯(lián)網(wǎng)平臺(tái)企業(yè)也簽署承諾書(shū)，承諾不非法收集、使用消費(fèi)者個(gè)人信息，不利用數(shù)據(jù)優(yōu)勢(shì)“殺熟”。此外，越來(lái)越多的網(wǎng)絡(luò)平臺(tái)也在積極主動(dòng)地對(duì)算法“激濁揚(yáng)清”。例如，某信息聚合平臺(tái)日前介紹，其為了幫助用戶避免越推越窄的“繭房效應(yīng)”，不斷優(yōu)化推薦機(jī)制、提高內(nèi)容推薦的多樣性，擴(kuò)大信息覆蓋面；某外賣平臺(tái)也優(yōu)化派單算法，充分考慮配送員實(shí)際工作環(huán)境，避免其承受過(guò)重工作負(fù)擔(dān)，維護(hù)勞動(dòng)者合法權(quán)益。
建章立制，強(qiáng)化監(jiān)管，鼓勵(lì)自律……運(yùn)用法治方法規(guī)范算法應(yīng)用，引導(dǎo)算法向上向善，才能最大化促進(jìn)社會(huì)公共利益，共同營(yíng)造清朗安全的網(wǎng)絡(luò)空間。
來(lái)自：網(wǎng)信托克遜
（部分文字、圖片來(lái)自網(wǎng)絡(luò)，如涉及侵權(quán)，請(qǐng)及時(shí)與我們聯(lián)系，我們會(huì)在第一時(shí)間刪除或處理侵權(quán)內(nèi)容。電話：4006770986郵箱：zhangming@eefung.com負(fù)責(zé)人：張明）
