近年來,算法濫用事件頻發(fā),這些事件不斷提醒我們:打開“算法黑箱”已成為數字時代必須面對的核心議題。
算法濫用的社會危害性不容小覷。首先,用戶自主選擇接收的信息范圍被無形限制。算法根據用戶歷史行為構建偏好模型,不斷強化同類內容推送,形成“信息繭房”。人們被困在自我重復的信息回音壁中,逐漸失去接觸多元觀點、挑戰(zhàn)自我認知的機會,社會共識的基礎被悄然侵蝕。這也是當下網絡戾氣激增、群體情緒激化突出的成因之一。其次,用戶可能因算法濫用而遭受消費者權益損害?!扒饲妗钡亩▋r策略讓老用戶看到更高價格,“精準營銷”跨越隱私邊界,用戶在不自知中成為“被算計的對象”。更值得警惕的是,算法濫用可能助長網絡謠言、網絡暴力等不良信息的傳播。為追求用戶停留時長,算法往往優(yōu)先推送煽動性、情緒化內容,使理性聲音被淹沒,情緒變得極端化,甚至引發(fā)線下事件。
治理算法濫用的核心在于“打開黑箱”,實現算法透明。《互聯網信息服務算法推薦管理規(guī)定》所要求的平臺公示算法推薦服務的基本原理、目的意圖和主要運行機制,正是這一理念的重要實踐。但需要明確的是,算法透明并非要求公開商業(yè)秘密或核心技術細節(jié),而是揭示算法服務的基本規(guī)則和對用戶權益的影響方式。就像我們不需要了解發(fā)動機的制造原理,但有權知道汽車的安全性能和油耗標準一樣,用戶有權知曉算法如何影響他們的信息環(huán)境和決策選擇。這種有限度的透明,既保護了企業(yè)的創(chuàng)新動力,又保障了用戶的基本知情權和選擇權,讓用戶真正有能力自由挑選自己想要了解或喜歡的網絡信息。
當然,治理算法濫用需要多方協同發(fā)力。其一,網絡平臺應當以清晰易懂的方式說明算法服務對用戶權益的影響,提供必要的關閉或調整選項。特別是對于老年人等特殊群體,要結合老年人經常面臨的實際問題,適當增加諸如反電信網絡詐騙、反偽科普等內容的推送比例。其二,監(jiān)管機構需實施常態(tài)化監(jiān)管,督促平臺持續(xù)優(yōu)化內部算法安全管理機制和算法技術應用提示說明機制,確保平臺以簡明扼要、清晰易懂的方式公開算法推薦服務的基本情況。其三,社會公眾也需要積極參與治理活動,提升信息素養(yǎng),培養(yǎng)數字時代的批判性思維,主動尋求多元信息源,共同構建健康透明、向上向善的網絡信息生態(tài)。
值得注意的是,打開“算法黑箱”存在一定技術門檻。算法公示機制的根本目的是實現個體權益受算法技術應用影響方式的“可視化”,所以,公示范圍、公示頻率應當圍繞該目的而合理設置,而非以“信息傾瀉”的方式讓公眾無從知曉算法技術應用對自身權益究竟有何影響。
進一步而言,平臺算法公示信息更適宜與普法信息同步呈現,避免一般社會公眾誤認為算法技術應用對自身權益存在影響就等于“重大威脅”,借由普法信息打消公眾不必要的擔憂,幫助公眾在準確知曉權益影響程度、方式的基礎上,自主選擇相應的服務選項。
歸根結底,算法原理公示從來都不是減損企業(yè)市場競爭技術優(yōu)勢地位的強制性規(guī)范,而是為了引導信息服務行業(yè)提供更優(yōu)質的信息服務、形成更健康的行業(yè)慣例。
在實踐中,開設“平臺算法原理公示”專欄、公開算法推薦服務權益影響說明、用戶代表參與算法設計、第三方算法安全審計等方式,不僅是數字時代算法技術應用監(jiān)管的創(chuàng)新嘗試,更是數字時代技術安全治理理念的重要進步。陽光是最好的消毒劑,只有讓算法運行在陽光下,才能打破信息繭房的桎梏,構建真正開放、包容、健康的數字空間。
(趙精武 北京航空航天大學法學院副教授)