如今一提到“算法”，似乎很難避開“黑箱”“歧視”等負(fù)面詞匯。但與此同時，算法的普遍應(yīng)用對提升生產(chǎn)效率和社會福利的貢獻(xiàn)有目共睹。為探究用戶對算法的態(tài)度，近日，對外經(jīng)濟(jì)貿(mào)易大學(xué)數(shù)字經(jīng)濟(jì)與法律創(chuàng)新研究中心、中國人民大學(xué)數(shù)字經(jīng)濟(jì)研究中心和螞蟻研究院共同發(fā)布《算法應(yīng)用的用戶感知調(diào)查與分析報告》(下稱《報告》)。

《報告》顯示，雖然超八成受訪者希望企業(yè)提供個性化推薦服務(wù)，但是超半數(shù)受訪者對企業(yè)是否使用算法不清楚，六成不了解企業(yè)使用算法的內(nèi)容和目的。另外，近八成受訪者認(rèn)為算法應(yīng)用可能損害消費(fèi)者權(quán)益，超六成認(rèn)為會侵犯隱私。

超八成受訪者接受精準(zhǔn)推送，同時近八成“不信任”算法

據(jù)了解，課題組在線上多個渠道發(fā)放問卷，調(diào)查時間為2021年12月中旬，收到有效問卷6941份。受訪者男女比例約為2:1，93%受訪者的年齡在18-60歲之間，90%左右年收入在20萬元以下。

網(wǎng)絡(luò)空間中的算法，一般特別指通過代碼設(shè)置、數(shù)據(jù)運(yùn)算與機(jī)器自動化判斷進(jìn)行的計(jì)算機(jī)算法，通常被用于基于用戶畫像的廣告或商品推薦，以改善用戶體驗(yàn)，或被用于語音助手、智能輸入的數(shù)據(jù)訓(xùn)練，以增強(qiáng)服務(wù)的準(zhǔn)確性等場景。

不過，當(dāng)算法被不當(dāng)使用，可能會損害用戶的合法權(quán)益。今年3月起施行的《互聯(lián)網(wǎng)信息服務(wù)算法推薦管理規(guī)定》(下稱《規(guī)定》)明確，算法推薦服務(wù)提供者應(yīng)當(dāng)以顯著方式告知用戶其提供算法推薦服務(wù)的情況，并以適當(dāng)方式公示算法推薦服務(wù)的基本原理、目的意圖和主要運(yùn)行機(jī)制等。

《報告》顯示，超半數(shù)受訪者對企業(yè)是否使用算法不清楚，六成受訪者不了解企業(yè)使用算法的內(nèi)容和目的。同時，只有7.22%的受訪者認(rèn)為企業(yè)不需要對算法進(jìn)行解釋，54.28%認(rèn)為企業(yè)需要對用戶詳盡解釋算法，38.49%認(rèn)為簡單解釋即可。對算法結(jié)果有異議時，大多數(shù)(76.48%)受訪者希望人工介入。

對算法和人工的信任度

此外，受訪者對算法表現(xiàn)出普遍的“不信任”——近八成受訪者認(rèn)為算法應(yīng)用存在損害消費(fèi)者權(quán)益的可能性：20.28%認(rèn)為風(fēng)險很高，近60%認(rèn)為存在一定風(fēng)險，只有不到5%認(rèn)為不存在風(fēng)險。受訪者中，超過六成認(rèn)為個性化推薦會侵犯隱私。

用戶的算法風(fēng)險感知情況

盡管大多數(shù)受訪者對算法的內(nèi)容和目的并不了解，也明顯表現(xiàn)出對算法的不信任，調(diào)查結(jié)果仍顯示，絕大多數(shù)受訪者享受算法帶來的便利和優(yōu)惠。

具體來說，超八成受訪者希望有個性化推薦，但其中只有25.71%希望接收“千人千面”的精準(zhǔn)推送，剩下55.43%不希望達(dá)到這么高的精準(zhǔn)度，只需大致分類后推送。

對推薦算法的接受度

根據(jù)《規(guī)定》，算法推薦服務(wù)提供者應(yīng)當(dāng)向戶提供選擇或者刪除用于算法推薦服務(wù)的針對其個人特征的用戶標(biāo)簽的功能。

《報告》顯示，只有5.57%的受訪者接受由企業(yè)自主確定標(biāo)簽，28.99%希望自己設(shè)置標(biāo)簽組合，25.82%希望可以自行排除某些標(biāo)簽，還有27.87%希望關(guān)閉精準(zhǔn)推送功能。

基于個人信息標(biāo)簽對算法的接受度

對于用戶對算法應(yīng)用的心里感知和實(shí)際行為偏好之間的悖論，《報告》認(rèn)為有三方面原因。

首先，用戶對算法的排斥實(shí)質(zhì)上是對企業(yè)過度利用算法行為的排斥，而并非排斥算法技術(shù)和算法應(yīng)用本身;其次，信息不對稱和羊群效應(yīng)導(dǎo)致用戶對算法應(yīng)用存在錯誤認(rèn)知和抵觸傾向;最后，由于用戶學(xué)歷背景、成長環(huán)境、收入水平等存在差異，用戶對待算法的感受分化明顯，防范相關(guān)風(fēng)險的能力也存在差異。

超七成受訪者表示從未或偶爾遭受差別定價

流量造假在網(wǎng)絡(luò)世界屢見不鮮。據(jù)南都記者此前報道，國內(nèi)有超過一千多家的各類刷量平臺，其中頭部的100家每月流水超百萬元?？梢哉f，有榜單、受關(guān)注的地方，數(shù)據(jù)造假都可能出現(xiàn)。

《報告》提到，超過80%的受訪者認(rèn)為企業(yè)利用算法進(jìn)行人為信息扭曲(比如操縱榜單、流量造假、信息屏蔽)的情況很多或比較多。為規(guī)避算法帶來的不利影響，受訪者最常采取的應(yīng)對是主動管理企業(yè)數(shù)據(jù)收集請求和選擇關(guān)閉個性化推薦，比例分別為47.27%和45.3%。

用戶針對算法風(fēng)險的應(yīng)對之策

針對算法風(fēng)險的治理，大多數(shù)受訪者提倡在發(fā)展中解決問題，并不認(rèn)可限制算法應(yīng)用這樣的消極對策。受訪者認(rèn)為，企業(yè)自我主動管理行為被認(rèn)為是避免算法安全隱患最有效的方式，選擇比例超過6成(60.12%)。

用戶期待的針對算法風(fēng)險的治理之策

在算法公平方面，22.16%的受訪者表示沒有經(jīng)歷過差別化定價，51.46%表示偶爾經(jīng)歷差別定價，只有26.38%表示經(jīng)常經(jīng)歷差別定價。在經(jīng)歷過差別定價的受訪者中，因新老客戶、消費(fèi)頻次、會員與否三種原因遭受差別定價的受訪者均超半數(shù)。

差別定價的用戶感知

在算法向善方面，算法推薦下的過度消費(fèi)問題并不突出，85%受訪者沒有或很少在推薦算法的引導(dǎo)下購買不必要的產(chǎn)品或服務(wù)，也并未發(fā)現(xiàn)年輕人、學(xué)生、低收入群體容易被引導(dǎo)過度消費(fèi)的證據(jù)。

關(guān)于算法引導(dǎo)下的過度消費(fèi)問題

在獲取知識和信息方面的感受上，持不同態(tài)度的受訪者分布較為平均，其中25%認(rèn)為推薦算法的信息較為同質(zhì)，容易造成“信息繭房”。所推薦的內(nèi)容最符合自己興趣的是視頻媒體平臺、音樂娛樂平臺和電商平臺。

算法推薦的精準(zhǔn)度

不過，《報告》指出，企業(yè)在不良信息治理、“適老化”“未成年人模式”設(shè)計(jì)方面不盡如人意。35.18% 以上的用戶認(rèn)為所有行業(yè)做得都不夠好。其中，視頻媒體行業(yè)和社交平臺評價 相對較高，而在線旅游平臺和搜索平臺評價相對最低。

關(guān)于平臺人性化設(shè)計(jì)的用戶感知

《報告》總結(jié)認(rèn)為，分組交叉分析顯示，不同群體的算法感知和算法風(fēng)險防范能力差異較大。因此，政、產(chǎn)、學(xué)、研、行業(yè)組織協(xié)會等多方有必要加強(qiáng)協(xié)作，增強(qiáng)用戶教育，開展廣泛、持續(xù)的日常性算法教育，幫助用戶提高對算法服務(wù)的認(rèn)知能力和自我保護(hù)能力，不斷提升用戶算法素養(yǎng)。

關(guān)鍵詞： 互聯(lián)網(wǎng)算法推薦 個性化推薦服務(wù) 算法泄漏隱私 什么是信息繭房