“為何同款打車軟件同樣的路線，朋友跟我一起查詢時不同？”“只要一段時間常常瀏覽某個內(nèi)容的短視頻，平臺就一直給我推。”隨著我們的工作和生活越來越離不開互聯(lián)網(wǎng)，平臺算法為大家?guī)肀憷耐瑫r，也帶來了不少“陷阱”。

日前，中央網(wǎng)絡(luò)安全和信息化委員會辦公室秘書局、工業(yè)和信息化部辦公廳等四部門決定開展“清朗·網(wǎng)絡(luò)平臺算法典型問題治理”專項行動，重點整治同質(zhì)化推送營造“信息繭房”、違規(guī)操縱干預(yù)榜單炒作熱點、利用算法實施大數(shù)據(jù)“殺熟”等重點問題，進一步提升算法安全能力。專家表示，在大模型技術(shù)高速發(fā)展下，網(wǎng)絡(luò)平臺算法典型問題治理尤為重要。在治理過程中，如何平衡創(chuàng)新與監(jiān)管之間的關(guān)系也是一大挑戰(zhàn)，并建議構(gòu)建多層次的防護體系防止算法濫用。

文、表/廣州日報全媒體記者文靜、張露、鄧?yán)?/p>

現(xiàn)象調(diào)查

大數(shù)據(jù)“殺熟”、“信息繭房”頻現(xiàn)

預(yù)訂酒店“黃金會員比普通會員貴”；打車軟件“鉆石會員”價格高于新會員；三個賬號購買同一趟航班同一艙位，價格最多相差900多元……中消協(xié)發(fā)布的“2024年上半年消費維權(quán)輿情熱點”顯示，今年以來，大數(shù)據(jù)“殺熟”遭消費者質(zhì)疑的事件仍屢屢引發(fā)熱議。其中，一些平臺通常以“時間不同、地點差異導(dǎo)致價格浮動”“新用戶有優(yōu)惠”等理由，為其行為開脫。消費者認(rèn)為，平臺只是想憑借其信息優(yōu)勢地位在大數(shù)據(jù)“殺熟”問題上“蒙混過關(guān)”。第三方投訴機構(gòu)黑貓平臺最新數(shù)據(jù)顯示，與大數(shù)據(jù)“殺熟”關(guān)鍵詞有關(guān)的投訴就達到了8000多條。

記者調(diào)查發(fā)現(xiàn)，除了商品價格“殺熟”，還包括了消費過程中的“隱性”環(huán)節(jié)。有消費者稱，通過外賣平臺在同一店鋪購買同一貨品配送至相同的地址，不同賬戶下單的配送費不同；消費者表示，成為電商平臺的付費會員后，反而優(yōu)惠券領(lǐng)不到了，而一般用戶都能領(lǐng)取到該優(yōu)惠券等。

當(dāng)我們使用社交媒體網(wǎng)站時，我們會看到網(wǎng)站推薦的“你可能認(rèn)識的人”；當(dāng)我們使用短視頻APP時，我們會看到首頁上充斥著與你曾點過贊的視頻相似的推送內(nèi)容……平臺通過“更懂你”的個性化推薦技術(shù)的算法機制，讓網(wǎng)友們不知不覺地陷入“信息繭房”。

除了視頻、新聞等同質(zhì)化內(nèi)容推送造成“信息繭房”外，榜單操控也是常見的平臺算法“陷阱”。“現(xiàn)在APP的熱搜榜單都是‘千人千面’的。”資深網(wǎng)友小白告訴記者，現(xiàn)在每個平臺都有自己的熱搜榜單，“你的熱搜榜，跟別人不一樣。比如你經(jīng)常看某個明星，或關(guān)注某些領(lǐng)域熱點，關(guān)于這個明星，該領(lǐng)域的事件熱搜就會加倍地推送給你。”

背后原因

制造“信息繭房”成平臺快速達成多項指標(biāo)的重要手段

“大數(shù)據(jù)‘殺熟’屢禁不止的原因在于企業(yè)背后的利益驅(qū)動。”網(wǎng)經(jīng)社電子商務(wù)研究中心數(shù)字生活分析師陳禮騰接受采訪時表示，濫用消費者個人信息，進而對消費者進行區(qū)別對待，侵犯了消費者的知情權(quán)、選擇權(quán)和公平交易權(quán)。從市場層面來看，大數(shù)據(jù)“殺熟”不僅破壞了市場的公平競爭環(huán)境，還嚴(yán)重?fù)p害了消費者對電商平臺和商家的信任度。

在陳禮騰看來，大數(shù)據(jù)是一把“雙刃劍”。數(shù)字化時代，數(shù)據(jù)是企業(yè)重要的資產(chǎn)之一。合理運用數(shù)據(jù)可以為企業(yè)提供決策支持、優(yōu)化運營并進行業(yè)務(wù)創(chuàng)新等。若通過大數(shù)據(jù)進行違規(guī)操作，基于老顧客對于平臺的信任以及忠誠而對其進行區(qū)別對待，一旦曝光，面臨的將是大批用戶的流失、信任度的降低以及平臺形象的崩塌。

另一方面，在互聯(lián)網(wǎng)存量競爭時代，通過算法讓用戶落入“信息繭房”，是平臺高效達成目標(biāo)的重要手段之一，視頻的完播率、商品的復(fù)購率、用戶黏性、在線時長等這些都是各家平臺要完成的指標(biāo)，如何能讓用戶在有限的在線時間內(nèi)盡可能停留？擊中用戶的興趣點就很重要。業(yè)內(nèi)人士舉例，推薦算法包括多種類型，比如基于內(nèi)容的推薦算法，其本質(zhì)就是“投其所好”，從而增加平臺訪問次數(shù)、延長停留時間，提升用戶黏度。

然而，就在一次次“投其所好”的信息內(nèi)容投喂下，消費者容易被分門別類地束縛在“數(shù)字牢籠”，成為一些平臺的“囊中之物”。

華中師范大學(xué)信息管理學(xué)院副院長翟姍姍表示，在“信息繭房”效應(yīng)下，信息的傳播則具有同質(zhì)化、固定化、封閉化的特點，大大降低了人們的思考能力，導(dǎo)致受眾的思想趨于簡單，個體視野愈加狹隘，知識面萎縮，認(rèn)知固化，信息結(jié)構(gòu)失衡。

平臺動向

平臺調(diào)整推送算法：每次推薦都會增加一條隨機內(nèi)容

在翟姍姍看來，算法推送不能僅停留在利用大數(shù)據(jù)技術(shù)獲取海量的信息，更應(yīng)找到優(yōu)質(zhì)的原創(chuàng)內(nèi)容和富有價值的新聞，推送給受眾。同時，如何突破用戶“信息繭房”的鑰匙落在了對信息內(nèi)容的把關(guān)和審核上。

在相關(guān)部門進行的多輪治理，以及政策規(guī)范下，近期，部分平臺也開始調(diào)整算法，對社區(qū)內(nèi)容進行整治。

據(jù)了解，從2022年起，我國《互聯(lián)網(wǎng)信息服務(wù)算法推薦管理規(guī)定》《互聯(lián)網(wǎng)信息服務(wù)深度合成管理規(guī)定》《生成式人工智能服務(wù)管理暫行辦法》等相關(guān)政策陸續(xù)實施，均涉及算法的詳細(xì)治理規(guī)則。今年9月1日起實施的《網(wǎng)絡(luò)反不正當(dāng)競爭暫行規(guī)定》明確，經(jīng)營者不得利用互聯(lián)網(wǎng)、大數(shù)據(jù)、算法等技術(shù)手段，通過影響用戶選擇或者其他方式，實施流量劫持、干擾、惡意不兼容等行為。

專家觀點

應(yīng)對監(jiān)管難須不斷提升技術(shù)能力

天使投資人、資深人工智能專家郭濤表示，在當(dāng)前大模型技術(shù)快速發(fā)展的背景下，網(wǎng)絡(luò)平臺算法典型問題的治理顯得尤為重要。這不僅關(guān)乎數(shù)據(jù)安全和隱私保護，也涉及公平交易和市場競爭的公正性。與以往相比，此次專項行動更加注重從技術(shù)和制度層面解決長期存在的問題，如大數(shù)據(jù)“殺熟”等，通過加強監(jiān)管和技術(shù)手段的應(yīng)用，實現(xiàn)對算法濫用的有效遏制。

“該專項行動落地還需解決一些問題。”中關(guān)村物聯(lián)網(wǎng)產(chǎn)業(yè)聯(lián)盟副秘書長袁帥直言，一方面，算法技術(shù)的復(fù)雜性和隱蔽性使得監(jiān)管和治理的難度較大。另一方面，一些平臺為了追求商業(yè)利益，可能會采取不正當(dāng)?shù)氖侄蝸砝盟惴āＲ虼耍胱寣ｍ椥袆诱嬲涞兀枰⑵髽I(yè)和用戶等多方面的共同努力，形成合力來推動治理工作的深入開展。

因此，郭濤表示，首先需要解決的是監(jiān)管難度大的問題。由于算法復(fù)雜且迭代速度快，監(jiān)管部門需要不斷提升技術(shù)能力，以便及時發(fā)現(xiàn)并處理問題。其次，如何平衡創(chuàng)新與監(jiān)管之間的關(guān)系也是一個挑戰(zhàn)。最后，提高公眾的科技素養(yǎng)和對算法的理解，有助于形成良好的社會監(jiān)督氛圍。

防止算法濫用問題要從多層面下手

天使投資人、資深人工智能專家郭濤：

防止算法濫用需要構(gòu)建一個多層次的防護體系。首先，應(yīng)加強算法透明度，讓用戶了解算法決策的邏輯和依據(jù)；其次，建立健全算法倫理審查機制，確保算法設(shè)計和應(yīng)用符合社會公德和法律法規(guī)；再次，利用技術(shù)手段如差分隱私、聯(lián)邦學(xué)習(xí)等，減少數(shù)據(jù)泄露風(fēng)險，同時提升算法的公平性和準(zhǔn)確性。此外，還應(yīng)鼓勵開發(fā)更多具有正向激勵作用的算法，促進健康競爭和創(chuàng)新發(fā)展。

中國企業(yè)資本聯(lián)盟副理事長柏文喜：

防止算法濫用問題的出現(xiàn)需要從算法設(shè)計、實施和監(jiān)管三個層面入手。在設(shè)計層面，需要確保算法的公平性和透明性，避免利用算法進行壟斷和不正當(dāng)競爭行為。在實施層面，需要優(yōu)化算法的可解釋性，讓用戶能夠理解算法的基本原理和運行機制。在監(jiān)管層面，需要建立健全算法安全管理制度和技術(shù)措施，定期審核和評估算法機制，確保算法的合規(guī)性。同時，平臺需要提供關(guān)閉算法推薦服務(wù)的選項，讓用戶能夠自主選擇興趣領(lǐng)域。