近年來(lái)，基于消費者大數據的算法技術(shù)的應用，在提升網(wǎng)絡(luò )消費體驗、提高經(jīng)營(yíng)效率、推動(dòng)平臺高質(zhì)量發(fā)展等方面發(fā)揮著(zhù)重要作用。但由于“大數據殺熟”、算法歧視等產(chǎn)生的不公平現象存在，也侵害了消費者的合法權益，擾亂了公平競爭的市場(chǎng)秩序。
在這樣的背景下，人工智能倫理倡導者呼吁，應該給消費者決定是否允許自己被算法“操縱”的權利，因為大多數時(shí)候，消費者并不清楚自己的行為正在被算法“算計”。
算法經(jīng)常會(huì )被稱(chēng)為“黑匣子”，科技公司往往只對他們的算法系統如何工作以及它們的用途做出基本解釋?zhuān)芏鄷r(shí)候開(kāi)發(fā)這些算法的技術(shù)人員也并不清楚算法為何會(huì )得出某些結論。
11月18日，上海率先在電子商務(wù)領(lǐng)域出臺地方性指引，制定發(fā)布《上海市網(wǎng)絡(luò )交易平臺網(wǎng)絡(luò )營(yíng)銷(xiāo)活動(dòng)算法應用指引（試行）》（以下簡(jiǎn)稱(chēng)《指引》），規范網(wǎng)絡(luò )交易平臺網(wǎng)絡(luò )營(yíng)銷(xiāo)活動(dòng)算法應用行為，為平臺經(jīng)營(yíng)者劃出合規底線(xiàn)。
《指引》明確平臺經(jīng)營(yíng)者不得利用算法實(shí)施不正當價(jià)格行為，不得利用算法對消費者實(shí)施不合理的差別待遇。此外，平臺經(jīng)營(yíng)者利用消費者個(gè)人信息開(kāi)展網(wǎng)絡(luò )營(yíng)銷(xiāo)活動(dòng)算法應用時(shí)，應當按照《個(gè)人信息保護法》的規定，保證算法應用結果的公平、公正，不得對消費者在交易價(jià)格、交易機會(huì )等交易條件上實(shí)行不合理的差別待遇。
《指引》還規定，平臺經(jīng)營(yíng)者不得利用算法僅向消費者提供針對其個(gè)人特征選項的搜索結果，不得利用算法對平臺內經(jīng)營(yíng)者進(jìn)行不合理限制或附加不合理條件，不得利用算法濫用市場(chǎng)支配地位。
今年8月，國家網(wǎng)信辦就已經(jīng)出臺了《互聯(lián)網(wǎng)信息服務(wù)算法推薦管理規定（征求意見(jiàn)稿）》（下稱(chēng)“征求意見(jiàn)稿”），多條內容對接《個(gè)人信息保護法》。根據《征求意見(jiàn)稿》要求，算法推薦服務(wù)提供者應當定期審核、評估、驗證算法機制機理、模型、數據和應用結果等，不得設置誘導用戶(hù)沉迷或者高額消費等違背公序良俗的算法模型。
上海大邦律師事務(wù)所高級合伙人游云庭對第一財經(jīng)記者表示：“除了今日頭條和抖音這樣公認的算法驅動(dòng)的平臺，新浪微博這樣的用戶(hù)生成內容的平臺，以及滴滴、美團、餓了么這樣利用算法管理平臺的公司，也都受新規監管。”
在全球反壟斷的大潮下，各國監管機構近期也加大了對算法不公平的打擊力度。人工智能專(zhuān)家認為，對于創(chuàng )造和使用算法的公司來(lái)說(shuō)，提高透明度至關(guān)重要，對AI的特定用途和應用進(jìn)行監管之前，對于算法透明度的出臺法律是必要的。
在美國，立法者正在重新審視科技公司應該如何改變使用算法的方式。美國眾議院最近提出一項被稱(chēng)為《過(guò)濾氣泡透明度》的立法，要求大型科技公司允許用戶(hù)訪(fǎng)問(wèn)不受算法影響的平臺版本，也就是消費者將有權利選擇打開(kāi)或者關(guān)閉被秘密算法操縱的功能。
雖然《過(guò)濾氣泡透明度法案》針對的是大型社交平臺，但它也將不可避免地影響其他公司，例如Spotify和Netflix，這些流媒體巨頭也非常依賴(lài)于算法驅動(dòng)的策略。
立法的變化突顯了人們越來(lái)越意識到算法在數字化時(shí)代扮演的核心角色。如果該立法通過(guò)，也將從根本上改變完全圍繞算法管理建立的公司的商業(yè)模式。
算法作為數字世界的運轉規則，目前科技平臺還沒(méi)有建立合規、有效的算法倫理體系與機制。業(yè)內人士認為，算法合規需要企業(yè)自治與協(xié)同監管相結合。
中國數字經(jīng)濟百人會(huì )專(zhuān)家委員會(huì )委員柳峰對第一財經(jīng)記者表示：“大多數用戶(hù)是很難對企業(yè)的算法做出判斷，用戶(hù)需要能夠對算法的知情權和選擇權進(jìn)行控制，也就是選擇打開(kāi)或者關(guān)閉算法推薦。”他強調，應該對算法應用進(jìn)行綜合性的系統治理。
柳峰對第一財經(jīng)記者表示，從技術(shù)上來(lái)看，用戶(hù)“一鍵關(guān)閉”算法不難實(shí)現，但難的是如何監管，法律的規定如何落在具體的監管實(shí)施細則中。他認為，這是一個(gè)科技巨頭與立法監管博弈的過(guò)程。“這樣的監管政策要推動(dòng)起來(lái)也很困難，大公司肯定會(huì )游說(shuō)反對。”柳峰說(shuō)道，“當然我們也應該承認，算法并不是任何時(shí)候都是不好的。”
編輯：薛姣
