欧美在线日韩-欧美在线区-欧美在线看欧美视频免费网站-欧美在线精品一区二区在线观看-www..com黄-vr专区日韩精品中文字幕

智道

欄目主持人：於興中

在算法背景下，真正的關(guān)系并不是表面上的算法“主動(dòng)”掌控者與算法被動(dòng)分析者的關(guān)系，而是算法自身與所有相對(duì)人的關(guān)系，即在算法運(yùn)行中不存在真正的掌控者

視覺(jué)中國(guó)供圖

□王镕洪

算法是冰冷數(shù)字與蘊(yùn)含人類社會(huì)復(fù)雜價(jià)值載體的矛盾融合體，實(shí)現(xiàn)算法的良性運(yùn)行需要國(guó)家、企業(yè)和用戶的三方協(xié)同努力。前不久，中央網(wǎng)絡(luò)安全和信息化委員會(huì)辦公室秘書(shū)局、工業(yè)和信息化部辦公廳、公安部辦公廳、國(guó)家市場(chǎng)監(jiān)督管理總局辦公廳聯(lián)合印發(fā)《關(guān)于開(kāi)展“清朗·網(wǎng)絡(luò)平臺(tái)算法典型問(wèn)題治理”專項(xiàng)行動(dòng)的通知》（以下簡(jiǎn)稱《通知》），部署開(kāi)展“清朗·網(wǎng)絡(luò)平臺(tái)算法典型問(wèn)題治理”專項(xiàng)行動(dòng)。《通知》充分落實(shí)算法時(shí)代政府和企業(yè)的雙重責(zé)任、保障用戶權(quán)益并回應(yīng)社會(huì)關(guān)切，致力于實(shí)現(xiàn)算法時(shí)代清朗網(wǎng)絡(luò)的和諧發(fā)展。

有形之手監(jiān)管具有重要意義

在政府層面，政府有形之手的監(jiān)管對(duì)于算法平臺(tái)具有重要意義，而社會(huì)整體利益的維護(hù)是政府干預(yù)權(quán)的正當(dāng)權(quán)源。“信息繭房”的破除與誘導(dǎo)沉迷的預(yù)防亟需部門規(guī)章或行業(yè)規(guī)章對(duì)企業(yè)行為進(jìn)行規(guī)范，一方面既要引導(dǎo)企業(yè)尊重用戶的個(gè)人隱私保護(hù)，尊重用戶的主體性而非以符號(hào)化、數(shù)據(jù)化用戶的主體信息。另一方面又要從信息收集、加工、保存和刪除進(jìn)行多渠道監(jiān)督，對(duì)企業(yè)尚未違法但觸及用戶信息的敏感行為進(jìn)行提示警告，防止外部性，警示提醒在前，依規(guī)處罰在后。針對(duì)操縱熱點(diǎn)和榜單的行為需要區(qū)分熱點(diǎn)和榜單所涉及的事件內(nèi)容和行為目的進(jìn)行差異化處理。對(duì)于不涉及社會(huì)公共利益的行為應(yīng)讓位于私主體的糾紛解決機(jī)制，既不能缺位也不能越位。

為了防止騎手“困”在算法中，自2021年開(kāi)始我國(guó)多個(gè)省市市場(chǎng)監(jiān)管部門已經(jīng)先行實(shí)驗(yàn)采取措施。但算法制定規(guī)則的依據(jù)是否合理、樣本是否充分典型以及相關(guān)程序是否接受騎手同意和監(jiān)督都仍面臨挑戰(zhàn)。此外，單純從時(shí)間維度進(jìn)行保障不免缺乏全面性，更為核心的是勞資關(guān)系的保障，如何通過(guò)勞動(dòng)關(guān)系尤其是勞動(dòng)合同約束企業(yè)算法行為、保障勞動(dòng)者權(quán)益或?yàn)楦又匾恼n題。

在進(jìn)行大數(shù)據(jù)“殺熟”判斷的過(guò)程中，首先需要明確的基準(zhǔn)應(yīng)為是否存在“符合價(jià)值規(guī)律的定價(jià)”，進(jìn)而防止單純以新、老用戶的差異定價(jià)進(jìn)行片面錯(cuò)誤界定，干涉企業(yè)的正常交易行為。真正意義上的大數(shù)據(jù)“殺熟”不僅侵犯消費(fèi)者合法權(quán)益，也會(huì)損害市場(chǎng)公平。市場(chǎng)監(jiān)督管理部門在認(rèn)定構(gòu)成大數(shù)據(jù)“殺熟”后需嚴(yán)格進(jìn)行行政處罰，在規(guī)范層面可以靈活運(yùn)用反壟斷法和價(jià)格法等具體規(guī)范，通過(guò)發(fā)揮政府優(yōu)勢(shì)、構(gòu)建基礎(chǔ)設(shè)施，建立高效多元主體間的協(xié)同合作機(jī)制，增強(qiáng)算法向上向善的良性發(fā)展。

當(dāng)企業(yè)擁有了“算法權(quán)力”

在企業(yè)層面，雖然企業(yè)以營(yíng)利為目的，不可避免地具有盲目性和自發(fā)性。但是，任何企業(yè)的良性運(yùn)轉(zhuǎn)都離不開(kāi)社會(huì)經(jīng)濟(jì)的平穩(wěn)運(yùn)行，短暫不當(dāng)利益的獲得與侵犯用戶信息的私益皆非企業(yè)長(zhǎng)久發(fā)展之道。

《通知》所規(guī)范的具體內(nèi)容無(wú)一不是企業(yè)基于利益的獲取而開(kāi)展的不當(dāng)行為，而企業(yè)算法運(yùn)用中通常無(wú)法破除以“資本主導(dǎo)”的行為邏輯。不可否認(rèn)的是，掌握技術(shù)的主體擁有偏好和價(jià)值導(dǎo)向。企業(yè)基于算法掌握在一定程度上形成了“算法權(quán)力”，這種權(quán)力結(jié)構(gòu)破壞了原本在企業(yè)與用戶之間作為平等主體間平衡的權(quán)利義務(wù)關(guān)系。因此，基于“算法權(quán)力”，企業(yè)也應(yīng)當(dāng)相應(yīng)承擔(dān)更多的義務(wù)，不僅包括信息收集告知、知情同意、合理限度的遵守和運(yùn)用算法的正當(dāng)性基礎(chǔ)說(shuō)明等第一性義務(wù)，還包括違法第一性義務(wù)而引起的第二性義務(wù)。

另外，企業(yè)行為往往具有多重目的。所以，需要嚴(yán)格限制企業(yè)以“合理目的”為免責(zé)主張，僅以構(gòu)成要件為判斷責(zé)任承擔(dān)的依據(jù)。《通知》率先要求企業(yè)自查自糾、排查風(fēng)險(xiǎn)，旨在尊重企業(yè)的主體地位和促進(jìn)企業(yè)的算法正向使用。

據(jù)2021年中國(guó)人民大學(xué)數(shù)字經(jīng)濟(jì)研究中心和螞蟻集團(tuán)研究院撰寫(xiě)的《算法應(yīng)用的用戶感知調(diào)查與分析報(bào)告》統(tǒng)計(jì)顯示，針對(duì)算法風(fēng)險(xiǎn)的治理，在有效的6941份問(wèn)卷中用戶希望多維度加強(qiáng)算法風(fēng)險(xiǎn)治理，其中企業(yè)自律最受期待(60.12%)。《通知》明確要落實(shí)算法安全主體責(zé)任，這既包括企業(yè)抽象主體的責(zé)任，也包括內(nèi)部具體主體的責(zé)任。既包括算法運(yùn)行管理的責(zé)任履行，也包括不當(dāng)后果的責(zé)任承擔(dān)。

算法需要為用戶的權(quán)利服務(wù)

在用戶層面，用戶不該是算法時(shí)代的被支配者，而應(yīng)該是主動(dòng)選擇方，被動(dòng)到主動(dòng)轉(zhuǎn)變的實(shí)現(xiàn)需要選擇權(quán)的介入。雖然傳統(tǒng)觀點(diǎn)認(rèn)為，消費(fèi)者同勞動(dòng)者一樣都是天然的弱勢(shì)群體，且這一弱勢(shì)現(xiàn)象為算法所加劇，正如算法時(shí)代的用戶既是算法數(shù)據(jù)信息的被動(dòng)供給者，也是算法影響的被動(dòng)接受者，但消費(fèi)者、勞動(dòng)者在實(shí)際上卻是需求和供給端的服務(wù)購(gòu)買者與產(chǎn)品生產(chǎn)者。

我國(guó)《新一代人工智能倫理規(guī)范》中“增進(jìn)人類福祉”居于首要原則，算法需要為人類服務(wù)，也即需要為用戶的權(quán)利服務(wù)。不僅政府具有尊重人民權(quán)利的義務(wù)，人民自身也需要樹(shù)立強(qiáng)烈的權(quán)利意識(shí)。在面對(duì)企業(yè)通過(guò)算法帶來(lái)的權(quán)力差，人民的權(quán)利意識(shí)變得愈加重要。從知情同意過(guò)程中形式同意向?qū)嵸|(zhì)知道和同意的轉(zhuǎn)變，到信息收集拒絕權(quán)的行使，再到權(quán)利受到算法侵犯時(shí)私權(quán)利的主張，時(shí)至今日，諸多企業(yè)算法行為的規(guī)范均是用戶權(quán)利抗?fàn)幍牧夹曰仞仭?/p>

用戶與算法的關(guān)系不僅是用戶和企業(yè)的關(guān)系，也是人類與技術(shù)的關(guān)系。即使是企業(yè)的所有者或者說(shuō)是算法的使用者，在很大程度上也是算法的對(duì)象。很難說(shuō)某個(gè)主體可以游離在人與技術(shù)的關(guān)系之外。

筆者認(rèn)為，在算法背景下，真正的關(guān)系并不是表面上的算法“主動(dòng)”掌控者與算法被動(dòng)分析者的關(guān)系，而是算法自身與所有相對(duì)人的關(guān)系，即在算法運(yùn)行中不存在真正的掌控者。

《通知》的頒布在構(gòu)建三位一體算法規(guī)制的道路上具有重要意義，不僅針對(duì)網(wǎng)絡(luò)平臺(tái)算法中的典型問(wèn)題提出了治理思路和工作安排，也有助于政府規(guī)制、企業(yè)約束和用戶權(quán)利主張的聯(lián)動(dòng)。通過(guò)《通知》的深入貫徹能夠營(yíng)造一片天朗氣清的網(wǎng)絡(luò)環(huán)境，促進(jìn)人與算法的和諧共進(jìn)。

（作者系澳門大學(xué)法學(xué)院博士研究生）