
最新動(dòng)態(tài)
NEWS

8月27日,據(jù)“網(wǎng)信中國(guó)”微信公眾號(hào),國(guó)家互聯(lián)網(wǎng)信息辦公室就《互聯(lián)網(wǎng)信息服務(wù)算法推薦管理規(guī)定(征求意見(jiàn)稿)》(以下簡(jiǎn)稱“征求意見(jiàn)稿”)向社會(huì)公開(kāi)征求意見(jiàn)。
本次《征求意見(jiàn)稿》的發(fā)布,存在諸多亮點(diǎn)。
筆者看來(lái),《征求意見(jiàn)稿》亮點(diǎn)一在于其嚴(yán)?!墩髑笠庖?jiàn)稿》第六條到第十八條,從不同角度對(duì)算法推薦服務(wù)提供者提出了要求,盡可能的將所有算法行為都納入到監(jiān)管,其中多數(shù)在日常生活中便經(jīng)常能夠見(jiàn)到。如第十三條:算法推薦服務(wù)提供者不得利用算法虛假注冊(cè)賬號(hào)、非法交易賬號(hào)、操縱用戶賬號(hào),或者虛假點(diǎn)贊、評(píng)論、轉(zhuǎn)發(fā)、網(wǎng)頁(yè)導(dǎo)航等,實(shí)施流量造假、流量劫持;不得利用算法屏蔽信息、過(guò)度推薦、操縱榜單或者檢索結(jié)果排序、控制熱搜或者精選等干預(yù)信息呈現(xiàn),實(shí)施自我優(yōu)待、不正當(dāng)競(jìng)爭(zhēng)、影響網(wǎng)絡(luò)輿論或者規(guī)避監(jiān)管。不僅如此,對(duì)于未成年保護(hù)、社會(huì)輿論引導(dǎo)以及消費(fèi)者算法選現(xiàn)都提出了相應(yīng)的規(guī)定。
《征求意見(jiàn)稿》亮點(diǎn)二在于其全。《征求意見(jiàn)稿》中明確,所謂的算法推薦技術(shù),是指應(yīng)用生成合成類、個(gè)性化推送類、排序精選類、檢索過(guò)濾類、調(diào)度決策類等算法技術(shù)向用戶提供信息內(nèi)容,這相當(dāng)于劃定了《規(guī)定》的監(jiān)管對(duì)象,如果按照這樣的說(shuō)法,手機(jī)中大多數(shù)app,像人們熟悉的抖音、大眾點(diǎn)評(píng)、小紅書(shū)等等都將成為監(jiān)管對(duì)象。同時(shí),《征求意見(jiàn)稿》第三條提到,國(guó)家網(wǎng)信部門(mén)負(fù)責(zé)全國(guó)算法推薦服務(wù)的監(jiān)督管理執(zhí)法工作,明確了部門(mén)責(zé)任,第二十七到二十九條又給出了較為具體的懲處措施。結(jié)合剛剛提到的監(jiān)管角度,《征求意見(jiàn)稿》涵蓋了對(duì)象、行為、監(jiān)管主體、懲處措施,非常之全。
《征求意見(jiàn)稿》亮點(diǎn)三在于其巧。《征求意見(jiàn)稿》看上去對(duì)算法進(jìn)行了極嚴(yán)的管制,但卻沒(méi)有改變算法的根本,并非全面禁止算法推薦,而是一種規(guī)范的做法。新經(jīng)濟(jì)突飛猛進(jìn),規(guī)則要跟上,制度要實(shí)施,責(zé)任要明確,正如之前對(duì)于平臺(tái)經(jīng)濟(jì)反壟斷的規(guī)定,其目的都是進(jìn)行及時(shí)的制度性改進(jìn)。因此,《征求意見(jiàn)稿》的巧正是通過(guò)監(jiān)管去幫助行業(yè)走大道、走正道,去鼓勵(lì)有價(jià)值算法的發(fā)展,為新經(jīng)濟(jì)的持續(xù)穩(wěn)定發(fā)展提供動(dòng)力。
正反饋算法,專注“注意力經(jīng)濟(jì)”模式
從發(fā)展過(guò)程來(lái)看,數(shù)字經(jīng)濟(jì)也到了懂規(guī)矩、知榮辱的年紀(jì)。近年來(lái),數(shù)字經(jīng)濟(jì)領(lǐng)域相關(guān)的法律法規(guī)出臺(tái)頻繁,國(guó)家對(duì)于數(shù)字經(jīng)濟(jì)規(guī)范發(fā)展愈加重視,這與其過(guò)去野蠻生長(zhǎng)不無(wú)關(guān)系。回望我國(guó)數(shù)字經(jīng)濟(jì)騰飛之路,能夠清晰地發(fā)現(xiàn),我國(guó)基于人口紅利充分發(fā)揮了后發(fā)優(yōu)勢(shì),通過(guò)不斷的吸收、引進(jìn),我們學(xué)到了國(guó)外先進(jìn)的技術(shù)和思想,但同時(shí),不免沾染了國(guó)外的不良風(fēng)氣,資本大行其道,物質(zhì)凌駕一切,特別是當(dāng)我國(guó)數(shù)字經(jīng)濟(jì)從跟跑者變?yōu)轭I(lǐng)跑者后,我們開(kāi)始逐漸喪失發(fā)展的方向感,而利益為先的觀念又已經(jīng)深入管理者的骨髓,在這種激勵(lì)下,壟斷、信息不對(duì)稱、大數(shù)據(jù)等等企業(yè)所具有的優(yōu)勢(shì)便成了其牟取利益的工具。
算法正在這批工具當(dāng)中。2020年,網(wǎng)飛(Netflix)公司拍攝了一部紀(jì)錄片叫《監(jiān)視資本主義:智能陷阱》。影片以智能手機(jī)對(duì)男孩本的家庭和學(xué)校生活的影響為基礎(chǔ),從谷歌、臉書(shū)、推特等平臺(tái)的算法設(shè)計(jì)師和工程師的視角出發(fā),講述了算法和軟件設(shè)計(jì)機(jī)制,以及人工智能操控人類生活帶來(lái)的后果。在片中,我們看到了一個(gè)不一樣的世界,日常生活中,我們感受到的是手機(jī)的便利,而在片中,我們感受到的是手機(jī)帶給我們的恐懼。
我們?nèi)粘J褂玫氖謾C(jī)APP背后都有算法的加持,不能否認(rèn),算法的確沒(méi)有好壞之分,也不存在價(jià)值判斷,但算法的設(shè)計(jì)者有,算法設(shè)計(jì)者的雇主有,算法的使用者有?,F(xiàn)實(shí)就是,算法設(shè)計(jì)地價(jià)值判斷即是否能夠牟利,而數(shù)字經(jīng)濟(jì)時(shí)代牟利的主要來(lái)源是流量,因此,對(duì)于應(yīng)用的開(kāi)發(fā)者來(lái)說(shuō),要盡可能的將消費(fèi)者留下,盡可能延長(zhǎng)消費(fèi)者對(duì)應(yīng)用的使用時(shí)間,他們的方法便是利用算法讓用戶成癮。
近年來(lái)風(fēng)靡世界的短視頻應(yīng)用便是使用這種算法的高手,當(dāng)你打開(kāi)短視頻,后臺(tái)會(huì)根據(jù)用戶的興趣推薦視頻,隨著應(yīng)用越來(lái)越“懂”用戶,用戶也即深陷其中,這種“正反饋”的算法機(jī)制給用戶極強(qiáng)的滿足感,也讓短視頻在短時(shí)間內(nèi)迅速成長(zhǎng)發(fā)展。
這便是數(shù)字經(jīng)濟(jì)時(shí)代的“注意力經(jīng)濟(jì)”模式,企業(yè)最大限度地吸引用戶或消費(fèi)者的注意力,通過(guò)培養(yǎng)潛在的消費(fèi)群體,以期獲得最大未來(lái)商業(yè)利益。
算法隱憂:現(xiàn)實(shí)版楚門(mén)世界
“注意力經(jīng)濟(jì)”模式讓算法在致癮路上越走越遠(yuǎn),這帶來(lái)的直接后果自然是用戶使用APP時(shí)間越來(lái)越長(zhǎng),但隨著使用時(shí)間的延長(zhǎng)和用戶依賴度的逐漸增長(zhǎng),也帶來(lái)了諸多間接后果,其中值得關(guān)注的便是信息流的收窄。以短視頻為例,雖然很多時(shí)候,使用者都是在觀看一些娛樂(lè)類的視頻,但在視頻交接時(shí),可能時(shí)不時(shí)插入信息類視頻,基于算法的正反饋機(jī)制,個(gè)人接受的信息會(huì)受到自我特征的強(qiáng)化,最終使得用戶接受的信息完全是自己想得到地信息,或是與自己想得到的類似的信息。
理查德·德威特在其書(shū)《世界觀》中指出,世界觀就像一張信息拼圖,每個(gè)人的世界觀均建立在自己所信服的信息之上,算法的分類正像一只無(wú)形的手,將用戶的信息拼圖逐漸擴(kuò)大,直至沉淀為一種觀念。如此一來(lái),算法推薦最終將把一個(gè)用戶封進(jìn)自我的世界,這不禁讓人想起了電影《楚門(mén)的世界》,與之不同的是,楚門(mén)是被人為的放在編造的世界中,而算法則是在用戶不斷的自我信息反饋、強(qiáng)化下進(jìn)入了“自我的世界”。
從算法創(chuàng)新到算法強(qiáng)權(quán)
除了算法加持下軟件對(duì)用戶的影響,算法也在深刻的改變整個(gè)市場(chǎng)。2020年,北京大學(xué)社會(huì)學(xué)系陳龍博士在經(jīng)歷了長(zhǎng)時(shí)間的社會(huì)實(shí)踐后,發(fā)表了一篇名為《“數(shù)字控制”下的勞動(dòng)秩序——外賣(mài)騎手的勞動(dòng)控制研究》的文章,他精準(zhǔn)的點(diǎn)出了當(dāng)前平臺(tái)公司如何利用算法改變整個(gè)勞資市場(chǎng)。一方面,平臺(tái)公司對(duì)控制權(quán)進(jìn)行了重新分配,系統(tǒng)算法與消費(fèi)者取代平臺(tái)公司對(duì)騎手進(jìn)行管理。另一方面,算法通過(guò)大數(shù)據(jù)分析對(duì)騎手進(jìn)行“數(shù)字控制”,從算法輔助騎手送餐變?yōu)樗惴ㄅ`騎手送餐。
有這樣一組數(shù)據(jù),2016年,3公里送餐距離的最長(zhǎng)時(shí)限是1小時(shí);2017年,變成了45分鐘;2018年,又縮短到了38分鐘。2019年中國(guó)全行業(yè)外賣(mài)訂單單均配送時(shí)長(zhǎng)比3年前減少了10分鐘。外賣(mài)平臺(tái)多年來(lái)越來(lái)越好看的年報(bào),與其說(shuō)是技術(shù)更新的成果,不如說(shuō)是技術(shù)壓榨勞動(dòng)力的成果。
《規(guī)定》正當(dāng)時(shí),算法也應(yīng)有價(jià)值觀
不管是信息流的自我強(qiáng)化還是算法加持的科技強(qiáng)權(quán),之于算法本身而言無(wú)對(duì)錯(cuò)可言,比如算法的正反饋機(jī)制,如果運(yùn)用到對(duì)不法事件的監(jiān)管,隨著案例的積累,其響應(yīng)速度和精準(zhǔn)度會(huì)越來(lái)越高,從而有益于社會(huì)。
應(yīng)用有罪,算法無(wú)罪,科技的中性對(duì)于算法依舊可行,但正如前文提到的諸多案例,算法的使用并沒(méi)有都為社會(huì)營(yíng)造好的一面,相反,在私人和社會(huì)成本收益顯著不對(duì)等的情況下,算法大多淪為企業(yè)盈利的工具,而奢望企業(yè)自身去進(jìn)行價(jià)值觀道路的修正是不現(xiàn)實(shí)的,幸運(yùn)的是,《征求意見(jiàn)稿》的發(fā)布讓我們能夠寄希望于未來(lái)《規(guī)定》的出臺(tái),對(duì)算法價(jià)值觀進(jìn)行人為的干預(yù),使用戶走出片面信息世界,使企業(yè)承擔(dān)應(yīng)有雇傭責(zé)任,使社會(huì)不至陷入算法泥潭。
編輯:薛姣