痛点

“流量(liang)至上(shang)”引发乱象

最近，北(bei)京市民王兰遇到一(yi)件令人啼笑皆非的(de)事情：儿子睿(rui)睿(rui)还不到10岁，手机却频仍收到各种相亲(qin)信息。追本溯源，原来(lai)是儿子前几天误点了一(yi)则相亲(qin)广告。这让王兰感到担忧：“网(wang)络对用户信息的(de)收集已到了无孔不入的(de)程度。”

大学(xue)生宋凡(fan)是不久(jiu)前下载了一(yi)款阅读软件。翻开后，一(yi)篇标记着“您大概感兴趣”的(de)小(xiao)说被推送至界面。“这不正(zheng)好是我喜(xi)欢的(de)作者吗？”他点开链接(jie)，一(yi)看就是一(yi)个多小(xiao)时。看完后，系统又推荐(jian)了这篇小(xiao)说的(de)“番外”。不知不觉，他一(yi)连“刷”了几个小(xiao)时，连老(lao)师安排的(de)课题都忘了写。

“这就是‘算法’的(de)感化。”杭州某互(hu)联网(wang)公司(si)的(de)算法工程师朝阳引见(jian)，“手机软件可(ke)以随时抓取用户数据，通过智能模型分析人们的(de)举动、习(xi)惯和喜(xi)好，过滤掉用户不感兴趣的(de)内容，推荐(jian)用户感兴趣的(de)信息。”

他透露，对一(yi)些商业平台来(lai)说，使用“算法”的(de)主要(yao)目标是提拔流量(liang)，提高收益，至于推送的(de)信息是优质还是劣质、会否带来(lai)网(wang)络沉迷(mi)等成绩(ji)，则不正(zheng)在考(kao)虑(lu)之列。“就像小(xiao)孩喜(xi)欢吃糖，有些商家的(de)唯一(yi)目标是尽量(liang)卖更多糖给孩子，至于会不会影响健康，不是他们关心的(de)。”

这种“流量(liang)至上(shang)”的(de)商业逻辑，促使一(yi)些网(wang)络平台借助“算法”频仍推送用户感兴趣的(de)同质化内容，更有甚者，以博人眼球的(de)劣质低俗内容媚谄用户。长此以往(wang)，用户接(jie)收信息的(de)局限就会变窄，渠道也变得(de)单一(yi)，从而堕入人们常说的(de)“信息茧房”。

除(chu)“信息茧房”，频受诟病的(de)还有“算法卑视”。所谓“算法卑视”，是指正(zheng)在“算法”计划(hua)和运用过程中，由(you)于偏见(jian)、卑视性(xing)数据集或其他因素(su)导致(zhi)的(de)“不公平效果”。

家住(zhu)石家庄的(de)刘密(mi)斯，孩子正(zheng)在北(bei)京上(shang)大学(xue)，她每(mei)次来(lai)京探望孩子都会入住(zhu)校旁一(yi)家酒店。本年初，她通过某手机软件预订一(yi)个房间，价格每(mei)晚近800元。可(ke)她办(ban)入住(zhu)时发现(xian)，有客人预定了同样房型，价格只(zhi)需600元。经由(you)比对，两人正(zheng)在统一(yi)手机软件上(shang)看到的(de)价格完全不一(yi)样。

“我还是这家酒店的(de)白金卡客户呢，非但没(mei)有享(xiang)遭到优惠，反而还被‘宰’了，孩子报告我，这叫‘大数据杀熟’！”

“大数据杀熟”是“算法卑视”的(de)表现(xian)形式之一(yi)。指平台行使“算法”进行用户“画像”， 如果用户已是熟客，就不再需要(yao)低价吸收，同时，平台大概通过搜集消耗(hao)数据检(jian)测到用户消耗(hao)能力(li)，从而“定向”抬低价格。朝阳表示，“算法卑视”一(yi)度甚嚣尘(chen)上(shang)，买机票、打网(wang)约车甚至网(wang)络购物，都会被“大数据杀熟”，厥后有关部门强力(li)监管，这种景象才(cai)有所收敛，但目前仍正(zheng)在业界不同程度存正(zheng)在。

难(nan)点

“算法”违(wei)规不易评(ping)判

有网(wang)友总结，“算法”推荐(jian)的(de)劣质信息有三个特(te)点：真假难(nan)辨、缺乏深度、价值导向庞(pang)杂。不少人以为，“价值导向庞(pang)杂”是范例“算法”的(de)最大难(nan)点。

王军是一(yi)位自(zi)媒体人，最近打算写一(yi)篇关于“年轻人该(gai)不该(gai)啃老(lao)”的(de)话题。当他翻开手机，搜索(suo)这个话题时，发现(xian)多半网(wang)友都不支持年轻人啃老(lao)，这与他的(de)观(guan)点异常同等。

不料，有同事报告他，目前多半年轻人都以为，“啃老(lao)没(mei)什么成绩(ji)，人生就是拿来(lai)享(xiang)受的(de)！”这让王军感到诧异，同事将手机拿到王军面前：“你(ni)看，满屏都是支持啃老(lao)的(de)观(guan)点。”而当王军也将自(zi)己的(de)手机页面展示给同事时，两人只(zhi)能面面相觑。

“判断用户价值导向并非难(nan)事，有多种方法可(ke)以评(ping)价。比如，抓取用户寓目某话题的(de)停顿时间、分析留言是正(zheng)面还是负面、统计用户点赞记录等，都可(ke)以用来(lai)判定用户观(guan)点，然后依据‘内容类似度’和‘用户类似度’，把最受承认的(de)内容推荐(jian)到页面上(shang)。”朝阳进一(yi)步解(jie)释，“算法”正(zheng)在某种程度上(shang)充当了内容“编辑”的(de)脚色，是否推送、推送给谁(shui)、推送多少，都是预先设定好的(de)程序说了算。

近年来(lai)，针对“算法”引发的(de)乱象，监管部门多措并举，通过约谈、惩罚、整改、下架等手段鼎力(li)大举净化网(wang)络风气。然而，怎样有效通过“算法”提倡正(zheng)确导向的(de)信息，还是有待破解(jie)的(de)命题。

朝阳表示，固然“算法”作为一(yi)项技(ji)能是中性(xing)的(de)，但其模型计划(hua)、数据分析等都离不开计划(hua)者的(de)小(xiao)我私家挑(tiao)选，其主观(guan)认识会耳濡目染地嵌入“算法”系统。同时，由(you)于“算法”计划(hua)具有较高的(de)技(ji)能门槛，其计划(hua)过程有如一(yi)只(zhi)黑箱，外界很(hen)难(nan)洞(dong)悉其中道理和逻辑，因此，也很(hen)难(nan)判定“算法”体现(xian)了哪种导向。

朝阳的(de)说法不断被现(xian)实(shi)印证。由(you)于多半“算法”计划(hua)者不会将运算细节公之于众，即使公然，也很(hen)难(nan)准(zhun)确判定。由(you)于缺乏专(zhuan)业技(ji)能知识，用户正(zheng)在权益遭到损害时，依法维权的(de)成本较高。多起因“算法”引起的(de)诉讼均没(mei)有得(de)到理想的(de)判罚效果。

“‘算法’推荐(jian)作为一(yi)种商业秘密(mi)和技(ji)能秘密(mi)，运用过程中又往(wang)往(wang)涉及(ji)社会公共(gong)利益，怎样均衡(heng)、把握对‘算法’推荐(jian)法律规制的(de)边境，是面临的(de)一(yi)大难(nan)题。”北(bei)京大学(xue)法学(xue)院副院长薛军以为，正(zheng)在司(si)法以及(ji)行政理念(nian)上(shang)，需要(yao)将“算法”的(de)运用作为“算法”运营者举动的(de)延(yan)长。无论运营者是否存正(zheng)在不对、是否存正(zheng)在行政违(wei)法等，“算法”因素(su)都应被纳入追责的(de)考(kao)量(liang)局限。

焦点

凝聚合(he)力(li)范例“算法”

随着公众对“算法”持续关注，加(jia)强“算法”范例的(de)呼声也愈(yu)来(lai)愈(yu)高。一(yi)项调查显示，超过70%受访者表示曾被“算法”推荐(jian)服务搅扰，超过60%受访者以为生活中普遍存正(zheng)在“大数据杀熟”。绝大多半用户以为，“算法”推荐(jian)技(ji)能暗(an)藏了窥探、泄(xie)露用户小(xiao)我私家隐私的(de)重大风险。滥用“算法”的(de)举动，侵害了消耗(hao)者的(de)知情权、挑(tiao)选权和小(xiao)我私家信息权益，也给网(wang)络空间的(de)传播秩序带来(lai)负面影响。

正(zheng)在这个配景下，一(yi)些用户进展关闭“算法”推荐(jian)功效，停止(zhi)将小(xiao)我私家信息分享(xiang)给平台使用。正(zheng)在有关部门督导下，各大网(wang)络平台都上(shang)线了关闭“算法”推荐(jian)的(de)功效，将是否收集用户偏好的(de)挑(tiao)选权交还用户。

然而，平台个性(xing)化推荐(jian)存正(zheng)在关闭难(nan)等成绩(ji)。上(shang)海市消保委(wei)曾对消耗(hao)者常用的(de)10款手机软件展开为期8个月的(de)专(zhuan)项测评(ping)，效果显示，关闭个性(xing)化推荐(jian)最多需7步。

记者登录几个下载排名靠前的(de)主流手机软件，目前关闭“算法”推荐(jian)功效的(de)体式格局主要(yao)是通过“小(xiao)我私家设置”来(lai)操作。操作步骤与此前调查效果同等，大多仍需要(yao)5—7步。记者随机采访了20名手机用户，绝大多半表示并不晓得(de)手机软件还有关闭“算法”推荐(jian)的(de)功效，只(zhi)有1位用户知道该(gai)功效并懂得(de)具体操作。

“这种景象反映了业界的(de)矛盾生理，一(yi)方面不进展用户大规模关闭‘算法’，另一(yi)方面也认识到，只(zhi)有范例才(cai)能长远(yuan)。”朝阳说，范例“算法”，需要(yao)社会各界发挥合(he)力(li)，探求最至公约数。

“有效治理‘算法’乱象，是构建(jian)安全明亮清明的(de)网(wang)络生态的(de)幸免请求。”中国(guo)政法大学(xue)副教(jiao)授郑玉双表示，要(yao)健全“算法”的(de)法律规制模式，破解(jie)“算法”的(de)法律规制难(nan)题，完成算法善(shan)治。

“对付‘算法’运用是否产生不良后果，要(yao)建(jian)立一(yi)种社会性(xing)的(de)评(ping)议机制进行持续性(xing)的(de)跟踪研讨。如果社会评(ping)议机制有充分的(de)理由(you)，认定特(te)定‘算法’的(de)运用导致(zhi)不良后果，就应该(gai)启(qi)动问责机制，请求相应的(de)‘算法’运营者予以解(jie)释与说明并作出优化。”薛军发起。（记者 卢泽华）

《 人民日报海外版(ban) 》（ 2024年02月05日 第 08 版(ban)）

责编：庄鹏(peng)泽、姚凯红