超七成用户表示曾被“算法”推荐服务困扰,认为“算法”潜藏风险
别让“算法”成为“算计”(“融”观中国)
——透视“算法”系列报道之二
你是否有过这样的经历:阅读一条新闻,同类新闻便源源不断推送过来;浏览一件产品,产品广告就会接踵而至;甚至,不经意间聊到某话题,相关信息也会纷至沓来,手机好像无时无刻不在记录着你的只言片语……这些都不是巧合,而是“算法”计算的结果。
因为“计算”,用户获取信息成本大幅降低,网络服务更加精准高效。然而,越来越多用户担心被“算计”,日益关注“信息茧房”“大数据杀熟”“诱导沉迷”等问题。“别让‘算法’成为‘算计’”成为网民共同心声。
痛点
“流量至上”引发乱象
最近,北京市民王兰遇到一件令人啼笑皆非的事情:儿子睿睿还不到10岁,手机却频繁收到各种相亲信息。追根究底,原来是儿子前几天误点了一则相亲广告。这让王兰感到担忧:“网络对用户信息的收集已到了无孔不入的程度。”
大学生宋凡不久前下载了一款阅读软件。打开后,一篇标记着“您可能感兴趣”的小说被推送至界面。“这不恰好是我喜欢的作者吗?”他点开链接,一看就是一个多小时。看完后,系统又推荐了这篇小说的“番外”。不知不觉,他一连“刷”了几个小时,连老师布置的课题都忘了写。
“这就是‘算法’的作用。”杭州某互联网公司的算法工程师向阳介绍,“手机软件可以随时抓取用户数据,通过智能模型分析人们的行为、习惯和喜好,过滤掉用户不感兴趣的内容,推荐用户感兴趣的信息。”
他透露,对一些商业平台来说,使用“算法”的主要目的是提升流量,提高收益,至于推送的信息是优质还是劣质、会否带来网络沉迷等问题,则不在考虑之列。“就像小孩喜欢吃糖,有些商家的唯一目标是尽可能卖更多糖给孩子,至于会不会影响健康,不是他们关心的。”
这种“流量至上”的商业逻辑,促使一些网络平台借助“算法”频繁推送用户感兴趣的同质化内容,更有甚者,以博人眼球的劣质低俗内容取悦用户。久而久之,用户接收信息的范围就会变窄,渠道也变得单一,从而陷入人们常说的“信息茧房”。
除了“信息茧房”,频受诟病的还有“算法歧视”。所谓“算法歧视”,是指在“算法”设计和应用过程中,由于偏见、歧视性数据集或其他因素导致的“不公平结果”。
家住石家庄的刘女士,孩子在北京上大学,她每次来京探望孩子都会入住校旁一家酒店。今年初,她通过某手机软件预订一个房间,价格每晚近800元。可她办入住时发现,有客人预定了同样房型,价格只要600元。经过比对,两人在同一手机软件上看到的价格完全不一样。
“我还是这家酒店的白金卡客户呢,非但没有享受到优惠,反而还被‘宰’了,孩子告诉我,这叫‘大数据杀熟’!”
“大数据杀熟”是“算法歧视”的表现形式之一。指平台利用“算法”进行用户“画像”, 如果用户已是熟客,就不再需要低价吸引,同时,平台可能通过搜集消费数据检测到用户消费能力,从而“定向”抬高价格。向阳表示,“算法歧视”一度甚嚣尘上,买机票、打网约车甚至网络购物,都会被“大数据杀熟”,后来有关部门强力监管,这种现象才有所收敛,但目前仍在业界不同程度存在。
难点
“算法”违规不易评判
有网友总结,“算法”推荐的劣质信息有三个特点:真假难辨、缺乏深度、价值导向错乱。不少人认为,“价值导向错乱”是规范“算法”的最大难点。
王军是一位自媒体人,最近打算写一篇关于“年轻人该不该啃老”的话题。当他打开手机,搜索这个话题时,发现多数网友都不支持年轻人啃老,这与他的观点非常一致。
不料,有同事告诉他,现在多数年轻人都认为,“啃老没什么问题,人生就是拿来享受的!”这让王军感到诧异,同事将手机拿到王军眼前:“你看,满屏都是支持啃老的观点。”而当王军也将自己的手机页面展示给同事时,两人只能面面相觑。
“判断用户价值导向并非难事,有多种方法可以评价。比如,抓取用户观看某话题的停留时间、分析留言是正面还是负面、统计用户点赞记录等,都可以用来判定用户观点,然后依据‘内容相似度’和‘用户相似度’,把最受认可的内容推荐到页面上。”向阳进一步解释,“算法”在某种程度上充当了内容“编辑”的角色,是否推送、推送给谁、推送多少,都是预先设定好的程序说了算。
近年来,针对“算法”引发的乱象,监管部门多措并举,通过约谈、处罚、整改、下架等手段大力净化网络风气。然而,如何有效通过“算法”倡导正确导向的信息,仍是有待破解的命题。
向阳表示,虽然“算法”作为一项技术是中性的,但其模型设计、数据分析等都离不开设计者的个人选择,其主观意识会潜移默化地嵌入“算法”系统。同时,由于“算法”设计具有较高的技术门槛,其设计过程有如一只黑箱,外界很难洞悉其中原理和逻辑,因此,也很难判定“算法”体现了哪种导向。
向阳的说法不断被现实印证。由于多数“算法”设计者不会将运算细节公之于众,即使公开,也很难准确判定。由于缺乏专业技术知识,用户在权益受到损害时,依法维权的成本较高。多起因“算法”引起的诉讼均没有得到理想的判罚结果。
“‘算法’推荐作为一种商业秘密和技术秘密,应用过程中又往往涉及社会公共利益,如何平衡、把握对‘算法’推荐法律规制的边界,是面临的一大难题。”北京大学法学院副院长薛军认为,在司法以及行政理念上,需要将“算法”的运用作为“算法”运营者行为的延伸。无论运营者是否存在过错、是否存在行政违法等,“算法”因素都应被纳入追责的考量范围。
焦点
凝聚合力规范“算法”
随着公众对“算法”持续关注,加强“算法”规范的呼声也越来越高。一项调查显示,超过70%受访者表示曾被“算法”推荐服务困扰,超过60%受访者认为生活中普遍存在“大数据杀熟”。绝大多数用户认为,“算法”推荐技术潜藏了窥探、泄露用户个人隐私的重大风险。滥用“算法”的行为,侵害了消费者的知情权、选择权和个人信息权益,也给网络空间的传播秩序带来负面影响。
在这个背景下,一些用户希望关闭“算法”推荐功能,停止将个人信息分享给平台使用。在有关部门督导下,各大网络平台都上线了关闭“算法”推荐的功能,将是否收集用户偏好的选择权交还用户。
然而,平台个性化推荐存在关闭难等问题。上海市消保委曾对消费者常用的10款手机软件开展为期8个月的专项测评,结果显示,关闭个性化推荐最多需7步。
记者登录几个下载排名靠前的主流手机软件,目前关闭“算法”推荐功能的方式主要是通过“个人设置”来操作。操作步骤与此前调查结果一致,大多仍需要5—7步。记者随机采访了20名手机用户,绝大多数表示并不知晓手机软件还有关闭“算法”推荐的功能,只有1位用户知道该功能并懂得具体操作。
“这种现象反映了业界的矛盾心理,一方面不希望用户大规模关闭‘算法’,另一方面也意识到,只有规范才能长远。”向阳说,规范“算法”,需要社会各界发挥合力,寻找最大公约数。
“有效治理‘算法’乱象,是构建安全清朗的网络生态的必然要求。”中国政法大学副教授郑玉双表示,要健全“算法”的法律规制模式,破解“算法”的法律规制难题,实现算法善治。
“对于‘算法’运用是否产生不良后果,要建立一种社会性的评议机制进行持续性的跟踪研究。如果社会评议机制有充分的理由,认定特定‘算法’的运用导致不良后果,就应该启动问责机制,要求相应的‘算法’运营者予以解释与说明并作出优化。”薛军建议。(记者 卢泽华)
2023年,中国新增可再生能源装机容量占全球新增可再生能源总装机容量的约六成,为全球能源转型、共建清洁美丽世界作出了重要贡献。近期,中国企业签署 ...
记者11月4日从中国农业科学院深圳农业基因组研究所了解到,该所研究员周永锋团队开发了一种利用人工智能指导葡萄育种的新方法,有望缩短育种周期,加速 ...
题:“蟹卡”提货、民宿预订等消费纠纷多发 中消协发布三季度消费投诉热点 一些聚合平台商户入驻门槛低,部分票务代理商实际并无代理权,消费者通过平台 ...
10月30日,在北京链家石景山签约服务中心,购房者在了解房屋买卖签约事宜。9月底以来,北京、上海、深圳、广州等地因城施策,推出了一系列力度大、“ ...
今年第22号台风“银杏”已于今天(11月5日)早晨由强热带风暴级加强为台风级,早晨5点钟其中心位于菲律宾马尼拉偏东方向约780公里的西北太平洋洋 ...
国家发展改革委方面表示,将加大推广以工代赈方式力度,吸纳带动更多低收入群众务工就业,持续扩大劳务报酬发放规模,充分发挥“赈”的实效。国家发展改革 ...
记者4日从民政部获悉,2024年前三季度,各级民政部门共依法处置非法社会组织659家,其中取缔152家、劝散383家、引导登记124家;发布涉嫌 ...
记者4日从财政部了解到,财政部、教育部、中国人民银行、国家金融监管总局日前联合发布通知称,为进一步加大对高校家庭经济困难学生的支持力度,更好满足 ...
能源法草案11月4日提请全国人大常委会会议三次审议。为适应保障能源安全和绿色低碳转型的需要,草案三审稿增加规定,“国家建立健全能源标准体系,保障 ...
这位负责人表示,以实施管理办法为契机和抓手,将大力推进入河排污口排查整治,依法依规实施审批登记,加强事中事后监管。加快建成法规体系比较完备、技术 ...
2023年,中国新增可再生能源装机容量占全球新增可再生能源总装机容量的约六成,为全球能源转型、共建清洁美丽世界作出了重要贡献。近期,中国企业签署 ...
记者11月4日从中国农业科学院深圳农业基因组研究所了解到,该所研究员周永锋团队开发了一种利用人工智能指导葡萄育种的新方法,有望缩短育种周期,加速 ...
题:“蟹卡”提货、民宿预订等消费纠纷多发 中消协发布三季度消费投诉热点 一些聚合平台商户入驻门槛低,部分票务代理商实际并无代理权,消费者通过平台 ...
10月30日,在北京链家石景山签约服务中心,购房者在了解房屋买卖签约事宜。9月底以来,北京、上海、深圳、广州等地因城施策,推出了一系列力度大、“ ...
今年第22号台风“银杏”已于今天(11月5日)早晨由强热带风暴级加强为台风级,早晨5点钟其中心位于菲律宾马尼拉偏东方向约780公里的西北太平洋洋 ...
国家发展改革委方面表示,将加大推广以工代赈方式力度,吸纳带动更多低收入群众务工就业,持续扩大劳务报酬发放规模,充分发挥“赈”的实效。国家发展改革 ...
记者4日从民政部获悉,2024年前三季度,各级民政部门共依法处置非法社会组织659家,其中取缔152家、劝散383家、引导登记124家;发布涉嫌 ...
记者4日从财政部了解到,财政部、教育部、中国人民银行、国家金融监管总局日前联合发布通知称,为进一步加大对高校家庭经济困难学生的支持力度,更好满足 ...
能源法草案11月4日提请全国人大常委会会议三次审议。为适应保障能源安全和绿色低碳转型的需要,草案三审稿增加规定,“国家建立健全能源标准体系,保障 ...
这位负责人表示,以实施管理办法为契机和抓手,将大力推进入河排污口排查整治,依法依规实施审批登记,加强事中事后监管。加快建成法规体系比较完备、技术 ...
全国巾帼家政服务职业技能大赛4日在安徽省合肥市开幕,国务委员、全国妇联主席谌贻琴出席开幕式并宣布开幕。谌贻琴还深入企业、社区等,调研妇联有关工作 ...
依托贵溪冶炼厂的大量电解铜原料供应、铜产业技术人才外溢,让贵溪成为铜加工企业设厂生产的优选之地。据统计,过去10年来,贵溪规上铜企过半选择在当地 ...
神舟十八号载人飞船返回舱4日在东风着陆场成功着陆,神舟十八号乘组在轨飞行总时长达到192天,刷新我国航天员乘组在轨飞行时长新纪录。
这是全球首座投入商业运行的第四代核电站,也是国家科技重大专项标志性成果。项目团队还完成了模块式高温气冷堆反应堆压力容器、控制棒和吸收球系统、燃料 ...
(记者王珂)举行进博新品、国潮精品和丝路云品“三品首发活动”,推出“进博美食新品”、发放餐饮消费券,组织“都市乐游新场景”系列活动、推出20条“ ...
(记者吴丹)近日,教育部、中央宣传部、中央网信办、科学技术部、公安部、民政部、住房和城乡建设部、文化和旅游部、国家卫生健康委员会、市场监管总局、 ...
今年以来,南方电网积极推进贵州省贵阳市清洁能源电力上网,提升电力服务地方产业发展能力。国家能源局综合司副司长张星介绍,《意见》围绕提升可再生能源 ...
根据中央关于巡视工作的统一部署,近日,中央第九巡视组巡视人民日报社工作动员会召开。中央第九巡视组组长王新哲作了动员讲话,对深入学习贯彻习近平总书 ...
(记者刘诗瑶)记者从自然资源部获悉:前三季度海洋经济呈现稳中有进态势。海洋交通运输业持续向好,海洋货运量、货物周转量同比分别增长5.6%、8.5 ...
10月30日,丹江口市水库水质安全保障指挥中心工作人员周淑婷在工作。10月30日,丹江口市水库水质安全保障指挥中心工作人员在进行视频巡查。新华社 ...
晁永福是宁夏固原市彭阳县水土保持工作站站长,也是土生土长的彭阳人。彭阳县第一单水土保持项目碳汇交易凭证。新华社发 今年9月12日,彭阳县完成了 ...
北京大兴区消防救援支队西红门特勤站副站长司天崇介绍,鉴别真假消防员可以通过以下几种方法: 查看制服和证件。联系消防部门核实,如果对消防员身份有 ...
3日,2024世界无人机竞速锦标赛在杭州落幕。中国飞手罗一萌和何雨瞳闯入女子组决赛,她们的对手是意大利飞手路易莎和泰国飞手万拉亚。随着各单项决赛 ...
记者3日从海南省气象局获悉,预计未来24小时,海南部分市县将出现150毫米左右的强降水,将继续发布暴雨四级预警。据了解,琼中、琼海、屯昌、万宁等 ...
近日,国家发展改革委等相关部门联合印发关于大力实施可再生能源替代行动的指导意见,提出2025年全国可再生能源消费量达到11亿吨标煤以上,2030 ...
林红梅(右一)在安康市紫阳县城关镇一处茶山上拍摄记录茶园春管情况。陈玉坤介绍说,生物质地膜具有传统地膜的各项作用和优点,又能减少塑料污染,实现农 ...
舞水袖、转折扇、化戏妆……近日,中国戏剧梅花奖获得者们带着传统地方戏剧走进高校,用充满互动性的上课方式,让在场师生领略了中华优秀传统文化的独特魅 ...
中国国际消费中心城市精品消费月11月3日在上海举行启动仪式,上海迎进博消费嘉年华活动同步启动。启动仪式上,上海、北京、广州、天津、重庆五个城市分 ...
预计,11月4日08时至5日08时,内蒙古东部、河北北部、天津、辽宁西部和中南部、山东半岛等地将有5~6级、阵风7~8级的大风,沿海地区阵风可达 ...
3日的石家庄·鹿泉半程马拉松吸引了全国各地的近5000名跑友参赛,赛事设置半程马拉松和5公里健康跑两个项目。作为全国最北的冰雪半程马拉松赛事,“ ...
神舟十八号航天员乘组计划11月4日返回东风着陆场,东风着陆场10月31日晚至11月1日凌晨组织所有搜救力量展开最后一次全系统综合演练,检验返回段 ...
根据多家银行公告,此次调整适用于浮动利率定价的商业性个人住房贷款,主要从加点幅度调整和重定价周期调整两个方面进行优化完善。商业性个人住房贷款利率 ...
短短9天完成银行授信,这让江苏泰兴市朝阳机械有限公司总经理朱展连呼没想到。发力打造高能级创新平台,江苏推动民营企业与科研院所、高校等共建重点实验 ...
国防部新闻发言人张晓刚10月31日就近期涉军问题答记者问。张晓刚说,美方违背自身承诺,变本加厉武装台湾,给“台独”势力壮胆打气,妄图加速把台湾推 ...
(记者李婕)中国贸促会10月31日发布的《2024年第三季度中国外资营商环境调研报告》显示,九成受访外资企业对中国营商环境评价为“满意”及以上, ...
11月1日早晨至上午,北京东部、天津、河北中南部、山东西部、山西中南部、内蒙古西南部、陕西北部等地有大雾天气,其中,北京东部、天津北部、河北中南 ...
10月31日,沪市上市公司2024年三季报披露收官。据统计,第三季度,沪市2265家上市公司净利润、扣非后净利润同比增长8.3%、7.8%,分别 ...
10月31日,由中国饭店协会主办的第二十五届中国美食节在福建省福州市开幕。“中华老字号”福州聚春园集团董事长杨杰表示,近年来,企业加大数字化转型 ...
从客运看,前三季度,全国铁路日均安排开行旅客列车10792列,同比增长9.8%;累计发送旅客33.3亿人次,同比增长13.5%,创历史同期新高, ...
今年前三季度,我国可再生能源装机容量与发电量进一步提升。其中,风电和太阳能发电量合计13490亿千瓦时,同比增长26.3%,与同期第三产业用电量 ...
11月1日08时至2日08时,浙江中东部、上海、江苏东南部等地将有大到暴雨,部分地区有大暴雨(100-180毫米)。2.相关水域水上作业和过往船 ...
中国人民银行31日发布公告,以固定数量、利率招标、多重价位中标方式开展了5000亿元买断式逆回购操作。据悉,买断式逆回购采用固定数量、利率招标、 ...
新华社北京10月31日电题:金秋共绘奋进新图景——10月全国各地经济社会发展观察 随着“两新”(大规模设备更新和消费品以旧换新)政策持续发力,各 ...
国家统计局10月31日发布第三次全国时间利用调查公报。调查结果显示,随着我国数字化、信息化水平不断提高,我国居民时间利用分配和生产生活方式发生了 ...
2024年闽台艺术青年音乐会开幕,本次音乐会由省文旅厅主办,是第九届福建艺术节和两岸艺术青年欢乐汇的重要配套活动。
8月19日,民族歌剧《山海情》点映座谈会在福州举行。演出第一幕,一段混声合唱就将观众带到了贫瘠的戈壁滩。
日前,福建京剧院新编现代京剧《连家灯火》在福州凤凰剧院上演,用京剧艺术的形式推动党的二十届三中全会精神深入人心,讴歌新中国成立75年来的辉煌成就 ...
在9日进行的英超足球联赛中,利物浦在先丢两球的情况下以2:2逼平阿森纳,延缓了“领头羊”的前进速度。水晶宫凭借奥利塞的助攻“帽子戏法”,以5:1 ...
2022-2023赛季法甲足球联赛9日结束了第30轮的全部比赛,积分榜排名第三的马赛在客场被洛里昂以0:0逼平,错失了追赶联赛“领头羊”的机会。 ...
葡萄牙体育队9日晚在葡超足球联赛第27轮比赛中客场以4:3险胜“升班马”卡萨皮亚队,继续排名联赛第四,距离欧冠区还有5分的差距。
2022-2023赛季中国男子篮球职业联赛(CBA)季后赛12进8附加赛10日晚继续进行,北京和广厦分别在主场轻松获胜,在三场两胜的赛制中占得先 ...
当日,中国女足在西班牙伊维萨岛进行赛前训练。作为备战今年女足世界杯的热身赛之一,中国女足与西班牙女足的热身赛将于11日举行。
这位不满26岁的年轻人是否还能更进一步?对于这一疑问,无论王嘉男的中方主管教练还是田径界专家都显示出信心,认为他还有不小的上升空间。
世界乒乓球职业大联盟(WTT)冠军赛布达佩斯站18日在布达佩斯奥林匹克中心拉开战幕,中国选手马龙轻松晋级,陈梦逆转胜出。
2023女足世界杯是该赛事第一次扩大为32支球队参加,由澳大利亚和新西兰联合举办。根据赛程,揭幕战将于7月20日在奥克兰上演,决赛将于8月20日 ...
国家体育总局排球运动管理中心10日发布了《体育总局排球中心关于选聘国家女排主教练的公告》,中国女排新任主帅的选聘工作正式启动。
根据赛程,四个小项的短节目和韵律舞比赛将于14日展开,15日进入自由滑和自由舞比拼,16日则将按照国际赛事惯例进行表演滑。
智库邀请权威学者和知名医师加入,以公益、医疗和科研为三个抓手,旨在充分发挥专家的社会影响力和专业权威性,倡导科学的健身理念,以体育促进大众身心全 ...
“看人,要找人防守,上来阻挡一下。”在广西天等县小山乡中心小学的运动场上,体育老师张世强盯着队员们训练时的跑动情况,不时提醒。
第18届建桥杯中国女子围棋公开赛本赛27日在浙江长兴大唐贡茶院揭开战幕。不久前刚获得全运会混双冠军的老将芮乃伟九段首轮爆冷不敌赵贯汝,被淘汰出局 ...
哈萨克斯坦奥林匹克委员会国际司司长阿利姆然·阿卡耶夫24日表示,针对北京2022年冬奥会和冬残奥会的备战工作正在哈萨克斯坦全面展开,希望哈国运动 ...