新华社北京1月6日电 题:聚焦《互联网信息服务算法推荐管理规定》五大看点
新华社“新华视点”记者
通过大数据“杀熟”实施不合理差别待遇,利用算法诱导用户沉迷网络、过度消费……当前,算法技术广泛渗入互联网应用,在给用户带来一定程度便利的同时,由算法引发的侵害用户权益问题也屡屡出现。
算法推荐是指利用生成合成类、个性化推送类、排序精选类、检索过滤类、调度决策类等技术向用户提供信息。
近日,国家网信办等四部门出台《互联网信息服务算法推荐管理规定》,针对被诟病已久的问题提出明确要求。
大数据“杀熟”如何解?不得实施差别待遇
同样的送餐时间、地点、订单、外卖平台,会员却比非会员多付钱;同时同地打同类型车到同一目的地,某打车平台曾被用户发现熟客反而收费更高。
当前,越来越多的企业利用大数据分析评估消费者的个人特征用于商业营销。但也有一些企业利用个人信息搞大数据“杀熟”,对不同群体进行差别定价,实行“价格歧视”。
规定提出,算法推荐服务提供者向消费者销售商品或者提供服务的,应当保护消费者公平交易的权利,不得根据消费者的偏好、交易习惯等特征,利用算法在交易价格等交易条件上实施不合理的差别待遇等违法行为。
去年10月,腾讯、华为等20余家App运营企业承诺将严守用户个人隐私边界,保护用户公平交易权,不利用大数据“杀熟”。
中国信息安全研究院副院长左晓栋认为,大数据“杀熟”等顽疾归根结底是滥用用户个人信息导致的。解决这类问题,首先要在治理违法违规收集用户个人信息上下功夫,其次要保障用户的选择权、删除权等权益。例如,要向用户提供不针对其个人特征的选项,或向用户提供便捷的关闭算法推荐服务的选项,并提供选择或删除针对其个人特征的用户标签的功能。
诱导用户沉迷、过度消费?促进算法应用向上向善
设置诱导用户沉迷、过度消费的算法模型,已成为备受诟病的网络消费和娱乐现象。
“有的游戏你玩不过去它就给你放点水,导致你像中毒一样停不下来;或者看你反复浏览某件商品,它就显示两件八折、三件七五折这样的优惠,让你尽可能多买。”中国电子技术标准化研究院网安中心测评实验室副主任何延哲说。
规定提出,算法推荐服务提供者应当定期审核、评估、验证算法机制机理、模型、数据和应用结果等,不得设置诱导用户沉迷、过度消费等违反法律法规或者违背伦理道德的算法模型。
中国政法大学数据法治研究院教授王立梅认为,算法推荐服务提供者应当坚持主流价值导向、促进算法应用向上向善的基本要求。规定提出不得设置诱导用户沉迷、过度消费等算法模型,正是将科技向善理念落实为具体业务要求的体现。
“规定提出了要防范出现此类情形,需要相关企业切实做好算法的评估工作,从算法推荐的逻辑、面向的用户群体、浏览和消费行为等多个角度出发进行综合分析。”何延哲建议,为防止算法导致的沉迷或过度消费,必要时还应引入第三方进行评价和评议,以保证评估的中立性。
刷量控评影响网络舆论?确保算法公开透明
利用算法注册虚假账号、雇佣网络“水军”,实施虚假点赞、转发等流量造假,或者鼓动“饭圈”粉丝互撕谩骂、刷量控评;屏蔽信息、过度推荐,操纵干预热搜、榜单或检索结果排序……一些算法推荐服务提供者在开展个性化推荐、热点榜单、信息发布等活动时,还存在影响网络舆论的现象。
根据规定,算法推荐服务应遵循公开透明的原则,鼓励算法推荐服务提供者综合运用内容去重、打散干预等策略,优化规则透明度和可解释性。建立健全算法机制机理审核、科技伦理审查、用户注册、信息发布审核等管理制度,不得利用算法操纵榜单、控制热搜等干预信息呈现。
“针对微博存在的刷量、刷榜、控评等干扰、扭曲真实的用户声音和信息传播等问题,我们一直在努力整治。”微博有关负责人坦言,这些问题屡禁难绝的背后,也有真人刷榜行为比较难发现、对已形成完整产业链的相关黑灰产难以从技术上禁绝等困难的存在。
世辉律师事务所合伙人王新锐认为,规定要求网络平台以显著方式告知用户其提供算法推荐服务的情况,同时要求具有舆论属性或者社会动员能力的平台将算法相关情况予以备案,通过这种“普遍公开+部分备案”的方式来解决算法不透明带来的现实问题和普遍忧虑。
未成年人等特殊群体权益如何保护?精细化满足不同群体诉求
近年来,一些App接连被曝出传播儿童软色情表情包、利用未成年人性暗示短视频引流等问题,严重损害未成年人身心健康,影响网络传播秩序。
“网络为未成年人带来了崭新的生活方式,也产生了未成年人网络保护问题。”中国社会科学院大学副校长林维认为,未成年人存在认知、判断能力较弱,价值观尚未成型等特点,针对性过强的算法推送内容有可能引发各种不良效果,也可能导致沉迷网络现象。
对此,规定提出,算法推荐服务提供者不得向未成年人推送可能引发未成年人模仿不安全行为和违反社会公德行为、诱导未成年人不良嗜好等可能影响未成年人身心健康的信息,不得利用算法推荐服务诱导未成年人沉迷网络。
此外,针对一些平台未充分考虑老年人适老化需求等问题,规定还要求,算法推荐服务提供者向老年人提供服务的,应当保障老年人依法享有的权益,充分考虑老年人出行、就医、消费、办事等需求,按照国家有关规定提供智能化适老服务。
专家指出,在互联网信息服务日益多元化、基础化、普及化的情况下,规定精细化、有侧重地满足不同群体的利益诉求,将更好保障未成年人、老年人、劳动者等群体权益,引导算法应用遵守社会公德和伦理,遵守商业道德和职业道德。
监管如何落地落实?着力完善治理体系
当前,算法等新技术新应用已经成为推动企业数字化转型和国家治理能力现代化的重要力量。专家认为,规定有利于建立健全科学的监管体系,统筹各方建立完整制度链条,形成算法治理长效机制。
“事前监管,确立算法备案、算法评估等制度;区分监管,确立分级分类的思路;系统监管,建立多元共治的局面。”中国信息通信研究院副总工程师王爱华认为,规定着力完善治理体系,通过优化监管框架,实现事前事中事后全流程、全链条监管,增强监管系统性和权威性。
星瀚律师事务所主任律师卫新认为,当前算法技术的应用越来越广泛,对算法的监管需要迎头跟上,未来在具体执行过程中还需形成各类具备可操作性的细则。
“算法推荐作为一种新技术模式,面临一些新型技术安全、应用安全甚至伦理安全风险。”中国电子技术标准化研究院党委书记杨建军建议,为支撑规定落地实施,亟须加强算法安全技术能力建设,建设算法推荐服务备案、算法安全评估、算法安全风险监测等平台,提升算法推荐技术监管能力。(记者王思北、阳娜、周琳、颜之宏)
2024年闽台艺术青年音乐会开幕,本次音乐会由省文旅厅主办,是第九届福建艺术节和两岸艺术青年欢乐汇的重要配套活动。
8月19日,民族歌剧《山海情》点映座谈会在福州举行。演出第一幕,一段混声合唱就将观众带到了贫瘠的戈壁滩。
日前,福建京剧院新编现代京剧《连家灯火》在福州凤凰剧院上演,用京剧艺术的形式推动党的二十届三中全会精神深入人心,讴歌新中国成立75年来的辉煌成就 ...
在9日进行的英超足球联赛中,利物浦在先丢两球的情况下以2:2逼平阿森纳,延缓了“领头羊”的前进速度。水晶宫凭借奥利塞的助攻“帽子戏法”,以5:1 ...
2022-2023赛季法甲足球联赛9日结束了第30轮的全部比赛,积分榜排名第三的马赛在客场被洛里昂以0:0逼平,错失了追赶联赛“领头羊”的机会。 ...
葡萄牙体育队9日晚在葡超足球联赛第27轮比赛中客场以4:3险胜“升班马”卡萨皮亚队,继续排名联赛第四,距离欧冠区还有5分的差距。
2022-2023赛季中国男子篮球职业联赛(CBA)季后赛12进8附加赛10日晚继续进行,北京和广厦分别在主场轻松获胜,在三场两胜的赛制中占得先 ...
当日,中国女足在西班牙伊维萨岛进行赛前训练。作为备战今年女足世界杯的热身赛之一,中国女足与西班牙女足的热身赛将于11日举行。
这位不满26岁的年轻人是否还能更进一步?对于这一疑问,无论王嘉男的中方主管教练还是田径界专家都显示出信心,认为他还有不小的上升空间。
世界乒乓球职业大联盟(WTT)冠军赛布达佩斯站18日在布达佩斯奥林匹克中心拉开战幕,中国选手马龙轻松晋级,陈梦逆转胜出。
2023女足世界杯是该赛事第一次扩大为32支球队参加,由澳大利亚和新西兰联合举办。根据赛程,揭幕战将于7月20日在奥克兰上演,决赛将于8月20日 ...
国家体育总局排球运动管理中心10日发布了《体育总局排球中心关于选聘国家女排主教练的公告》,中国女排新任主帅的选聘工作正式启动。
根据赛程,四个小项的短节目和韵律舞比赛将于14日展开,15日进入自由滑和自由舞比拼,16日则将按照国际赛事惯例进行表演滑。
智库邀请权威学者和知名医师加入,以公益、医疗和科研为三个抓手,旨在充分发挥专家的社会影响力和专业权威性,倡导科学的健身理念,以体育促进大众身心全 ...
“看人,要找人防守,上来阻挡一下。”在广西天等县小山乡中心小学的运动场上,体育老师张世强盯着队员们训练时的跑动情况,不时提醒。
第18届建桥杯中国女子围棋公开赛本赛27日在浙江长兴大唐贡茶院揭开战幕。不久前刚获得全运会混双冠军的老将芮乃伟九段首轮爆冷不敌赵贯汝,被淘汰出局 ...
哈萨克斯坦奥林匹克委员会国际司司长阿利姆然·阿卡耶夫24日表示,针对北京2022年冬奥会和冬残奥会的备战工作正在哈萨克斯坦全面展开,希望哈国运动 ...