综述｜应对AI虚假信息，多国媒体加速构建“真实性”防线

2024-10-17 14:52 新华网责任编辑：吴静

新华社乌鲁木齐10月16日电　综述｜应对AI虚假信息，多国媒体加速构建“真实性”防线

新华社记者

人工智能（AI）在拓展创意边界、提升传播效能的同时，也带来虚假信息泛滥、知识产权侵权等隐忧，给国际传播生态建设带来新挑战。一些媒体和国际组织开始探索如何应用AI新技术应对AI虚假信息，“用技术对抗技术，用魔法打败魔法”。

“虚假信息出现在战争中并不是什么新鲜事，但它在数字时代获得了前所未有的力量。”在14日于新疆乌鲁木齐召开的第六届世界媒体峰会开幕式上，谈到虚假信息对现实世界造成的破坏，红十字国际委员会东亚地区代表处传播部主管巴昱华表示关切。

生成式AI和大模型技术的应用，让世界进入了数字信息“眼见不一定为实，耳听不一定为真”的时代。声音、视频、图像等多模态AI“深度伪造”内容的出现，营造出越来越多的虚假信息迷雾。

“生成式AI技术将增加制作精良的错误信息和虚假信息的风险。在一个内容如此丰富的世界里，对可信新闻来源、强有力的事实核查和透明度的需求只会越来越大。”路透社亚太副总裁颜灵思在媒体峰会期间表示。

美国新闻可信度评估与研究机构一直在跟踪评估生成式AI制造虚假信息的能力。该机构去年底发布的一份报告显示，利用AI代理创建的假新闻网站在7个月内从49个增至600多个。

尽管AI的应用带来了整个媒介生态的变革，使信息传播环境日趋多样化和复杂化，但当中不变的是媒体坚守事实与真相的使命与责任。

“技术为我们开启了新机遇，但也带来了新挑战。人工智能不仅会提高新闻传播的效率，也要求我们重新思考我们的道德标准。”匈牙利ATV媒体集团首席执行官科瓦奇·陶马什说，“我坚信，坚守真相和事实仍然是我们媒体的核心，是我们在数字时代的责任。”

面对数字时代虚假信息生产及传播的新特点，如何加强规范与引导，从源头上减少不实信息生成；如何善用新技术手段，确保内容溯源和可信度，成为多国媒体的共同关切。

在第六届世界媒体峰会上，新华社国家高端智库面向全球发布《人工智能时代新闻媒体的责任与使命》智库报告。报告对全球53个国家和地区的新闻媒体机构所做的调查显示，针对生成式AI在传媒行业的应用可能产生的负面效果，85.6%的受访对象都支持以某种形式加强规范与治理。

在峰会现场，中外嘉宾就如何应对AI滥用造成的虚假信息传播展开热议。“本次峰会为全球媒体在应对虚假信息、错误信息和仇恨言论中增强信息可信度方面，创造了机会。”联合国发展系统驻华协调员常启德在峰会期间发表视频讲话时说。

联合国机构和多国媒体等已开始加速构建“真实性”防线。常启德说，联合国今年发布了“全球信息诚信原则”，敦促各国政府、科技企业、广告商、公关公司和媒体合作，共同建立一个更具道德的信息生态系统。

全球范围内，新华社、路透社、英国广播公司、美国全国公共广播电台等机构制订了AI行为规范和指南，防范AI在媒体行业应用中可能带来的违背真实性的风险。

“在AI帮助下制造的每一个威胁，技术本身都能提供有效的‘解药’。”《俄罗斯报》社长帕维尔·涅戈伊察说，AI能发现“深度伪造”，阻止欺诈者的行动等。

面对公众易对人工智能生成内容“信以为真”的情况，多方呼吁对人工智能生成内容添加标签，帮助公众辨别真假。今年9月，中国国家互联网信息办公室就《人工智能生成合成内容标识办法（征求意见稿）》公开征求意见，指出网络信息服务提供者应当按照有关强制性国家标准的要求进行标识。2023年，法新社联合欧洲主要媒体机构发布有关AI信息监管和行业倡议的声明，要求生成式AI模型和用户必须清晰、具体、一致地标识其输出内容中包含的人工智能生成内容。

一些媒体已开始与科技公司合作，共筑“真实性防火墙”。英国广播公司和美国奥多比、谷歌、英特尔、微软等公司联合创立内容来源和真实性联盟。该联盟围绕为数字媒体提供内容真实性标签和历史溯源信息服务系统展开工作。

未来，AI的应用无疑会让信息环境复杂度进一步增加，坚持“真实性是新闻的生命”，为民众拨开虚假信息的迷雾，营造清朗的舆论环境，媒体应起而行之。

关键词：AI,真实性,虚假信息,多模态,谷歌

本
网
声
明

本网转载内容出于更直观传递信息之目的。该内容版权归原作者所有，并不代表本网赞同其观点和对其真实性负责。如该内容涉及任何第三方合法权利，请点击投诉按钮，我们会及时反馈并处理完毕。

投诉

新闻中心