福建官方新闻门户
简繁互换
设为首页
设为收藏
手机版
东南网 / 新闻频道 / 天下 / 环球新闻 / 正文

新研究：新技术助力人工智能减少“胡诌”

2024-06-26 09:26 新华网 责任编辑：陈曦

新华社北京6月25日电 人工智能(AI)中广泛使用的大语言模型不时出现的“一本正经地胡诌”是其难以克服的问题。近日,英国牛津大学研究团队开发出一种名为“语义熵”的新方法,有望大幅提升AI回答的可靠性。

大语言模型的“胡诌”在业界被称为“幻觉”,牛津大学计算机科学系的研究人员提出“语义熵”方法试图解决这一问题。在热力学中,熵描述的是系统的混乱或者说不稳定程度。这项研究中,熵衡量了大语言模型回答的不确定性,不确定性高意味着大语言模型的回答可能存在虚构。

该研究成果已发表在近期出版的英国《自然》杂志上。论文中说,如果AI对同一个问题,给出了许多语义相似的答案,那说明它对自己的回答比较有把握;反之,如果答案五花八门,那就意味着AI自己也“心里没底”,很可能是在“胡诌”。

研究人员利用“语义熵”方法,让大语言模型对同一问题生成多个答案,然后将语义相近的答案聚类,最后根据聚类结果计算熵值。熵值越高,表示大语言模型的回答越不确定。

值得注意的是,这一方法不仅考虑了大语言模型回答的字面差异,更关注语义层面的一致性。这使得“语义熵”能够更准确地识别AI的“胡诌”,而不会被表达方式的多样性所迷惑。

研究结果表明,“语义熵”方法在多个数据集和任务中都表现出色,能有效检测大语言模型的错误回答,并通过拒绝回答不确定的问题来提高整体准确率。更重要的是,这一方法无需修改AI模型本身,可以直接应用于现有的大语言模型。

研究人员说,“语义熵”技术有望在问答系统、文本生成、机器翻译等多个领域发挥重要作用,帮助AI生成更可靠、更有价值的内容。这不仅将提升AI在实际应用中的表现,也将增强用户对AI系统的信任。

本
网
声
明
本网转载内容出于更直观传递信息之目的。该内容版权归原作者所有，并不代表本网赞同其观点和对其真实性负责。如该内容涉及任何第三方合法权利，请点击投诉按钮，我们会及时反馈并处理完毕。
投诉
新闻中心
  • 快讯
  • 国内
  • 国际
  • 娱乐
  • 体育
点击加载更多>>>
点击加载更多>>>
点击加载更多>>>
点击加载更多>>>
点击加载更多>>>
栏目推荐
环球新闻
视频精选
视频频道
讲好节约集约用地、保护耕地故事。第34个全国土地日福建主场活 ...
沿着国道G228看福建｜在霞浦三沙，邂逅一场光影的浪漫
走！沿着国道G228看福建去

关注东南网微信

扫码关注，了解福建

新闻推荐
新闻中心
图文精选
精彩图片
湖南长沙遭遇强降雨
江西多地遭遇强降雨天气
山东港口烟台港：1-5月商品车运量同比增长三成
“杭州西湖日” 雨中游西湖
河北：1000千伏特高压变电站扩容 保障京津冀电网运行安全
浙江湖州：积极推进农田万亩方连片整治
排行榜
  • 日排行
  • 周排行
  • 月排行
专题精选
专题频道
关于我们 | 广告服务 | 网站地图 | 网站公告
国新办发函[2001]232号 闽ICP备案号(闽ICP备05022042号) 互联网新闻信息服务许可证 编号：35120170001 网络文化经营许可证 闽网文〔2019〕3630-217号
信息网络传播视听节目许可（互联网视听节目服务/移动互联网视听节目服务）证号：1310572 广播电视节目制作经营许可证（闽）字第085号
网络出版服务许可证 （署）网出证（闽）字第018号 增值电信业务经营许可证 闽B2-20100029 互联网药品信息服务（闽）-经营性-2015-0001
福建日报报业集团拥有东南网采编人员所创作作品之版权，未经报业集团书面授权，不得转载、摘编或以其他方式使用和传播
职业道德监督、违法和不良信息举报电话：0591-87095403（工作日9:00-12:00、15:00-18:00） 举报邮箱：jubao@fjsen.com 福建省新闻道德委举报电话：0591-87275327