新闻分析丨AI模型“克劳德神话”为何引发网络安全担忧

新华社北京4月15日电　新闻分析丨AI模型“克劳德神话”为何引发网络安全担忧

新华社记者林昊　冯玉婧

美国人工智能（AI）企业Anthropic日前披露，该公司研发的最新大模型“克劳德神话（Claude Mythos）”能够自主识别主流软件系统中大量此前未被发现的安全漏洞，并能开发出相应攻击手段。

这一情况在美英等国金融界和科技界引发高度关注与隐忧。国际货币基金组织总裁格奥尔基耶娃12日警告说，全球货币体系尚未做好应对AI风险快速升级的准备。美英监管机构紧急召集多家大型银行代表提示相关风险。与此同时，美国多家主流科技企业正在联合测试该模型，以应对潜在风险。

识别和利用漏洞能力极强

据了解，“克劳德神话”号称在发现软件漏洞方面展现出极强能力，已识别出包括主流操作系统和网络浏览器在内的常用软件程序中的“数千个”漏洞，其中一些漏洞相当隐蔽，难以被常规手段检测到，且这些漏洞绝大多数尚未修复。它发现的最早一个漏洞可追溯至27年前，另外一个在视频处理工具中发现的漏洞，即便在自动化测试工具运行了500万次后，仍未被检测出来。

Anthropic自称，“克劳德神话”是一款通用模型，并非专门针对网络安全训练，但其强大的自主编码和推理能力，使其具备发现网络安全漏洞的突出能力。在没有人工指导的情况下，它能够“完全自主地识别漏洞，并开发出许多相关攻击手段”。

但该公司也承认，这种能强化网络防御的能力，同样可能被攻击者利用。测试显示，“克劳德神话”能够构建复杂的漏洞利用链，实施可绕过多层安全防护的多步攻击，甚至自主实现了权限提升技术。“鉴于人工智能技术的发展速度，这种能力或将迅速扩散，甚至可能落入并非致力于安全应用的主体手中。这对经济、公共安全和国家安全都可能造成严重后果。”

据多家外媒报道，Anthropic在发布“克劳德神话”前，已主动向美国政府及金融等关键行业利益相关方通报了该模型的相关能力。

潜在风险引发金融界担忧

“克劳德神话”的潜在风险已经至少在美国、英国和加拿大引发金融界高度关注。格奥尔基耶娃12日在接受美国哥伦比亚广播公司一档节目采访时表示，目前全球尚不具备足够能力保护国际货币体系免受大规模网络风险冲击，“我们迫切希望各方更加重视在AI时代维护金融稳定所必需的监管防线”。她呼吁就此展开全球合作。

据外媒报道，美国财政部长贝森特和美联储主席鲍威尔7日紧急召集花旗集团、摩根士丹利、美国银行、富国银行和高盛等美国主要金融机构负责人开会，通报了这款新模型可能带来的网络安全风险，以确保银行业充分认识到“克劳德神话”及同类模型带来的威胁，并采取措施保护自身系统。

英国央行、英国金融行为监管局和英国财政部等也正在与英国国家网络安全中心以及各大银行、保险公司和交易所的代表进行紧急磋商，以评估“克劳德神话”所带来的网络安全风险。英国监管机构预计将在未来两周内向金融行业通报相关情况。

Anthropic表示，考虑到“克劳德神话”的潜在风险，暂时不会面向公众发布这款大模型，并启动名为“Glasswing”的合作项目，向微软、亚马逊、谷歌、苹果、思科等40多家科技企业、金融机构以及基础设施服务商开放了“克劳德神话”预览版本的访问权限，使它们能够对模型进行测试，实现“提前防御”。

“Glasswing”项目的参与方将共享各自利用“克劳德神话”发现的漏洞信息，分析自身系统、识别高风险漏洞并加快修复。同时，“克劳德神话”的访问权限受到严格限制，以防有人利用这一模型寻找系统漏洞并发起攻击。

AI正重塑网络安全攻防格局

美国业内人士及媒体普遍认为，AI正在从根本上改变网络安全攻防格局。

思科公司首席安全与信任官格里科认为，AI能力已经跨过一个门槛，从根本上改变了保护关键基础设施免受网络威胁所需的紧迫程度，必须通过多方合作加以应对。美国“众击”网络安全服务公司首席技术官扎伊采夫说，AI使漏洞从被发现到被对手利用之间的时间窗口大幅压缩，过去可能需要数月的过程，如今可能几分钟内就会发生。

美国阿克西奥斯新闻网站的报道指出，美国开放人工智能研究中心（OpenAI）也计划向少数合作伙伴发布一款“具有先进网络安全功能的产品”。报道说，AI的网络攻击能力达到新的临界点，模型开发者越来越担心可能带来的破坏性后果，因此不愿直接公开发布。

美国微软公司前首席研究与战略官克雷格·蒙迪指出，过去只有大国、大企业和大型犯罪组织才能掌握的复杂网络攻击能力，未来可能会“彻底普及”。美国作家托马斯·弗里德曼认为，世界上没有一个国家能够独自解决这个问题。相关国家当务之急是着手开展合作，以防不法分子获得这种更高层次的网络能力。