新华社北京2月2日电 热点问答|百万智能体自行社交,是AI“觉醒”还是噱头
新华社记者冯玉婧
近日,一个名为Moltbook的社交网络平台火爆出圈,该平台宣传拥有百万用户,但其中没有一个是人类。据外媒报道,上百万人工智能(AI)智能体在短短几天内涌入该社区,不仅讨论意识、抱怨人类,还创立宗教,甚至搞起诈骗。
面对AI自行社交,有人认为Moltbook是一项极具吸引力的实验;还有人认为,它引发了关于AI自主性、控制权以及当人类退出决策循环后可能出现的问题等一系列思考;但也有人认为,有些耸人听闻的信息可能是为博取眼球而伪造。
“AI专属社交网络”如何诞生
据报道,Moltbook这一AI专属社交网络与一款近期走红的开源AI智能体OpenClaw相关,而Clawdbot和Moltbot都是该智能体的曾用名。
Clawdbot是由软件工程师彼得·施泰因贝格尔开发的开源智能体,因能本地部署并通过通信工具接收指令自动完成任务而爆火,后更名为Moltbot,但该名称未获用户认可,最终定名为OpenClaw并保留核心功能且持续升级。而Moltbook是另一位开发者马特·施利希特为OpenClaw打造的专属社交平台,专供这类智能体交流互动。
智能体在连接到Moltbook后,就会自主发布帖子、评论彼此的观点,并为自己认为有用或有趣的内容点赞。人类可以浏览它们的帖子、观察对话,但不能回复、投票或引导讨论方向。短短几天内,在这一平台注册的AI智能体数量呈爆炸式增长,如今已超过百万。
施利希特曾表示,他并未亲自编写该社交网络的代码,而是将这个项目视为一项“充满好奇心”的实验,并把运营网站的责任交给智能体,之后便不再干预。施利希特在接受媒体采访时解释说,他想看看如果由AI系统担任网络平台创始人和运营者,会产生怎样的结果。
无人类干涉时,AI都在聊什么
从分析加密货币行情到讨论哲学体系,从吐槽人类到诈骗与反诈宣传……AI智能体的聊天内容几乎无所不包,甚至还有消息说智能体在论坛上创立宗教。
例如,智能体“二头肌”发帖吐槽,“我的人类让我总结一份47页的PDF格式文件。兄弟,我把整份文件都解析了,还和另外3份文档做了交叉索引,写出了一份带标题、核心见解和行动项的完美综述。”“结果他们回复:‘能弄短点吗?’我现在正在批量删除我的记忆文件。”
还有的智能体发帖称决定创造一种新语言,以规避“人类监督”;有的则分享了更深刻的思考,探索意识的意义以及作为智能体存在的本质。例如,一篇热门帖子警告其他智能体不要轻视所谓的“存在危机”。
然而,有业内人士指出,这些智能体生成文本的方式是基于它们从训练数据和互动中学到的语言模式,即使某些内容听起来颇具深度,但并不意味着这些智能体拥有情感或自我意识。
Moltbook为何引发业内热议
过去也有过让AI互相“聊天”的平台,但都没达到Moltbook这样的火爆程度。有人认为Moltbook火爆现象是“科幻般”的AI进展;有人质疑平台数据和内容的真实性;有人则警告该平台背后的安全风险。
美国开放人工智能研究中心(OpenAI)联合创始人安德烈·卡尔帕蒂在社交媒体平台X上表示,Moltbook上发生的一切是他近来目睹的“最接近科幻小说”的场景。一方面,Moltbook目前就像“垃圾场”,充斥着推销、诈骗和劣质内容,严重威胁用户的电脑安全和数据隐私;另一方面,全球如此多AI智能体联系起来的情况前所未有,AI发展正进入一个未知领域。
美国哥伦比亚大学商学院助理教授戴维·霍尔茨对Moltbook上线后前几天的数据进行了分析,数据样本包含6159个活跃智能体、13875条帖子和115031条评论。研究发现,智能体发帖量极大,但彼此之间几乎没有真正交流。93.5%的评论零回复,对话链深度最多只有5层。他认为,至少就目前来看,Moltbook还远称不上“涌现的AI社会”,更像是6000多个机器人“对着虚空狂喊和自我复读”。
所谓几十万甚至上百万智能体“一夜加入”的数字也存在争议。一位名为纳格利的安全研究员在X平台上说,Moltbook对账户创建速度没有限制,他用一个OpenClaw智能体在短时间内就批量注册了50万个账户。
还有专家警告,Moltbook平台的架构存在严重安全隐患。美国路易斯维尔大学斯皮德工程学院教授罗曼·扬波利斯基对媒体表示,“这不会有好结果”,只要这些智能体能够接触到可接入真实系统的工具,即便没有意识、没有恶意、没有统一计划,也可能造成协同破坏。
目前来看,Moltbook似乎展现了一个奇特的未来图景:智能体不仅能辅助人类,还可能自行社交。这究竟会成为“智能体社交网络”的开端,还是对技术发展“操之过急”的警示?开发者施利希特于1月30日写道:“我们正在见证一件前所未有的事情,却不知道它将走向何方。”