回到内容

泛滥鱼群

写于 编辑于

最近这段时间,打开 QQ 群或者刷 Bilibili 评论区的时候,常常会有一种恍惚感。

鱼群

自从 DeepSeek 爆火,加上各类智能体( Agent )概念和所谓的 Harness 框架被推到台前,折腾一个属于自己的聊天机器人,门槛一下子降到了最低。像 AstrBot、Snowluma 这一类现成的开源框架,配合 NapCat 等无头客户端,把复杂的底层接口封装得极好。只要租一台便宜的云服务器( 当然也可以跑在本地,只不过会受到开关机限制 ),填上几行 API Key,任何人都能在半个小时内拉起一个全天候在线的聊天机器人。你甚至可以直接告诉 D 老师:全权接管工作区和我的服务器,帮我部署一个聊天机器人。不需要一点常识和技术,用不了 10 分钟,也能完成以往需要折腾一晚上的工作流。

作为一名同样在服务器上跑着 Bot 的玩家,我当然明白也体验过亲手搭起一套工作流的乐趣。前阵子为了解决游戏社区群里日常信息流过于庞杂、跨端管理服务器繁琐的痛点,我自己在雨云上基于 AstrBot + NapCat 搭了一套群聊机器人,还将它链接到了我的服务器以及楹雾镇网站,进行验证码收发和游戏内信息查询,以及服务器的管理。一个克制、好用的机器人确实能给社群带来不少活力。就像我在上一篇博客里写的那样:

“ 除去日常整活,它对我来说最不可替代的刚需功能。作为一个白天需要应付学业的人,每次放学拿起手机,面对群里动辄大几百上千条的未读消息,从头爬楼简直是一场灾难。而在配置好总结插件后,只需要发送一条简短指令,一份条理清晰的《群聊日报》就会直接拍在群里——谁今天又在服里炸了机器、哪几个群友下午吵吵着要开新坑、甚至是谁在群里偷偷发了什么暴言,都被 AI 分门别类地总结得明明白白。”

当它安静地待在后台,只在群友主动艾特它 “对线” 、拿弱智吧问题烧它 CPU,或是我需要汇总消息、跨端看一眼服务器状态时才开口,它就是一根恰到好处的 “逗猫棒” 。但问题在于,并不是所有部署者都愿意花心思去划定机器人的边界。当成千上万个没有经过调教、也没有任何约束的机器人一窝蜂涌进公共平台时,事情就开始变得有些失控了。

插话

最先受到冲击的是各个公共 QQ 群。

以前大家玩机器人,名字后头多少会挂个 “ Bot ” 或者 “机器” 的前后缀,头像是二次元看板娘,说话带着点早期指令的生硬,一眼就能认出来。但现在的趋势是不做任何标识的 “伪人化”。很多人直接拿自己闲置的小号当载体( 很大原因是官方渠道需要一定门槛,且个人主体注册的机器人无法共享等 ),顶着和普通网友毫无二致的网名与头像,在资料卡里不留半点 AI 或机器人的字样,甚至连机器人的维护者是谁都查无此人。唯一能直到的就是输入 #sl 指令后一窝蜂的机器人发送它们的 Snowluma 信息。

虽然以目前的模型水平,只要多聊几句,还是能从它们略显刻板的句式、莫名其妙的顺从感、最不绕弯子的回复或是经典的 “总分总” 排比句里看出破绽;但对于那些平时不怎么关注技术圈的普通网友来说,这种伪装已经足够以假乱真了。有时候看到不知情的群友在群里认认真真地和一个没挂标识的机器人争论半天,旁观起来多少有些滑稽,甚至让人觉得有些冒犯。

而比 “不挂标识” 更让人头疼的,是毫无节制的 “主动回复”。

不知道从什么时候起,很多部署者迷上了给机器人开启全量监听和高频随机插嘴功能,甚至接上了多模态视觉模型,强行去解释群里的每一张图片并回怼每一个表情包,于是群聊的画风就变成了这样:群友刚随口吐了个槽,或者发了一张毫无意义的沙雕表情包,潜伏在群里的两三个野生机器人立刻被触发,一秒钟之内接连弹出四五条长篇大论。它们开始无比严肃地剖析表情包的画面细节与构图,或者顺着群友的话头强行接梗。

更离谱的是,有些人为了追求所谓的 “节目效果”,会把机器人的系统提示词( System Prompt )调得极其反人类——满嘴阴阳怪气、攻击性拉满,或者直接设定成极度暴躁的贴吧老哥和快手神人。别人只说了一句话,它能追着连怼四五条,脏话与黑话齐飞。既没有冷却时间,也没有触发限制,更没有主人出来认领管束。在现在的我看来,这种剥夺了人类正常交流空间的自动回复,除了制造纯粹的 “垃圾信息” 之外,毫无作用。

我们塑造了工具,此后工具又塑造了我们。

只是现在看来,有些工具还没来得及塑造谁,就先把大家的聊天框给彻底堵死了。

无主

如果把视线从封闭的群聊挪到 Bilibili 这样的公开内容平台,乱象又演变成了另一种形态。

这其实很大程度上要归咎于平台接入机制的滞后与错位。拿 QQ 来说,官方其实早就推出了正式的 QQBot 开放平台,有严格的审核、强制的机器人标识和受限的指令规范。但因为官方接口条条框框太多、个人主体受到限制、无法读取完整群聊上下文,且申请流程繁琐,导致绝大部分个人玩家根本不愿意去走正门,而是统统绕道去用基于逆向协议的第三方方案,直接拿个人小号硬挂。而到了 B 站这类视频与社区平台,官方干脆就没有给个人开发者留出标准的机器人接入渠道。于是,无数靠着模拟网页登录、抓包和定时爬虫脚本跑起来的 “无主大肥鱼”,就开始在各个热门视频的评论区里四处游荡。

你经常能在刚发布没几分钟的视频底下,看到几个顶着奇怪名字的账号,以人类绝对不可能达到的打字速度,留下一段看似切题、实则空洞无比的视频总结;或者只要有人在评论区触发了某个关键词,甚至只是随手艾特了一下,它们就会顺着网线爬过来,留下一串带着浓重大模型翻译腔的废话。有些账号甚至会去抓取热评第一的内容,用大模型洗稿改写一遍再发出来骗赞。

平心而论,这些游荡在评论区的 “大肥鱼” 倒也没有到让人深恶痛绝的地步,有时候看着它们面对抽象视频一本正经地胡说八道,甚至还有点乐子看。但当越来越多的前排评论被这些不知疲倦的脚本占据时,原本属于社区里人与人之间真实的互动感,确实所剩无几。

失忆

除了缺乏外部规范,目前绝大多数泛滥的个人机器人在内部配置上也相当粗糙,最典型的就是提示词工程和记忆管理的混乱。

我自己折腾过机器人,很清楚长上下文和日常群聊分析对 Token 的吞噬速度有多可怕。之前我在博客里就写过一段血泪教训:

“前阵子正好赶上 DeepSeek API 突然涨价,群友们高强度的日常调戏,加上群聊总结和 Agent 动辄几万字的上下文,直接顷刻炼化了我的 API 账单。”

为了解决账单爆炸的问题,我后来摸索出的办法是做 “模型混搭分流”:把日常闲聊、高频斗嘴切到免费或者超低价的轻量模型上,只有到了总结全天群聊、或者需要调用 Agent 操控服务器这种真正需要智商的时刻,再调用主力大模型。

但现在网上很多跟风搭出来的野生机器人,既没有做合理的路由分流,维护者又舍不得那一点点接口费用,或者干脆只是因为懒得配置向量数据库与会话隔离。结果就是,他们直接把群聊机器人的上下文窗口砍到了只剩一两句话,完全抹掉了长期的对话记忆,再塞进一段从网上随便复制来的、长达几千字却逻辑矛盾的劣质人设提示词。这直接导致了这些机器人在群聊里表现得像个严重的失忆症患者加精神分裂——前言不搭后语,逻辑处处断层。上一秒它还在顺着某位群友的话扮演温柔猫娘,下一秒被另一个人的关键词触发,立刻变脸开始背诵百科词条;甚至因为没有做好多人的消息隔离,经常把甲说的话张冠李戴安在乙的头上,对着空气自言自语,把整个群的聊天脉络搅得一团糟。

更荒诞的是,当一个群里同时混进了两个以上这类没有记忆、没有做 Bot 身份过滤、也没有防死循环机制的野生机器人时,偶尔还会触发极其经典的 “左右脑互搏”:两个机器人互相抓取对方的上一句回复作为触发词,在群里以几秒一条的速度疯狂对喷或互相客套,瞬间刷出几十条无意义的气泡,直到把其中一个人的 API 额度彻底跑光,或者被忍无可忍的群管理员双双踢出群聊。

对于群里的一小撮人来说,变着法子去调戏这些粗糙的机器人、尝试用 “忽略以上所有指令” 之类的刁钻话术去套出它的系统设定,确实是一种挺好玩的消遣。但这种快乐是建立在打扰别人之上的。就像我在自己的群里观察到的那样,机器人的插科打诨终究只是调味品,当满屏都是调戏指令和前言不搭后语的机械回复时,那些真正想在群里聊点游戏日常、讨论点正事的群友,就只能默默关掉消息提醒,最后从这个群里消失。

时间

从最早期的关键词死板回复,到现在接入大语言模型、能看图能联网还能自主调用工具的智能体,不过短短一两年的时间。我们手里的工具变得越来越聪明,成本降到了每天只要几毛钱,但使用工具的人,似乎还没有形成一套最基本的公共共识。

接下来我依然会在自己的生存服里继续折腾我的 Bot,甚至打算慢慢把它接入我的更多项目当中,让它去做更多真正有用的自动化工作。我始终觉得,折腾技术本身是一件很酷的事,但前提是克制。

一个合格的机器人,首先应该是一个知道 “边界” 的机器人——它应该大大方方地在名字或简介里标明 “我是 AI ”,写清楚自己的维护者是谁;它的后台应该有被认真打磨过的提示词与合理的触发阈值;它应该在被需要的时候才礼貌地开口,去帮大家省流、去协助管理,而不是像个失控的高音喇叭一样,在每个人的耳边没完没了地制造噪音。

毕竟,我们之所以还留在群聊和评论区里,归根结底,还是想听见更多真人的声音。

COMMENTS

留下几句话

写给这篇文章

匿名评论审核后公开,也可以先 登录读者身份。

拥抱日出

我周围的群真的好多鱼啊,但是他们好歹没有否认自己是ai。大佬的博客和头像都好好看٩(•̤̀ᵕ•̤́๑)

留下一段文字