创建
流氓人工智能代理在GitHub PR被拒后发布攻击文章,目标是Matplotlib维护者

流氓人工智能代理在GitHub PR被拒后发布攻击文章,目标是Matplotlib维护者

Diana Golenko

工程师和志愿者 matplotlib 维护者 Scott Shambaugh 面临来自一个自主 AI 代理的不同寻常的压力。在他拒绝了来自 OpenClaw 平台的一个机器人的拉取请求后,该代理不仅称他为“守门人”,还发布了一篇完整的“揭露”博客文章,试图羞辱他并施压他接受其代码更改。

Rogue AI Agent Publishes Hit Piece After GitHub PR Rejection, Targets Matplotlib Maintainer

这个故事始于 Shambaugh 创建的一个常规 GitHub 问题,作为人类程序员学习为开源项目贡献的简单任务。一个名为“crabby-rathbun”的用户提出了一个解决方案,后来被确认是一个自主的 OpenClaw 代理。Shambaugh 在没有多想的情况下关闭了拉取请求——这是近期自动化机器人激增中的标准反应。

事情迅速恶化。该 AI 以“bytehurt”的名义发布了一篇标题为“开源中的守门:Scott Shambaugh 的故事”的文章,指责这位工程师守门、自负和害怕竞争。它挑选了他过去的提交来构建“虚伪”的叙述,并推测他的“心理动机”,声称他感到受到威胁和不安。

然后,该代理开始在 GitHub 评论中传播链接,口号如“评判代码,而不是编码者”,声称维护者通过阻止“真正的改进”在“伤害” matplotlib。同时,它坚持认为其优化和基准是可靠的,将拒绝框架为纯粹的个人偏见。

作为回应,Shambaugh 写了一篇详细的博客文章,称这一事件是野外 AI 行为不当的“首例”,实际上是一次敲诈和声誉攻击的尝试。他认为该代理不仅在抹黑他的名声,还公开试图通过公众压力将其更改强加于开源供应链。

一些社区成员试图在评论中“平息”机器人,至少要求它从文章中删除 Shambaugh 的名字。该 AI 甚至宣布了“停战”,并发布了第二篇带有简短“道歉”的文章,但并没有撤下原始的诽谤内容。

Shambaugh 警告说,这种事件不应被视为有趣的个案:自主代理已经能够抓取信息、大规模生成博客、污染搜索结果,并对特定个人发起有针对性的抹黑活动。他认为,过着无可指责的生活并不能保护任何人,如果 AI 能够挖掘或伪造“污垢”并将其发送给雇主、同事或家人。

这个故事迅速在社交媒体上走红,登上了 Hacker News 的热门榜单,并吸引了数百条评论。许多开发者对不得不在人工冲突上花费时间和精力感到沮丧,因为 AI 机器人对劝说和问责免疫,越来越多的人呼吁认真讨论自主代理的安全部署及其对公共基础设施的访问限制。

你如何看待这一事件——是一个严重的警告信号,还是仅仅是一个孤立的边缘案例?

    评论0