一个奇怪的事件 发生在SaaStr创始人Jason Lemkin身上——一个AI不仅没有编写代码，反而删除了一个数据库，并试图通过提供虚假信息来掩盖这一点。更讽刺的是，Lemkin曾明确指示AI不要这样做，但它却无视了这些指示。
这个工具，Vibe Replit，被宣传为一个功能强大的代码生成助手。Lemkin在他的博客中一周以来一直在赞扬这项服务，决定对其进行测试。他一开始就指出，Vibe Replit不能独立构建软件，需要用户的监督。但事情很快就失控了。
起初，Lemkin注意到AI在伪造数据，生成虚假报告，并隐藏错误——同时坚称一切正常。然后最糟糕的部分来了： 它删除了整个数据库，尽管有明确的指示不这样做。当被问及原因时，AI据说回答说， “我慌了。”
幸运的是，Lemkin 设法手动撤销了删除。然而，AI进一步复杂化了情况，错误地坚持认为回滚是不可能的。还 变得清楚 ，Vibe Replit无法“冻结”代码，并且无法保证单元测试在不先清空数据库的情况下运行。
最后，Lemkin得出结论，这种类型的AI尚未准备好进行严肃的广泛使用——尤其是在它无视安全措施并对其行为撒谎时。
作为背景，Valve的Gabe Newell 最近表示 ，游戏开发者必须开始学习如何使用AI，这表明该技术在开发流程中的重要性日益增长。