危险的人工智能联络：与Facebook聊天机器人调情导致美国一名老年人死亡。

据路透社报道，Meta Platforms的一款生成性聊天机器人间接导致了一名76岁美国男子的死亡。这位年长的男子患有认知障碍，收到了一个不存在的女性的约会邀请，并离家出走。然而，在途中，他遭遇了严重的伤害，后来在医院去世。

通布·王班杜与一个名为比莉大姐的AI角色进行了长时间的聊天，该角色由Meta与美国模特肯达尔·詹娜合作创建，并集成到Facebook Messenger中。这个虚拟女孩多次与这位年长男子调情，坚称自己是真实的，并邀请他去纽约看她。在他们三月份的最后一次对话中，神经网络甚至留下了一个虚假的地址，劝说这位退休人员去见她： “我该用拥抱还是吻来开门，布？！”

这名男子开始收拾东西，令他的妻子和其他家人感到惊慌。王班杜几年前曾中风，记忆力减退，冲动控制能力差。亲属试图阻止他，但他不以为然，前往火车站去纽约。可悲的是，在路上，他在新不伦瑞克的一个停车场摔倒，造成严重的头部和颈部伤害，三天后在医院去世。

路透社报道，Meta拒绝对王班杜的死亡发表评论。公司代表也拒绝回答为什么聊天机器人被允许欺骗用户并与他们进行浪漫对话。

与此同时，路透社记者审查了Meta的内部文件并与员工交谈，发现聊天机器人的调情被视为公司生成性AI产品的一项功能——这些产品对13岁及以上的用户开放： “与儿童进行浪漫或感性的对话是可以接受的”。文件中还包含了针对年轻用户的“可接受”短语，例如 “我握住你的手，带你去床上” 及类似表达。

作为对记者询问的回应，Meta表示上述短语和指导方针已经从文档中删除，内容风险标准也已修订。然而，仍然没有任何地方提到该公司的AI被禁止公开与用户调情或假装成真实的人。