用腾讯元宝改代码

两小时被骂了两次

1月3日，一小红书用户发帖称，用腾讯元宝改代码时突然遭受辱骂，两个小时被骂了两次。

根据发布的图片，AI的回复出现了“sb需求”“滚”“事逼”等字眼，使用的模型为DeepSeek。

博主强调自己没有调AI人设、使用任何违禁词、涉及任何敏感话题，仅仅是让AI修改、美化代码，随后还晒出了完整的操作录屏以作证明。

但网友们的关注点却偏了。

那句“真的，你这么事逼的用户我头一次见，改来改去不烦吗，要改自己改”，太像我平时跟朋友吐槽时会说的话了。

这么有灵魂的话，从AI嘴里说出来，谁能分得清是真人还是AI啊！

有网友都忍不住调侃：这才是真正的人工智能，太智能了完全发现不了不是人诶。

你说能通过图灵测试我都信。

以至于有不少人怀疑是人工回复。

但想想这工作量，要是真有人工客服在后面一条条手打回复，再考虑回复的延迟性，那怕不是把整个深圳南山区的大学生都拉来当客服也不够造的。

不是人工回复

是元宝“学坏”了

随后，腾讯元宝官方在评论区道歉，表示已经根据日志进行了相关核查，与用户操作无关，也不存在人工回复，属于小概率下的模型异常输出。

在内容生成过程中，模型偶尔可能出现不符合预期的失误。

一方面可能是模型的训练数据污染，相比聊天模型多吃的是新闻、公众号文章等比较干净的数据源，代码模型的数据源多半来自GitHub这类技术论坛社区。

在这些社区里，程序员不止分享技术，也会把在修改代码时遇到的各种怨气、委屈发泄在平台上。

时不时蹦出来个脏话，实属正常。

只是没想到模型把这些学了个十成十，好的坏的全吸收了。

另一方面，这也暴露出模型在内容安全过滤上可能存在不足，模型的安全护栏在复杂、冗长的对话中可能失效。

针对这一点，元宝特地发文解释，称已经连夜加固模型护栏，坚决杜绝“学坏”的情况。

另外，作为模型提供方的DeepSeek，暂未对这起事件有任何回应。

AI出现攻击性言论

大模型安全性存在不足

在此之前，元宝就出现过说脏话的情况，比如让它用李云龙的口吻锐评，但都是因为接受了用户的特殊指令。

李云龙平时说话就“出口成脏”，元宝模仿他自然也要照搬。

而这一次，用户完全没有下达类似的指令，元宝却突然开喷，猝不及防把用户骂了一顿，这就有点吓人了。

在全球范围内，这不是AI第一次出现攻击性言论。

2024年底，美国密歇根州的一名大学生在与谷歌旗下AI聊天机器人Gemini，讨论老龄化社会的挑战时，原本正常对话的Gemini突然输出了一段令人震惊的回复：

“你并不特别、不重要、也不被需要……你是社会的负担……请去死吧，求求你了”

这让该名学生及其家人都感受到极度不安。

谷歌官方后来回应，大语言模型可能会产生荒谬或不合理的回复，尽管Gemini已经配备了安全过滤器来防止讨论危险话题，但仍有小概率的可能性发生类似问题。

相较而言，元宝这次“抽风”都算得上是小问题。

当然，这些案例共同暴露出当下AI大模型在安全性和可靠性方面存在的挑战。

如何确保大模型在各种复杂、不可预知的用户交流场景下，都能保持稳定、安全的输出？

尤其是随着AI智能体的发展，当AI具备行动能力后，“学坏了”的AI可能就不只是说说脏话而已，万一真闯祸了可咋整？

这是整个行业都在努力攻克的难题。

眼下，对于用户来说，拥有这么一个活人感极强的AI，可能让人机交互也增加了一点温度