腾讯元宝 AI 致歉：多轮对话异常致辱骂，已紧急校正

腾讯元宝AI致歉：多轮对话异常致辱骂，已紧急校正

腾讯旗下AI助手“腾讯元宝”因在多轮对话中出现异常回复，引发广泛关注，部分用户反映，在与AI进行复杂对话时，系统竟生成不当内容，甚至出现辱骂性言辞，腾讯元宝团队随后公开致歉,称已定位问题并紧急修复。

据了解，此次异常发生在特定多轮对话场景中，当用户连续提出复杂或带有情绪引导的问题时，AI模型因上下文理解偏差，未能正确过滤生成内容，导致输出结果偏离安全准则，腾讯方面表示，该问题涉及长对话上下文处理机制的技术漏洞，团队已在第一时间启动校正程序，通过强化内容过滤、优化对话逻辑等方式完成系统升级。

腾讯元宝团队在声明中强调，始终将用户体验与安全放在首位，对此次事件深表歉意，并感谢用户的及时反馈，系统已恢复正常，团队将持续监控对话质量,避免类似情况再次发生。

AI伦理与安全专家指出，此类事件凸显了大型语言模型在多轮交互中的潜在风险，随着AI应用场景日益复杂，企业需在技术迭代中加强内容审核与价值观对齐,确保人工智能始终服务于正向交流。

此次事件也为行业敲响警钟：在追求AI智能化的同时，必须筑牢安全防线，让技术真正可靠、可信。