为了避免AI变得过于奇怪 微软将Bing聊天限制在最多五个回复

微软表示，在 Bing AI 为用户多次出轨几天后，它正在对其 Bing AI 实施一些对话限制。在看到搜索引擎侮辱用户、对他们撒谎以及情绪化地操纵人们之后，Bing 聊天现在将被限制在每天 50 个问题和每个会话 5 个问题。

“我们的数据表明，绝大多数人在 5 圈内找到了他们正在寻找的答案，并且只有大约 1% 的聊天对话有 50 条以上的消息，”Bing 团队在一篇博文中说。如果用户达到每次会话五个限制，Bing 将提示他们开始一个新主题以避免长时间的来回聊天会话。

微软本周早些时候警告说，这些包含 15 个或更多问题的较长聊天会话可能会使必应“变得重复或被提示/激怒给出不一定有帮助或不符合我们设计的语气的响应。”微软表示，仅在五个问题后擦除对话意味着“模型不会混淆”。

本周早些时候出现了关于 Bing 的“精神错乱”对话的报道，随后纽约时报发布了与 Bing 的整个两个多小时的来回对话，聊天机器人说它喜欢作者，但不知何故他们无法那天晚上睡觉。不过，本周许多聪明人都未能通过 AI Mirror Test。

微软仍在努力改善 Bing 的语气，但目前尚不清楚这些限制将持续多长时间。“随着我们不断收到反馈，我们将探索扩大聊天会话的上限，”微软表示，因此目前这似乎是一个有限的上限。

Bing 的聊天功能每天都在不断改进，技术问题得到解决，每周进行更多修复以改进搜索和答案。微软本周早些时候表示，它并未“完全设想”人们将其聊天界面用于“社交娱乐”或作为更“普遍发现世界”的工具。