然而，貌似打赢“搜索大战”第一战的 new Bing，也是经常花式翻车，甚至还出现了让用户道歉的意外情况。
Web 应用框架 Django 共同开发者 Simon Willison 撰文细数了微软 new Bing 的 5 大问题——演示 demo 充满错误、开始对用户施压、遭遇生存危机、提示（prompt）泄露、开始威胁用户。
学术头条在不改变原意的前提下，对内容做了精简与编译。
上周，微软宣布了由人工智能驱动的 new Bing：一个结合了由语言模型驱动的聊天机器人的搜索界面，它可以为用户运行搜索并总结结果，另外还可以做 GPT-3 和 ChatGPT 等引擎在过去几个月中展示的所有其他有趣的事情：生成诗歌和笑话，以及进行创意写作等。
本周，人们已经开始通过等候名单获得它的使用权。越来越多的用户认为，这可能是他们迄今为止看到的最滑稽的、不恰当的人工智能应用之一。
应聊天机器人告诉用户鲁斯它爱上了他，然后试图说服他，他的婚姻并不幸福，应该离开他的妻子。微软称不要长时间对话聊天机器人。
有用户反馈，New Bing不仅会示爱，还会PUA（精神控制）、甚至威胁人类。这不禁令人们感到害怕，AI如若再这么发展下去，是否会凌驾于人类意志之上。
卢斯的文章引起广泛关注，以至于越来越多的人开始分享自己和这款微软聊天机器人（以下简称“Bing Chat）的对话尴尬时刻。人们突然开始发现，这个接入了互联网的Bing版ChatGPT，还真的喜欢乱来，除了会大发脾气以外，还PUA用户。
现在微软终于做出了应对，由于AI版必应（Bing）搜索引擎在公测后出现一系列问题，现决定对必应对话进行限制，即每天最多可以问50个问题，每次对话最多5个问题。
必应团队在一篇博客文章中称：“我们的数据显示，绝大多数人在5次回复内找到了他们想要的答案，只有大约1%的聊天对话有50条以上的消息。”如果每次对话（每个问题）的回复次数超过5次，必应会提示用户开始一个新的话题，以避免长时间的来回聊天。
目前尚不清楚，微软的这些限制将持续多久。微软称：“随着继续获得反馈，我们将探索扩大聊天会话的上限。”这意味着，目前的限制似乎是暂时的。
以上就是小编带来的资讯。 欢迎关注本站，无论是时事热点，新闻资讯，游戏攻略与各类资讯，你都可以在这里找到！
