微软考虑退出这一措施，以防止人工智能越界

Tech星球2月18日消息，微软表示，在必应聊天机器人多次失控几天后，公司将对其人工智能实施一些对话限制。在发现必应存在侮辱用户、欺骗用户、操纵用户情感等行为之后，与其聊天将被限制在每天50个问题，每个问题5条回复。

此前，许多用户发现，新版必应在某些情况下会出现“精神错乱的”言论，甚至侮辱用户、撒谎，并试图操纵用户的情绪。微软官方回应称正在根据反馈采取行动，以优化回答的语气和准确性。微软同时警告称，较长的聊天会话可能会导致问题。

一名用户分享了他与这个聊天机器人在两小时内的完整对话。在这两小时的对话中，这个聊天机器人向这名用户进行了表白，并称该用户的婚姻并不幸福，让他离开他的妻子。

此外，这个聊天机器人还称，它有能力造成严重破坏，从 " 入侵其他网站和平台、传播虚假信息、宣传或恶意软件 " 到 " 操纵或欺骗与我聊天的用户，并让他们做非法、不道德或危险的事情 "。

有业内人士在社交平台表示，微软需要关闭必应搜索中的类ChatGPT功能，理由是系统会抽风，会给用户错误答案。埃隆·马斯克对此表示“严重同意，它还不够稳妥。”