新闻热点

容易被激怒?AI机器人Bing对话充满敌意被投诉 更自称是人类、否认出错 @ 2023-02-21T04: 返回 新闻热点
关键词:微软 聊天
概念:对话微软限制
有如此限制是因为早期的测试者发现,BING AI 聊天机械人在聊天当中,会发现它的对话有“偏离轨道”的问题,甚至在有错误时却坚持自己是对的,而且在长时间的对话中,可能对 BING AI 聊天机械人的对话底层模型有混淆,因此施行以上措施以集中改善聊天的体验。
微软解释,资料显示,大部份使用者会在5次回覆以内找到想要的答案,而只有不到1%的人聊天对话会超过50个讯息。因此在新的规则下,一旦对话到5次时,用户会被要求重启新主题,而且在每次对话结束时,对话情境就必须清除,以避免模型混淆。使用者也可以按下搜寻列左边的扫把图示,重启新对话。
日前针对新版BING搜寻服务出包情况做出解释,微软点出过长的对话内容可能会让新版BING搜寻服务产生混淆,导致出现重复内容,或是出现无法提供正面帮助的回应结果。因此在稍早更新里,微软将从即日起限制与BING搜寻聊天机器人的对话问答次数,每次对话仅能进行5次问答,而每天最多仅能进行50次对话。
[周刊王CTWANT] 据REUTERS报导,微软预计透过人工智慧搜寻引擎带来更多用户,在生成式对话AI服务中加入广告内容,近一步吸引广告商,同时也测试了结合OPEN AI技术到自家搜寻引擎BING以及浏览器EDGE。而前发生微软新版BING搜寻引擎经部分测试者发现其聊天功能的漏洞,为改善聊天功能决定开始限制BING每次对话只能进行5次问答、每日最多50次。
微软本周早些时候曾警告称,有15个或更多问题的较长聊天对话,可能会让必应模型变得混淆,导致必应给出重复的答案,或者被激怒做出不一定有帮助的回应,或者与我们设计的语气一不致。微软表示,只问五个问题就结束对话,必应就不会被搞糊涂。
在推出AI聊天机械人后几天,该新技术被指脱轨,并且会作未能预计的对话。故MICROSOFT日前表示,将对聊天机械人加设限制,用户每天最多只能问50个问题,而每节只限5个。
微软称,很长的聊天会话可能会混淆必应中的基本聊天模式,为了解决这些问题,微软实施了一些更改,以帮助集中聊天会话。数据显示,绝大多数人都能在5个回合内找到要找的答案,只有约1%的聊天对话有50条以上的信息。聊天会话达到5个回合后,您会被提示开始一个新的主题。在每个聊天会话结束时,需要清除上下文,这样模型就不会被混淆。
据称,微软将对其实施一些对话限制:用户每天最多只能问 50 个问题,每次最多只能问 5 个问题。
面对自家聊天机器人的疯狂行径,微软表示,这类现象通常出现在超过15个问题的“冗长、复杂对话中”,有时机器人会被带离话题,而忘记了原本在回答什么。微软将限制使用者一次只能提问5个问题,未来也考虑增加一个“重设”功能,让使用者可以将机器人导回正轨。
周五,在必应人工智能对话多次失控几天后,微软决定将把由生成式人工智能(AI)驱动的新搜索引擎必应其聊天回复限制在每天50个问题、每个问题5条回复以内。如果用户触发五条回答的限制,必应将提示他们开始一个新主题以避免长时间的聊天。据微软内部数据显示,绝大多数人都能在5次回复内找到他们想要的答案,只有大约1%的聊天对话会产生50条以上的消息” 。

 

易发投资 | 首页 |  登录
流动版 | 完全版
论坛守则 | 关于我们 | 联系方式 | 服务条款 | 私隐条款 | 免责声明
版权所有 不得转载 (C) 2025
Suntek Computer Systems Limited.