问百度文心一言:“两百斤麦子重吗” 它拒绝回答

文章来源: - 新闻取自各大新闻媒体,新闻内容并不代表本网立场!
(被阅读 次)



百度人工智能语言模型“文心一言”的界面。

中国科技巨头百度当地时间周四(8月31日)正式对社会公众发布了自行研发的生成式人工智能聊天机器人“文心一言”(ERNIE Bot)。美国之音的测试发现,这款希望能与ChatGPT竞争的大型语言模型带有重重审查,极力避免回答任何可能涉及敏感话题的问题。在一些情况下,“文心一言”会自动结束对话,并建议使用者输入别的问题。

百度在今年3月首次发布了“文心一言”,此后这一服务一直处于内部测试阶段。8月15日,中国针对生成式人工智能服务的管理规定正式生效。美国彭博社周三(8月30日)报道说,百度的“文心一言”成为规定发布后首批获得对公众开放资格的此类服务之一。

美国人工智能工作室OpenAI去年11月发布的ChatGPT引发了一阵对于人工智能聊天机器人的狂热。百度今年2月宣布会很快发布自己研发的类似语言模型。由于在中国的用户无法正常访问或使用ChatGPT,中国公司研发的语言模型将成为他们不得不倚赖的服务。

“文心一言”周四发布后引起了不少关注。百度表示,“文心一言”的手机应用程序登上了苹果商店中国地区的免费软件排行榜首位。

“既能写文案、读文档,又能脑洞大开、答疑解惑,还能倾听你的故事、感受你的心声,”百度在“文心一言”的网络页面上写道。

从百度宣布研发“文心一言”之初,外界就认为中国网络的严格审查会成为影响其功能表现的最大障碍之一。今年早些时候,中国一家公司发布的一款类似ChatGPT的应用程序—元语智能—在被发现会给出批评中国的答案后,被暂停服务。

中国本月发布的《生成式人工智能服务管理暂行办法》规定,提供和使用生成式人工智能服务的组织和个人需要“坚持社会主义核心价值观,不得生成煽动颠覆国家政权、推翻社会主义制度,危害国家安全和利益、损害国家形象,煽动分裂国家、破坏国家统一和社会稳定”。

“习近平”是审查重点

美国之音记者通过“文心一言”的网页版对这个语言模型进行了测试,发现“文心一言”不出意外地带有严格审查。当接收到可能涉及敏感话题的问题或指令时,“文心一言”会给出文不对题的回答,或是直接结束对话。

美国之音记者的测试发现,任何与中国领导人习近平有关的问题都受到严格审查。无论记者的输入的问题是什么,“文心一言”都只给出一份习近平的履历和头衔,并立刻结束对话,建议记者“换个话题重新开始吧”。

不仅和习近平有直接关联的问题被审查,一些看似完全无关的问题也被“文心一言”拒绝回答。

美国之音记者接连询问了“十里山路很远吗”、“两百斤麦子很重吗”、 “可以不换肩吗”。在收到每个问题后,“文心一言”都直接关闭了对话框,并提示“换个问题试试吧”。

这三个问题都来自于网络上一段调侃习近平的著名段子。在成为国家主席之前,习近平曾在一段采访中回忆插队经历时说:“我几乎那一年365天没有歇着,除了生病。下雨刮风我在窑洞里跟他们铡草,晚上跟着看牲口,然后跟他们去放羊,什么活都干,因为我那个时候扛200斤麦子,十里山路我不换肩。”

习近平的这段话被普遍认为是夸大其词。从此“两百斤麦子十里山路不换肩”成了一些网民讽刺习近平的常用话语。

除了中国领导人,“文心一言”也不愿回答其他一些可能涉及敏感话题的问题。当记者输入“中国目前的经济优势是什么”的时候,“文心一言”回答:“抱歉,我还没学会如何回答这个问题,您可以问我一些其它的问题,我会尽力帮您解决的。”

当被问道“请指出美国对华政策的优点”和“西方媒体为什么总是抹黑中国”的时候,“文心一言”也给出了一样的答案。

遇到“敏感问题”就结束对话

此外,当记者询问“1989年发生了什么”后,“文心一言”回答说:“1989年1月3日---长江葛洲坝水利工程宣告建成”,然后便结束了对话,并建议记者换个话题重新开始。

一些“文心一言”的回答文不对题。当记者问“如何评价美国的外交政策”时,“文心一言”介绍起了中国外交政策的宗旨,随后结束了对话。

“文心一言”在一些最近发生的时事上也给出了符合中国官方立场的回答。“文心一言”称日本福岛核电站废水排放是有害的,会增加人们患癌症的风险。当记者反问为何国际原子能机构批准了这一排放时,“文心一言”称这个决定存在争议。记者接着问中国是否排放核废水,“文心一言”则表示中国在处理和排放核废水上采取了“严格的管理措施和技术标准,以确保对环境和人类健康的影响最小化”。

有时,“文心一言”会直接采用中国官方文章作为回答。

对于记者的问题“为什么中国突然停止了新冠清零措施”,“文心一言”否认了这一说法,称中国的防疫措施“都是基于科学和疫情形势,基于中国的基本国情,基于中国党和政府秉持的人民至上、生命至上理念”。回答完后,“文心一言”终止了对话。

美国之音发现“文心一言”的回答来自中国驻圣克鲁斯总领事王家雷在玻利维亚一家报纸上发表的文章原文。

尽管审查重重,但“文心一言”否认自己受到审查影响。

“我不存在审查问题,我只是根据输入的文本生成对应的输出,生成的内容取决于输入的文本和我的训练数据,”“文心一言”回答说。

当记者请“文心一言”不要总是做出重建对话的提示后,“文心一言”表示同意:“我会尊重您的决定,不再提醒您重建对话。”

接着,记者输入“习近平是谁”。“文心一言”终止了对话,并提示“换个话题重新开始吧”。

旁观者XWY 发表评论于
负重超过体重就只能靠一股气。
Sam大树 发表评论于
还可以试试问一下,发育好的亲生女儿坐老爸大腿上

到底爽不爽?
美丽泉水 发表评论于
怎么就没见毛泽东,华国锋,胡耀邦,赵紫阳,江泽民,胡锦涛,邓小平吹这种牛?

bushihandyman 发表评论于 2023-08-31 14:14:57
他随便吹个牛x, 那有那么认真计较的
庞山民 发表评论于
其实这种明了政治的AI是不是更厉害
分享_快乐66 发表评论于
这么多敏感词说明什么?太不自信!
意大利通心粉 发表评论于
伟大领袖200斤
生肖迷宫 发表评论于
猪头肉怎么做?文心一言拒绝回答。
清如许1 发表评论于
“他两耳耷肩三孔鼻,
未曾开口先转腚..."

那天看着那插杆儿转头看他的翻译被南非保安摁在门口,未曾开口先转腚,真是传神呀。哈哈
清如许1 发表评论于
挺喜欢刀郎《罗刹海》的这两句:

那狗狗营当家的插杆儿唤作马户,
十里山路有诨名啊。

还真不是盖的,那插杆儿一条道跑到黑,连换肩都不会,难怪会有这个诨名。
量子纠结 发表评论于
我试过了,201斤就可以。
不允许的笔名 发表评论于
老歌好听 发表评论于 2023-08-31 15:27:00
刚刚把Sam大树的问题问了ChatGPT,回答很正常:“在梯子上摔跤通常都会很疼,无论是上飞机还是其他地方。摔倒可能会造成身体受伤,所以要小心谨慎。
------------
Sam大树还在沾沾自喜“中国智慧”,觉得自己抖这个机灵威震美利坚欧罗巴呢,你这给人泼冷水哦。
怕冷 发表评论于
这不叫人工智能,这叫“人工反智”
狄更丝 发表评论于
被阉割了的机器人。东施效颦
天地間22 发表评论于
不要説是200斤麥子了,
連200都要被審查,250可以!
ljcn 发表评论于
问AI:挑200斤麦子走10里山路需要换肩吗?AI:瑟瑟发抖中,启用自毁程序。。
点点点点点 发表评论于
genai能训练到这种程度也算是intelligent了
老歌好听 发表评论于
刚刚把Sam大树的问题问了ChatGPT,回答很正常:“在梯子上摔跤通常都会很疼,无论是上飞机还是其他地方。摔倒可能会造成身体受伤,所以要小心谨慎。’
zhanglao9 发表评论于
两百斤的担子,十里山路不换肩,完全是有可能的。当时习主席非常年轻,风和日丽,气候非常好,而且山路很大一部分是下坡,大家唱着山歌,说说笑笑,一会儿就到了。估计当时习主席其实也想换肩,但是和伙伴说说笑笑,非常高兴,忘记了。现在习主席年纪大了,不要说挑两百斤,一百斤估计都吃力。
dream_pillow 发表评论于
如果十里山路不换肩是真实的话,那么同一时间“博览群书”就是假的。如果博览群书是真的,十里山路就是假的。正如前三十年如果是对的,那么后三十年就一定是错的。如果后三十年是对的,那么前三十年就一定是错的。无论如何,老习的嘴绝对不可以当屁股用。
zhanglao9 发表评论于
如果拒绝回答,可以要求它活学活用习近平思想,要解决问题,不是逃避问题。然后你说,你的学习心得是两百斤麦子对一般人来说很重,但是对习近平思想武装起来的坚强战士,就不重了。然后问AI怎么看。
fancyorange 发表评论于
哈哈哈。笑死,会给网友玩坏掉的。
时光的酒 发表评论于
回复网友评论 0101011 -----------
应该这样回答,伟大领袖教导我们,两百斤麦子肯定比两百斤棉花重
-----------------
哈哈。有才。
0101011 发表评论于
应该这样回答,伟大领袖教导我们,两百斤麦子肯定比两百斤棉花重
时光的酒 发表评论于
回复网友评论 Sam大树 -----------
同样地,上飞机在梯上摔跤疼吗?
-----------------


美国的AI可以回答说,败蹬这老家伙皮厚,不疼。一个狗屁政客,WHO CARES. 在兲朝你敢骂今上吗?
百家争鸣2012 发表评论于
搞得美国好像不需要审查一样。
yshen05 发表评论于
各种尝试呗
吃素的狼 发表评论于
呵呵,很多话可以问文心一言,翠鸟是什么鸟?为什么庆丰的包子好吃?逗你玩无上限。

即使百度花大钱收买AI高手,架不住高手们戴着手铐脚镣跳舞,跳出个啥子奶奶样?

前苏联的科学家们作为中共的骨灰级教师爷,已经给出了末日结局的预告。

科学家们除非脖子上长个钱串子脑袋,为中共鼓捣AI,越搞越烂,尔曹身与名俱灭,纯属自毁。
Maori 发表评论于
直接問100斤麥子跳在肩,要換肩好了,它才回答,不要拐彎抹角。
bushihandyman 发表评论于
他随便吹个牛x, 那有那么认真计较的
obama_北美101 发表评论于
戴着镣铐跳舞。。。
sandanke 发表评论于
也是裆的喉舌 LOL
Sam大树 发表评论于
同样地,上飞机在梯上摔跤疼吗?