因为黄图和喷子太多,这App背后的鉴黄师崩溃了(组图)
刷个微博,评论区也是把别人父母挂在嘴边。
图片来源于百度贴吧
所以也难怪很多人经常说,怀念最初的 B 站、最初的微博、最初的贴吧……
甚至有人提倡,把 Bilibili 的入站弹幕礼仪考试,恢复到几年前的难度,以控制整个 B 站的弹幕素质。
图片来源于百度搜索
所以国内外各家互联网公司,都想出自己的招。
屏蔽词
有些网站处理起来的方法很“简单粗暴”,直接把关键词屏蔽掉就好。
图片来源于网络
所以有些骂人的话,会让对方看完之后一脸懵逼,甚至还有点好笑。
也有像苹果这样的硬件公司,直接从源头过滤掉。
但是吼,“屏蔽词”这一招,虽然看上去管用,但偶尔会出现翻车的情况。
图片来源于网络
还有哦,有些时候会出现滥用屏蔽词的情况。
《GTA5》游戏虽然充斥着暴力,但它里面会把玩家输入的脏话、歧视性语言,通通给屏蔽掉。
图片来源于游民星空
有人说原因是滥用屏蔽词,也有人说它是怕惹上是非……这个咱们就不深入讨论啦。
甚至有些技术过硬的网友,还自己搞了私人的屏蔽词库,就是工程量有点大。
除此之外,还有木有别的处理方法呢?
“人工”智能
现在很多社交巨头 App,都会采用 AI 人工智能,去处理用户发出来的脏话,简单来说就是“自动删帖”啦。
图片来源于网络
而且 AI 在前期,还没有那么“聪明”的时候,这时候需要人工审核员再次审查。
但现在网上的暴躁老哥那么多,动不动就“问候别人全家”,更别提还要发一些血腥、不和谐的图片或者视频。
据 The Verge 报道,几位在 Facebook 工作的内容审查员,被诊断出 PTSD(创伤后压力心理障碍症)。
(翻译:他们在 Facebook 工作后被诊断出患有 PTSD。今年晚些时候,Cognizant 宣布将退出内容审核业务,并于今年早些时候关闭其网站。)
(翻译:Facebook 将向与开发 PTSD 的内容审查员,支付5200万美元和解金)
But,与此同时,机哥看到一项比较惊人的数据。
根据 Facebook 在 5 月份,刚刚发布的《透明度报告》:2020年第一季度,Facebook 一共处理了 960 万条“脏话”,创下历史新高。
数据来源于Facebook
机哥琢磨后觉得,一方面,可能是现在的网友越来越“暴躁”。
而另一方面,技术总是会进步的。
像 Facebook 的《透明度报告》里还提到,以后会把这种主动检测技术,扩展到更多的语言。
机哥倒是很期待,大家平心静气讨论问题,不再怼来怼去的那一天。
真·人工智能
苹果前几年申请的一项专利,名字叫做:在音频剧本中管理、替换及剔除露骨歌词
图片来源于网络
注意嚯,机哥这里说的处理,不是简单把歌词里的脏话屏蔽掉,而是直接从音源上进行调整:用蜂鸣声或者已经和谐了的歌词替代
与此同时,苹果保证处理后的音乐,不会被用户察觉出来已经被处理,因为它依旧流畅。
那为啥,咱们现在使用 Apple Music 时,有些外文歌的“脏话”,好像没有被过滤掉呢?
有码版 censored version无码版 uncensored version
听音乐电台时,都是被处理后的版本。
图片来源于applefans
不过嘛,这个冷知识,咱们知道一下就好,真正该关注的还是那个专利。
机哥觉得苹果这个技术,如果能继续发展下去,扩展到其他领域那就更加好了。
这个使用场景,明显比听歌更有用啊!
其实说到底,无论是屏蔽关键词,亦或者是人工智能删帖,甚至是用技术消音,这些全都是“被动技能”。
如果网上一团和气,少一点“杠精”、“键盘侠”、“喷子”,可能这些“防脏话技术”压根用不着。
但这种环境,可能很难再奢望能见着了。
(文章由1+转码,以便在移动设备上阅读。 版权归原作者网站所有,内容不代表1+新闻的观点和立场)