这个全球排名第一的App，其实比暗网还黄暴(组图)

互联网时代，「算法」这个词大家应该都听腻了吧。

基本上市面上的所有互联网企业，都有一套自己独特的算法，根据用户登记的个人信息和使用习惯，进行对应的服务推荐。

但如果机哥说，有的企业在光天化日之下，用自己的算法，为毒贩和人贩子提供便利，大家肯定会觉得非常不可思议。

而被指控做这些事情的，正是全球知名社交平台Facebook。



这个事情，还得从一个叫弗朗西斯・豪根（Frances Haugen）的人说起。

她曾经是Facebook「公民诚信项目」的经理，工作是净化Facebook的社区环境，打击平台上的假新闻和假信息。

但是在工作了一段时间之后，豪根发现Facebook做这个项目的原因，根本不是表面上看起来那么大义凛然。

相反，公司只是为了搪塞那些质疑的人，减少大家对Facebook假新闻泛滥的指责。

事实上，这个部门的权力非常有限。



弗朗西斯・豪根

举个例子，作为曾经任职于谷歌、Yelp（美国版大众点评）等企业的算法工程师，豪根精通系统算法上的各种问题。

按照她所在部门的指责，她完全有权力撤下Facebook上一些不健康的内容。但是很多情况下，Facebook出于营收的考虑，经常否决她的想法。

而在前段时间，豪根所在的部门甚至被整个裁撤。

So，豪根就选择向媒体公开了，大量揭露Facbook不作为的文件。

这里面，就包括前面说到的贩毒、人口贩卖走私的内容。

员工举报贩毒和人口贩卖页面Facebook不为所动

接下来的每一个字，可能都会让各位机友感到非常震惊。

首先是墨西哥黑帮卡特尔在Facebook上，招募杀手进行培训。他们有专门的页面展示自家的日常的奢靡生活，并以此来吸引同伙加入。

在内部员工反映了五个月之后，这个页面才最终下架。

期间，还发布了大量暴力血腥的内容。

墨西哥黑帮Facebook主页

而在中东地区，还有团伙利用Facebook广告为诱饵，欺骗并控制女性从事非法行为。

甚至是人口贩卖。

在豪根曝光的文件当中，他们不断向Facebook高层反映，请求处理这些令人发指的页面。

但得到的答复，往往是「理由不充分」。



这些事情基本上每天都在上演，只要有Facebook的地区，就有类似的事件发生。

就连在自己老巢美国，也有各种各样的边境偷渡团伙，依靠Facebook来开拓业务。

偷渡团伙Facebook主页

当然啦，Facebook确实很难时刻盯着这些团体开设账号宣传，大家只能够要求它尽到维护网络环境的责任。

只要这些内容无法传播，或者及时删除，那么完全能够把危害降到最低。

但Facebook的推荐机制，却为这些团伙提供了极佳的扩散渠道。在用户浏览的时候，平台会提供大量同性质的页面。

这就意味着，如果不完全端掉所有违法犯罪团伙的页面，它们还是能借助Facebook死灰复燃。

系统推荐「相关页面」

如果仅仅只是页面推荐，那么这些违法犯罪行为的扩散范围，还不至于那么大。

但配合上Facebook的算法，用户即便不关注同类型的账号，也会被迫收到这些信息。

啥意思呢？

在Facebook的机制里，用户的首页会显示好友、群组成员发布或点赞的帖子。

而算法则会根据各种各样的条件，来决定优先展示其中的部分内容，用户只能被动接受这些信息。



像是在2009年的时候，Facebook算法中权重最高的是点赞数，所以即便你对这些内容完全不感兴趣，它依然会在你浏览时优先展示。

到了2016年，Facebook考虑得更多的是完成率，也就是说大家都看的内容，Facebook会硬塞给你看。

后面的几年里，这个算法修修补补，但大差不差。

简单来说，Facebook预测大家最关注的内容，也会引起其他的关注，最终提升用户活跃度。

但这套算法却给有心人，提供了一个钻空子的机会。



说到这里，机哥就要提一下巨魔农场（Troll Farm）了。

在国外，巨魔农场指的是手握大量社交媒体账号的组织，能够在互联网上大量发帖来进行造势。

也就是我们熟悉的水军。



可能机友印象当中的水军，作用就是发布一些充场面的帖子，毫无任何影响力可言。

但是借助Facebook的算法，巨魔农场的水军却能够为各种违法犯罪行为推波助澜。

首先，他们会通过大量的账号，渗透进入各种各样的Facebook群组。

这样一来，账号发布的内容，就会出现在所有群组成员的首页里。



一旦巨魔农场接到新的单子，他们就会发布大量相似的内容，迅速让这些内容触及到用户群体里。

接下来，通过自身水军和一些围观群众的互动，这些内容就很容易实现裂变，并且获得更高的展示权重。

如果巨魔农场掌握的账号足够多，他们甚至能够很快地席卷一个城市、甚至一个州的用户Facebook首页。

这就好比一个不吃香菜的人，被硬塞了一嘴香菜，而且你还不能拒绝。

除非你把好友全部删除，退出所有群组，代价非常大。



这种方式，已经被证实推动了各种假新闻，在整个社会群体当中传播，影响非常广泛。

而如果精准定位各种群组和账号的属性，则很容易成为各种犯罪分子的工具。

例如在医疗群组里贩卖违规药物、进行诈骗；在边境城市的群组里，组织各种走私、甚至贩卖药物和人口的勾当。

他们甚至还能在Facebook这套算法的基础上，自己组建一个小型的社交网络，控制各种违法信息的发布和扩散。

真是细思恐极。



其实在豪根披露这些文件之前，Facebook的这套算法早就备受诟病。

而现在看起来，除了算法不够严谨之外，说到底还是因为Facebook长期的监管不到位。

毕竟这些利于传播的内容，能够帮助平台获得大量的用户参与。这些数据拿到广告商面前，都是Facebook变现的筹码。

特别是在TikTok和其他社交平台不断崛起的今天，留给Facebook的空间或许已经不多了。

在危险的边缘疯狂试探，可能是没办法中的办法。



听证会上揭露Facebook的豪根

但是机哥必须说，如果因为这些原因，漠视了那些因为这套算法而蒙受损失的人。

那么这套算法，或许该给Facebook自己算算。

接下来，还有多少判头。 阅读原文