拆解Facebook新一轮信任危机 : 算法黑盒一角正被揭开

出生在美国爱荷华州、现年37岁的豪根(Frances Haugen)曾经担任社交媒体巨头Facebook脸书的产品经理。离职前一天，她在公司内网输入信息:“我爱脸书，我想救它。”

2021年10月5日，豪根出现在美国国会参议院的听证会上，公开指出脸书产品存在危害儿童、放大偏见、鼓励两极化等问题，“公司高层明知有方法可以让脸书和Instagram更为安全，但无动于衷。因为他们总是将利润置于安全之上”。

“这个平台旨在利用消极情绪将人们留住。”豪根表示，“他们意识到将人们所做选择进行放大后的副作用。他们知道基于算法，或者基于参与度的内容排名，可以让你在网站上停留更长的时间。你花时间更长，点击的次数更多，这会让他们赚更多的钱。”

“他们想让你们相信，要想和所爱之人保持沟通，就要牺牲个人隐私；如果想要跟老友分享孩子的有趣照片，就必须容忍虚假信息。他们想让你们相信，这就是交易的一部分。”豪根在听证会上表示，“但这不是真的。有解决之道。”

在参加国会听证之前，她已经将多份脸书内部研究文件提供给美国财经媒体，以证明脸书高层明知平台正在滋生仇恨言论和极端主义，旗下产品Instagram涉嫌诱发和恶化青少年的心理健康问题，但仍袖手旁观。同期，她的代理律师向美国证监会撰写举报信，称作为上市公司，脸书刻意淡化和隐瞒产品风险和负面影响，在向投资人和潜在投资人的陈述中存在重大失实陈述和遗漏，涉嫌违反美国证券法。

面对吹哨人的举证，脸书发言人公开回击称，豪根不是管理层，不了解决策过程，她本人在脸书也并非任职于儿童产品组，所引用的内部文件，有断章取义之嫌。但豪根的举证，正在引发“多米诺效应”，不仅可能推动对美国儿童在线隐私保护的新立法，也可能引发监管者对《通信规范法》第230条款(p 230)是否符合现状的重新审视。该条款被称为互联网公司的“保护罩”，规定互联网服务供应商无需为第三方使用者的言行负法律责任。

豪根的举证，汇入当下对平台型科技公司如何平衡利润增长和社会责任，以及如何在不侵犯知识产权的同时，增加算法透明的公共讨论洪流中。在信奉“规模大于一切”的硅谷，脸书凭借“行动胜于*”的迭代思维，在17年内成长为拥有30亿用户、年收入860亿美元的庞然大物。但在“算法黑箱”遭遇质疑的当下，这家号称不以赚钱为主要目的的社交帝国一方面面临着TikTok、Snapchat 等其他新兴社交媒体的攻城略池，另一方面需要处理用户、广告主、监管方的新一轮博弈，解决方法不会那么简单。

吹哨人举报了什么问题？

豪根的代理律师向美国证监会撰写举报信，称作为上市公司，脸书刻意淡化和隐瞒产品风险和负面影响，在向投资人和潜在投资人的陈述中存在重大失实陈述和遗漏，涉嫌违反美国证券法

在听证会上，豪根将矛头指向脸书的决策方式——算法过于看重“用户参与度”，增长高于一切。豪根认为，脸书的选择，对儿童和社会是“灾难性的”。

豪根以在脸书的从业经历加以说明。2019年，豪根加入脸书的“公民诚信团队”。该团队的主要任务为识别处理政客误导性和有害发帖，以减少平台上虚假信息。但根据外媒报道，2020年12月，该团队遭遇拆分，汇入更大的团队中。包括豪根在内的部分员工认为，此举实为削弱该团队的影响力，甚至成为1月6日国会骚乱的原因之一。

在面对《60分钟》的采访中，豪根表示，解散“公民诚信团队”让自己对脸书曾经做出的保护用户的承诺，失去了信心。她表示，脸书不愿对动态信息（News Feed）信息流算法进行调整，决策逻辑在于“增长优先”。

作为上市公司，脸书天然追逐利润*化，但豪根认为，利润不应以公众安全作为代价。“脸书总是将自身的利润优先。”豪根表示，“但该系统已经在强化极端主义，造成两极分化。在某些情况下，危险的在线交流甚至会演变成现实中的暴力。而在另一些案例中，这架利润优化机器会诱发自我伤害和自我厌弃的行为——特别是部分脆弱人群，比如青少年。这些问题在脸书自己的内部研究中被一再证实。”

在她向媒体披露的内部研究文件显示，五分之一的青少年认为，脸书旗下的图片视频分享网站Instagram 让他们对自我感觉更差，以英国的少女尤甚。内部研究同时显示，在回应问卷的青少年中，针对如何产生自杀念头的提问，13%的英国和6%的美国用户归结于Instagram。该网站聚焦于时尚潮流，也通过磨皮等滤镜鼓励用户记录身材和生活，并获得点赞。脸书发言人则表示，这些内部调查存在缺陷且有特定的语境，媒体不可断章取义。

脸书内部调查显示，五分之一的青少年认为，Instagram让他们对自我感觉更差，以英国的少女为甚。脸书解释称，虽然PPT的标题集中于负面影响，但图表显示，感受到正面影响的人群，比例更大。

“参与度高于一切”的算法需要改变吗？

在豪根的指控中，脸书的算法被推上风口浪尖。

在用户每次打开脸书所可能面对的1500条新信息中，由算法决定用户所看到的信息排序。作为提升效率、满足用户需求的工具，算法从浩如烟海的信息中打捞出用户最感兴趣的，同时屏蔽一些“效率不高”或有害信息。但随着信息茧房等现象的出现，算法的弊病是否正在超越便利性，正引发争议。

脸书官网上记录信息流算法的变迁，也可窥得脸书的核心价值观。2006年，脸书创建使用边缘排名算法（EdgeRank）,该算法依托于三大因素，分别是亲密度，也就是用户和内容的关系；边缘权重，也就是用户对内容的互动；以及时间衰减，即新帖往往比旧帖位置更为优先。随后在2011年，信息流的排序算法转向机器学习。庞大的数据量和算力提升，让“脸书的算法”成为成千上万个算法的集合。

除了原本核心的三大要素之外，动态信息（News Feed）还引入10万个独立项的权衡因素。脸书不同的部门或团队会通过算法，各自进行局部优化，以完成各自的业务指标。比如有些团队负责更精准预测哪类人群更容易打开哪类广告，有些团队负责如何更精准识别并删除涉及钓鱼、色情、暴力等有害信息。借助机器学习和浩如烟海的数据，脸书得以创造一个强大的信息反馈工厂，实时地通过用户喜好的变化，因人制宜地推送不同信息。

但脸书前动态信息工程师Krishna Gade对外媒表示，用户参与度始终是所有算法的集体目标或最高原则。当不同的团队加入新的算法集合后，到底在多大程度上改变信息流排序，会在小部分用户上进行测试。Krishna称，“如果参与度指标下跌过多，该模型就会被抛弃。”

这不是这家社交巨头算法*个倾向于“参与度高于一切”的案例。《华尔街日报》曾经报道，2017年，当时的脸书首席产品官Chris Cox曾经牵头组建行动组，调研脸书以用户参与度为最高原则，是否导致政治倾向的两极化。结果显示，有一定关联。该行动组一度提议调整推荐算法，以推荐更多群组供用户选择，以防止部分群组走向极端化。但最终，大多数提议并未获得高层通过，理由是会影响用户参与度，行动组也随后被解散。

但并不是所有算法都遵循相同的原则。发表于2018年的《双强寡头平台新闻推荐算法机制研究》一文中指出，谷歌的新闻排序逻辑就与脸书不同。谷歌的PageRank算法引入包括新闻源相关的职员数量、新闻源相关的办事处数目、新闻源使用的写作风格等多维度指标，同时通过代表到新闻网站站点的超链接数目值来计算新闻源的质量值，以辅助排序。该文指出，多样化的算法选择背后，是一种制度性安排，体现出数字技术冲击下传播格局中多种权力与利益博弈后的策略性选择。

脸书也曾耗费巨资和人力更新算法。比如，在剑桥分析(Cambridge Analytica)不当获取数千万用户数据后，脸书内部对抓取用户隐私的行为进行严控。在干扰美国大选的指控中，脸书增加“诚信团队”加强有害信息识别。但豪根认为，一些努力在商业利益面前正在回撤。

豪根督促监管方考虑制定更严厉的法规来监管算法，同时更广泛地分享内部和外部研究。她表示，出于安全考虑，监管可以要求驾驶员系上安全带，对于烟草业，独立机构可以评估健康影响做出警示，但“公众无法对脸书做出同样的评估”。

青少年保护是否不足？

豪根对脸书不加限制的增长担忧，还源自内部研究所发现的产品对青少年心理健康的有害影响。

她向媒体披露的脸书内部文件显示，脸书旗下的Instagram让部分青少年对容貌更为焦虑，并可能产生自我厌弃的念头。

除了豪根的指控之外，在参议院消费保护小组委员会的听证会上，国会议员还提及另一项调查，显示价值观尚未完全建立的青少年团体可能正成为广告主猎食的对象，而脸书对此保护不足。

2021年9月间，非盈利组织“问责行动”乔装为广告主，向脸书提交了多份图片广告，提出针对美国13岁至17岁群体推送。这些广告实为宣传减肥、吸烟、赌博、嗑药、约会和饮酒等不良内容，也是脸书明令禁止的内容。但六份申请均在一个小时内获得脸书批准，可能出现在全美超过900万青少年的信息流中。

“问责行动”乔装为广告主向脸书系统提交的六份图片广告材料，从左上至右下分别意在宣传减肥、吸烟、赌博、嗑药、约会和饮酒。上述广告请求均在一小时内获批。

六份含有不良内容的广告申请，均在一个小时内获批

脸书全球安全负责任安提戈·戴维斯曾在参议院听证会上称，脸书禁止向青少年投放酒精或减肥广告。但上述调查显示，政策并未被严格执行。

在科技公司显示无法自律之际，美国国会议员借机继续推进1998年推出的《儿童在线隐私保护法》(Children's Online Privacy Protection Act)的更新换代。

积极推动该法案更新的立法者提出，面对时代变化，应当给16岁以下的儿童在线行为给予更多保护措施，并给出多项提议。

首先，在针对网站有害设计方面，提议禁止针对青少年进行“自动播放”；禁止通过召回策略将青少年长时间停留在平台上；禁止通过鼓励奖章的方式，鼓励青少年延长使用时长；禁止诸如点赞或粉丝数外显等互动设计，来评估青少年的受欢迎程度。

其次，在针对有害内容放大方面，提议禁止将青少年暴露于暴力、不当和危险内容；要求网站设立检举机制，对针对青少年的有害信息发布进行识别。

其三，针对操纵营销方面，提议禁止网站推荐“角色营销”或“开箱视频”给青少年群体；禁止推荐尼古丁、烟草或酒精广告给青少年群体；禁止将青少年暴露于互动类型的营销手段中。

在国会议员公开表达对青少年心理健康保护不足的担忧后，Instagram在9月27日宣布暂停针对13岁以下用户的“Instagram儿童版”的产品开发。

目前尚不清楚暂停儿童版开发对脸书商业前景的实际影响。在国会议员和豪根的口诛笔伐中，脸书的股价在一周内累计下跌不到1.5%。相比之下，2018年，剑桥分析用户数据泄露丑闻公布的前五日，脸书曾经暴跌14%，市值蒸发750亿美元，也引发后续管理层对用户隐私数据的重拳整改。

但豪根触发的“多米诺效应”还在发酵。国会议员正在要求马克·扎克伯格等公司高层到国会就青少年保护问题进行听证。最新财务报告显示，马克·扎克伯格拥有脸书58%的投票权。

【本文由投资界合作伙伴棱镜授权发布，本平台仅提供信息存储服务。】如有任何疑问，请联系（editor@zero2ipo.com.cn）投资界处理。