Facebook的算法可以控制我们的人口和政治吗?谷歌的人工智能研究员，着名的机器学习库Keras的作者FrançoisChollet说，是的，这是独一无二的。但是，在充斥着人工智能的力量时，他低估了改变主意的难度，他在Facebook和其他科技公司之间的区别很弱。
在一个广泛分享的Twitter帖子中，Chollet认为Facebook在政治层面上能够“大规模控制人口”，其人工智能甚至不需要那么复杂。他认为，这是可能的，因为我们的生活越来越多地生活在网上，这给了Facebook足够的力量来指导我们所看到的。我们的“静态”大脑容易受到影响，而且没有办法对抗它。人工智能正变得越来越聪明，世界还没有结束，因为我们仍然对人工智能不好。Chollet 专门挑选Facebook--而不是他的雇主，谷歌，亚马逊或苹果 - 因为它的实验历史，“道德破产的领导”，并且因为他认为它独特地嵌入我们的社交生活中。(稍后会详细介绍。)
首先，目前尚不清楚Facebook是否像Chollet那样具有政治影响力。他是正确的，依靠互联网使公司更容易操纵我们 - 是的，Facebook 已经有了。这是一个真正的问题，但它也是我们现在试图解决的问题，而不是一个我们都无视的可怕的未来大灾难。对于Chollet的说法真的很可怕，Facebook需要成为唯一的新闻来源。这不太可能，皮尤数据显示人们仍然可以从各种渠道获取新闻。
其他的研究表明，在线“回音室”并不像我们想象的一样普遍，根据布伦丹·奈恩，达特茅斯学院政治学教授谁研究的信息和政治。而且，在一纸去年十一月公布的美国国家科学院论文集，经济学家发现，两极分化反而增加大多数美国人最有可能使用互联网之间快速：老年人。事实上，其他研究表明，极化更可能是由电视引起的，而不是互联网引起的。
即使这样，效果也很小。根据Nyhan的说法，一项估计显示，接触额外广告的净影响将大约两人的党派投票从10,000人中移除。“劝说非常困难，”他在给The Verge的电子邮件中写道。“我们应该担心可能的例外情况，但总的来说，人们很难改变高调的候选人和问题。”
那么我们如何将这与所有关于我们如何容易出现认知偏差的研究相提并论呢?所有这些关于弱势思维和易操作的讨论都会混淆不同的事物。我们很容易被一个新闻报道所吸引，无论是故意伪造还是准确但不值得担心(就像中国空间站落在人们脑海中的可能性很小)。我们不善于评估风险，我们被新奇所吸引，而且我们认知上很懒惰。被错误信息所欺骗的事情经常发生。但事实 - 或者就此而言，谎言 - 难以说明我们的信仰和情感。我们已经知道了：只说陈述事实不会改变人们的想法。
大多数人一直生活在一个每个人都试图影响我们的世界：电视，广告牌，整个传统广告业。事实上，我们所有人都被朋友说过的话说服了 - 所以是的，我们绝对会受到影响。但正如心理学家Jonathan Haidt所写，我们的许多信仰都是情感和直觉的。事后我们得出了合理的理由。党派关系是强大的，改变父母的投票要比告诉他们使用不同的品牌要困难得多，因为政治比品牌更强烈地反映了身份。例如，党派身份识别越来越多地与某人在收入分配中的地位相关而不是他们是否使用Facebook。这就是为什么Chollet关于政治人口控制的观点令人困惑。算法可能会提供大量信息来强化我们的信念，但它们不太可能轻易地将我们从保守派转变为自由主义者。
在获取服务信息方面，单挑Facebook是很奇怪的。Facebook肯定比YouTube更个性化，但美国人无论如何都不信任Facebook。而他认为其他公司尚未对用户进行明确试验的论点并不令人放心。谷歌和亚马逊尚未卷入选举丑闻，但这并不意味着他们的技术最终无法进入选举丑闻。(如果我们依赖领导者的优点，那么这两家公司只是一个不好的领导者，而不会成为自己的威胁。)谷歌强大的搜索算法可以无意中提供虚假的事实和答案，并收集个人数据和销售基于该数据的广告功能。像Alexa 这样的家庭助理可以接触我们亲密的生活，这些信息很容易被用来对付我们。这些公司通常希望向我们出售物品而不是影响我们的政治，但无论如何他们有时会这样做。以谷歌拥有的YouTube：没有任何恶意，其推荐算法通常指向极端主义内容。
因此，虽然很容易理解为什么Chollet的推文被广泛分享 - 他们证实了很多人最担心的事情 - 情况比他建议的更复杂。Facebook并没有像现在这样强大，而其他科技公司也有办法从事同样糟糕的行为。如果阻止谷歌 - 或亚马逊或其他任何人 - 对社会不利的唯一因素就是良好的领导力，那么当他们的领导层发生变化时，我们可能会遇到麻烦。这一切都得出了一个结论，实际上：保证安全的最佳方式是监管，无论是对公司如何收集和使用我们的数据的限制，还是要求这些算法不透明的法律。这些公司不一样，我们应该记住细微差别，