机器人的喧嚣
当机器让它们的军队在我们的头脑中游行
曾几何时，危险可以通过声音识别。鹅卵石路上靴子的声音，有节奏的、金属的、威胁性的，预示着一种意识形态的到来，准备粉碎任何挡在它面前的东西。 我们已经学会在历史书中、在黑白档案中、在那些不幸直接目睹的人的证词中识别那种声音。 今天，威胁不再在鹅卵石路上回响。 它在我们的新闻推送中跳动，在我们的通知中咆哮，它潜入亲友的两条发布之间，悄无声息地播下本不应该跨越集体理性之门的思想种子。 机器人的喧嚣。难以察觉。无处不在。毁灭性的。
无声的侵扰
让我们从事实开始，因为这正是公共辩论正在被剥夺的东西。
根据2024年Imperva恶意机器人报告，机器人——冒充人类用户的自动化实体，现在占全球互联网流量的49.6%。这是这一年度观察报告历史上非人类流量首次正式超过人类流量。换句话说：网络第一次更多地与机器对话，而不是与人对话。
让这个数字慢慢渗透。花时间衡量其平静的淫秽。
在社交平台上，情况同样令人震惊。皮尤研究中心早在2018年发布的一项研究显示，Twitter上指向最受欢迎新闻网站的链接中有66%是由自动化账户分享的，而不是人类。2023年，牛津互联网研究所的研究人员估计，大型社交平台上9%到15%的活跃账户是机器人，一些行业分析高达20%。埃隆·马斯克本人在收购Twitter并将其变成这种解体的实验室之前，曾经挥舞着20%虚假账户这一数字作为谈判论点，一旦掌权后却完全接受了它。
这些不是抽象的统计数据。它们是构建你认为的公众舆论的无形架构。
算法，同意的共犯
但仅仅机器人还不足以解释灾难的规模。要让机器人军队有效，它需要一个有利的地形。而这个地形，平台以外科手术般的精确度准备着。
推荐算法，这些决定你看到什么、以什么顺序、以什么频率的优化系统，不是中性的仲裁者。它们是参与度最大化的工具，这个神圣的指标决定着每个平台的股市估值。然而，参与度不是思考。参与度，在点击语言中，是愤怒、恐惧、愤慨、丑闻。这些原始情感绕过分析，绕过理性。
由告密者弗朗西斯·豪根于2021年披露的Meta内部研究表明，该公司完全知道其算法放大仇恨和虚假信息内容，因为这些内容比信息性或细致入微的内容产生更多的互动。内部研究的结论是毫不含糊的。 Meta的决定？在本质上不改变任何东西。
这个等式的结果（生成极端内容的机器人，放大情感内容的算法）是文明规模的回音室。那些合法的声音，那些细致入微、情境化、质疑、自我纠正的声音，被旨在奖励激进和简单的机制系统性地惩罚。 在数字生态系统中，达尔文被重新编程：生存的不是最适应的，而是最极端的。
工业规模的仇恨工厂
不要蒙蔽自己：这种技术基础设施不是偶然的产物。它在很大程度上是蓄意意愿的产物，无论是工业的、政治的还是国家的。
基于机器人的协调影响行动在过去十年的每次重大选举中都有记录：2016年美国总统选举、英国脱欧、巴西选举、法国选举、意大利选举、印度选举。欧盟虚假信息研究单位（DISINFO LAB）以及斯坦福互联网观察站（被特朗普政府在2024年关闭…），绘制了整个自动化账户网络，部署用于放大民族主义、仇外和反民主叙事。俄罗斯、中国、伊朗，以及为国内委托人工作的私人行为者都将这种做法工业化。
过去曾经是昂贵的心理作战，专属于国家和大国，现在在数字黑市上只需几百美元就可以获得。购买一万个虚假粉丝，对记者发起协调的骚扰活动，让阴谋论标签"上升"到趋势——所有这些现在都可以像订购比萨一样被订购。
与此同时，传统媒体在观望。
信息守护者的有罪沉默
让我们谈谈传统媒体。在全面的智力诚实中，应该对他们进行应得的审判。
面对信息空间的这种大规模侵扰，大型编辑部的反应是什么？本质上：追逐点击量，复制病毒趋势，将机器人制造的争议回收为"真正的社会辩论"。我们多少次看到连续信息频道的记者"报道"一个标签，就好像它代表了人口重要部分的意见，而从未验证推动它的账户的来源？多少"争议"被提升为重大社会事实，因为自动化账户网络人为地将它们推向公共领域？
媒体，不再是现实和感知之间的批判过滤器，而是成为机器人喧嚣的非自愿放大器——或者有时不那么非自愿。更糟的是：在追求观众和广告收入的过程中，一些媒体采用了与平台相同的逻辑，奖励情感胜过分析，冲突胜过细致入微，简化胜过复杂性。这个观察中没有阴谋。有一些更平庸和更可怕的东西：在注意力市场法则面前的渐进投降。
极化，理性溃败的症状
这种邪恶机制产生的不再只是"信息质量"问题。这是一种深刻的民主病理学。
西方民主国家的政治极化已经达到了自第二次世界大战以来前所未有的水平。皮尤研究中心在美国进行的纵向研究表明，民主党和共和党之间的意识形态距离在三十年内增加了一倍多——这种加速恰恰与算法社交网络的兴起相吻合。在欧洲，似乎免疫的国家中极右翼政党的进展——瑞典、芬兰、荷兰、德国——遵循与平台及其通过参与进行激进化逻辑渗透相似的曲线。
这不是巧合。这是学术研究以越来越高的精确度记录的因果关系。雷妮·迪雷斯塔、凯特·斯塔伯德或约查伊·本克勒的工作建立了一个活跃的少数群体在自动化工具的加持下，如何能够将其表征强加给沉默的大多数的机制，在只存在人工噪音的地方创造极端主义共识的幻觉。
我们按需制造法西斯主义，并持续为其提供服务。
机器人的喧嚣，就是这样：不是鹅卵石路上棕衫游行的坦率和公开的残暴，而是温和的渗透、渐进的污染、通过重复的正常化。当阴谋或民族主义叙事每天被来自一千个不同账户重复一百次时，人类的大脑——这个由进化塑造用于检测模式并适应其社会环境的了不起器官——最终将其整合为现实的一个给定。这就是神经科学称为虚假真相效应的东西：重复创造可信度，独立于任何事实基础。
教育：对抗崩溃的唯一堤坝
这个迷宫有出路。它令人不舒服，因为它缓慢、苛刻，并且不产生任何短期利润。它叫教育。
不是通常实践的教育（知识传播、就业准备、技能格式化），而是坚决面向判断力培养的教育。一种教育，它教授在分享之前质疑来源，区分经过验证的信息和情感断言，识别操控机制，容忍不确定性而不是逃避到阵营的舒适确定性中。
媒体和信息教育（英语国家称为media literacy，芬兰人自1990年代以来就在实践，在抵制虚假信息方面有可测量的结果）应该是任何关心自身生存的民主国家的第一预算项目。相反，我们将其视为可选的教学选择，夹在两小时考试准备和二十分钟匆忙完成的公民教育课程之间。
我们每天在我们明知会削弱民主的系统中投入更多计算能力、算法独创性和私人资本，并将批判精神作为预算调整变量。这是一种缓慢扩散的集体自杀。
没有良知，所有这些科学都将我们引向毁灭。 这不是浪漫的隐喻。这是诊断。人类建造的最复杂的信息传播工具正在被用来让它吞下自己最古老的恶魔——民族主义、对他者的仇恨、对领袖的崇拜、对真理的蔑视——以戈培尔及其同时代人永远无法想象的速度和规模。
在为时已晚之前听到喧嚣
历史，当它想表现得宽容时，有时会发出警告。鹅卵石路上靴子的声音可以在坦克跨越边界之前被听到。一些人听到了。太少。太迟了。
今天，机器人的喧嚣无处不在。它在你的手机里，在你早上查看的趋势中，在你睡前浏览的评论流中。它在不征求你意见的情况下塑造你，它缩小你的认知视野，它通过简单的工业重复机制将不可接受的东西正常化。
问题不是我们能否让它沉默。我们不能，不能完全做到，不能在不牺牲基本自由的情况下做到。问题是我们是否仍然能够听出它的真面目：不是人民的声音，不是社会的真实脉搏，而是一个旨在分裂我们、激进化我们并最终征服我们的机器的人工噪音。
回答这个问题需要有能力进行批判分析的公民、有能力诚实的媒体、有能力勇敢的监管者，以及有能力传授技能以外东西的教育者：一种智力姿态，一种清醒的反射。
我们知道替代方案。它有可识别的节奏。它在另一种音调中回响，但最终有同样的恐怖。
