■罗昕 张梦
　　【本文提要】人工智能时代，计算宣传成为操纵舆论的新方式。计算宣传兼具技术与社会双重属性，其运作机制在于瞄准争议性议题制造社会冲突和分歧，通过算法技术快速传播政治模因，利用中介化的社交媒体塑造注意力中心。计算宣传起源于西方，目前已广泛渗透到世界各地的政治活动中，严重影响了国家民主和国际秩序。随着全球化的加剧，计算治理需要从以民族国家政府为中心的方式转向政府与公民、私营企业、国际机构等多主体共存的全球治理模式。
　　【关键词】计算宣传 舆论操纵 虚假新闻 社交机器人 全球治理
　　【中图分类号】G201
　　2016年前后，一种新的宣传方式——计算宣传（Computational Propaganda），引起了西方学者的广泛关注。据相关文献分析，美国大选、英国脱欧公投、叙利亚冲突、巴西选举、墨西哥选举、乌克兰危机等多项政治事件中均发现了计算宣传的痕迹。这种宣传方式以大数据、算法技术为支撑，通过机器人在社交媒体上塑造政治对话。机器人扮演成难以识别的人类账户，在社交媒体账号中占据了很高的比例，也产生了大量的在线流量。它们向社交媒体用户传递误导性的信息，或发送垃圾消息，或伪造政治关注，或攻击政治对手，或制造趋势话题，或传播虚假信息，试图在一系列政治活动中制造共识、操纵舆论。这一现象正与后真相政治、虚假新闻、社交媒体操纵等现象相互交织，使当下政治形势和信息环境愈发复杂，对国家民主、国际秩序造成了威胁。
　　随着人工智能技术的普及和发展，计算宣传在全球寻找目标和机会，中国也成为被侵袭的对象。牛津大学的两名学者基于110万条Twitter上与中国和中国政治相关的标签帖子进行研究，发现大量针对中国的计算宣传，旨在传播攻击或对抗中国政府的虚假信息和机器人账户在Twitter上非常突出。①鉴于计算宣传在国际社会的普遍存在，以及它可能对我国社会发展和国家稳定造成的破坏，我们有必要在学理和实践上对计算宣传进行深入剖析。
　　
一、文献综述
　　目前关于“计算宣传”研究的主要知识领域包括计算机科学和社会科学两个方面。计算机科学主要关注计算宣传背后的技术问题，采用定量分析方法检测、识别、追踪社交机器人的存在；社会学科尤其是传播学，主要将计算宣传视为利用人工智能技术操纵舆论的新途径，从批判的角度探讨计算宣传在政治、文化和经济领域产生的影响。
　　计算宣传常和虚假新闻、社交机器人的研究联系在一起。社交机器人是传播虚假新闻的新工具，利用社交机器人传播虚假新闻是开展计算宣传的基本方式。伍利（Woolley）和霍华德（Howard）认为，在社交媒体平台上广泛传播的虚假新闻，可以被认为是一种计算宣传，而机器人往往是关键工具。②然而，社交机器人并不是开展计算宣传的唯一工具，传播虚假信息也不是开展计算宣传的唯一形式。例如，萨曼莎（Samantha Bradshaw）等学者证实了“计算宣传越来越多地使用付费广告和搜索引擎优化”。③误导信息不仅包括虚假信息，还包括发送垃圾邮件、煽动仇恨言论、制造趋势话题、伪造政治关注等其他形式。④社交机器人能促进虚假新闻传播的效果。2018年发表在Science上的两篇文献都对此进行了论证。索罗什·乌苏吉（Soroush Vosoughi）等学者利用最先进的机器人检测算法，考察了Twitter上机器人对假新闻传播的影响，认为机器人能同等程度地促进真、假新闻的传播。但由于人类的行为比自动化机器人对虚假和真实新闻的差异传播所起的作用更大，因此虚假新闻比真相传播得更远、更快、更深、更广。⑤大卫·拉泽（David M. J. Lazer）等学者认为，社交机器人通过点赞、分享和搜索信息，可以将假新闻的传播放大数量级。不过，机器人假新闻对人的影响程度无法测量，因为知道有多少人遇到或分享了一条假新闻并不等于知道有多少人阅读或受到了影响，⑥计算宣传效果的衡量受到文化、经济、时间和社会等资本的影响，⑦应该综合考虑多种因素。
　　计算宣传被广泛应用到政治、经济、文化等领域，其中，在政治领域的影响成为计算宣传的主流研究方向。在政治方面，计算宣传通常被用来左右国家选举、煽动公众抗议、开展国际攻击。赖安（Ryan）等学者认为，政界人士越来越多地利用机器人在社交网络上假装更受欢迎，或者攻击竞争对手以营造选举优势。⑧本斯（Bence）等对美国大选期间的计算宣传进行了研究，发现特朗普和希拉里的支持者都使用机器人来提高候选人的支持率，政治机器人发布了36.1%的支持特朗普的推文和23.5%的支持希拉里的推文，⑨推文中包含了大量关于对手的负面信息。计算宣传通过煽动公众抗议来影响政府和公民之间的关系。奥利维拉（Oliveira）等学者调查了2015年巴西发生的两场公众抗议活动中Twitter上的信息传播动态，证实了政治团体为了提高抗议活动的可达性而大量使用社交机器人，以此号召人们上街游行。⑩计算宣传的政治影响范围已经超越国界，成为开展国际攻击的武器。马克（Marc）探讨了Twitter社交机器人在2017年海湾危机中的使用，认为在一些标签上，至少71%的活跃账户被发现是机器人，它们用来帮助阿联酋、埃及、沙特阿拉伯和巴林等四个封锁国增加对卡塔尔的负面信息和宣传。[11]在经济方面，计算宣传常被用于操纵股票和广告市场。托马斯（Thomas）研究了欺诈者如何利用计算宣传实施拉高出货计划（pump-and-dump），即通过在市场上传播虚假或误导信息来兜售公司股票，人为地暂时提高股价。[12]在文化方面，艾莉丝（Alice）和丽贝卡（Rebecca）认为，互联网亚文化利用当前的媒体生态系统来操纵新闻框架、设定议程和传播思想，社交媒体上的机器人操纵会对主流媒体形成操纵，从而增加主流媒体上的错误信息，降低其信任度。[13]国内虽没有发现“计算宣传”的研究文献，但已有涉及社交媒体操纵、社交媒体机器人的相关文献。方师师提出社交媒体操纵是一种计算机协同人工来控制社交媒体网络的“混合宣传”模式，并从行为体、内容渠道、组织结构三个维度分析社交媒体操纵的动机、主体和客体、宣传内容、渠道工具、组织网络和市场服务。[14]骆正林等分析了社交媒体假新闻与传统媒体假新闻的区别，并从主体性、主体间性与人机关系三个维度批判社交媒体机器人假新闻的“远距离操纵”。[15]张洪忠等指出社交媒体正在变为“人+社交机器人”共生的生态，从而探讨了社交机器人的内涵和外延，以及社会科学尤其是传播学应该如何研究社交机器人。[16]由此可见，“计算宣传”与“社交媒体操纵”这两个概念在定义上具有内在的紧密性。
　　综上所述，目前关于计算宣传的已有研究主要集中在西方，并将计算宣传作为一种负面现象，从概念界定、效果评估等方面展开研究，但也具有一定的局限性。从概念来看，关于“计算宣传”的内涵与外延缺乏系统界定，需要进一步从“宣传”这一知识域进行深入探讨。此外，“计算宣传”内在的运作机制和外在的治理机制也缺乏系统性的学理考察。本文将在已有研究的基础上，从“宣传”的角度进一步厘清计算宣传在政治领域的内涵、外延、社会影响以及运作机制，探讨计算宣传的治理体系。
　　
二、计算宣传的概念及影响
　　在民主政治中，技术是一种权力，能帮助所有者巩固自身政治权力。随着人们进入阿尔温·托夫勒（ Alvin Toffler）所预测的信息政治时代，信息和权力的关系越来越紧密。[17]同时，舆论和宣传逐渐嵌入政治信息时代的权力和决策系统，对政治权力的渴望促使政治家越来越频繁地利用高级信息技术来开展宣传、掌控舆论，捍卫自己的政治权利和地位。
　　（一）计算宣传的内涵和外延
　　传播技术对政治的影响越来越大，技术从促进政治传播的一种“政治力量”，逐渐与政治相融合形成强大的“力量政治”。“宣传”最初是一个中性词，意指散布或传播一个消息、一种思想。马克思和恩格斯在社会主义革命中提倡用事实推动宣传，把宣传和组织并列为最有力的行动手段。[18]自“宣传”在第一次世界大战中被大规模运用之后，它开始被赋予一种与“公众控制”相关的否定性含义。例如，《不列颠百科全书》对宣传下的定义是：“宣传是一种借助于符号以求操纵他人信仰、态度或行为的或多或少系统的活动”。[19]因此，在西方语境中，宣传具有对客体进行操纵和控制的功利性本质，它作为“一种特殊的信息传播形态，一种操纵技术，强调思想对思想的战争，隐含了强大的权力力量”，[20]容易成为政治行为者进行意识形态控制的工具。
　　随着传播技术的发展，宣传也经历了不同的形式。早期的宣传工具包括喇叭、横幅、报刊、广播、电视等传统大众媒体，宣传主体是人类。随着人工智能技术的发展，机器人首次成为宣传的主体，衍生出“计算宣传”这一控制舆论的新范式。美国华盛顿大学学者塞缪尔·伍利（Samuel C. Woolley）和英国牛津大学学者菲利普·霍华德（Philip N. Howard）在2016年提出“计算宣传”（Computational Propaganda）的概念，将其描述为“以在社交媒体网络上故意散布误导信息为目的，使用算法、自动化和大数据分析等方式操纵公众舆论”。[21]近几年来，越来越多的西方学者沿用这一概念内涵，来分析社交媒体上新出现的舆论操纵行为。计算宣传兼具技术和社会双重属性，技术属性来源自以人工智能、算法为代表的现代信息传播技术（ICT）的发展，而社会属性则植根于“宣传”控制舆论的内涵。因此，计算宣传既是一种影响政治的技术力量，也是一种操纵舆论的宣传方式，被视为“以达到其创造者的特定目标而故意歪曲符号、诉诸情感和偏见、绕过理性思维的传播，一种运用算法技术手段进行创造或传播的宣传”。[22]计算宣传有着丰富的外延，根据不同的维度可以划分为不同的形式。从行为主体来看，计算宣传通常由政治家、地区政府、民族国家来实施，对地区和国家选举、政府与公民关系，以及国际关系产生负面影响。从技术手段来看，计算宣传基于算法运作机制，发展出制造利己趋势、消除不利声音和推荐垃圾信息等基本形式。从动机来看，计算宣传包括煽动公众抗议、攻击政治对手、破坏国家关系等目的。然而，无论计算宣传的形式如何变化，它的本质都在于操纵舆论。
　　（二）计算宣传的社会影响
　　计算宣传是人工智能技术发展的产物，具有自动化、大规模、隐蔽性的特点，这也是计算宣传与其他宣传形式的根本区别所在，决定了它比以往的宣传形式具有更强大的舆论操纵能力，能造成更深刻的社会影响。支撑计算宣传的传播技术具有双重用途：提供信息的社交网络工具和造成伤害的信息战武器。[23]大数据、算法等人工智能传播技术创建了社交机器人，社交机器人担任计算宣传的自动化操作工。政治机器人是在政治领域进行舆论操纵的社交机器人，它们具有部署和复制消息的属性，[24]在社交媒体平台上组建大规模的机器人水军（Robot Army）、僵尸网络（Botnet）和网络部队（Cyber forces），实现生成极端观点、发布误导信息、影响政治议程的目的。
　　西方学者普遍批判计算宣传，认为它传播误导信息、操纵公共舆论的本质会加剧政治冲突、制造政治危机，在选举、战争、人权等有关国家民主安全的政治事件中产生了广泛的负面影响。然而，计算宣传效果的衡量却始终是个复杂的难题。目前计算宣传的效果研究主要集中在短期效果而非中长期效果的评估，且只能证明计算宣传和政治事件之间的相关性，但无法证明因果性。学者们能够通过定量分析确定计算宣传的存在，以及它在一定程度上影响了舆论，但无法确定这种影响的具体程度，以及计算宣传是否直接导致了某种政治行为。计算宣传的效果应该综合考虑以下几个因素：第一，社会资本。社交机器人要想成功操纵舆论，背后必须有大量的社会、时间、知识和货币资本，那些缺乏资金和机器人知识的人无法轻易影响政治话语。[25]由于社会资本的不平均分配，不同的人利用计算宣传的能力并不均衡，计算宣传的效果必然不能一概而论。第二，人类参与。社交机器人是计算宣传的显性主体，但背后离不开人的参与，这是因为“机器人被设定为以系统和连续的方式泄露信息，而人类更容易参与政治辩论”，[26]因此人类更可能对误导信息的传播产生深刻影响。第三，数据代表性。由于Twitter相较其他平台拥有更广泛的访问空间，目前关于计算宣传的研究大多使用Twitter上的数据。然而，与Facebook相比，Twitter的用户数量要低得多，仅占Facebook的16.5%，低渗透率会影响数据的代表性。[27]同时，Twitter没有提供太多关于其用户的社会人口统计资料，如地理位置、宗教信仰、政治偏好、性别、受教育程度等，从而限制了研究的范围。[28]第四，平台的作用。社交媒体是媒介和技术发展的产物，它一方面代表了社会的进步，也“反映了更广泛的社会结构性不平等，社交媒体上的政治对话可能被那些收入更高、受教育程度更高的人所主导”。[29]第五，社会事件。宣传成功与否的因素除了宣传的理论基础、宣传者的水平、宣传艺术等外，决定性的因素是经济结构引起的社会变化，宣传不是一种孤立的社会行为，而总是将社会环境和社会事件与之联系起来考察。[30]因此，在公众更关注的政治事件上开展计算宣传，会取得更好的效果。
　　
三、计算宣传的舆论操纵机制
　　近年来，西方计算宣传被广泛运用于各类政治活动，帮助政治家吸引政治关注、提升政治形象、打压政治对手，最终实现自身的政治目的。计算宣传作为一种新的宣传形式，在操纵舆论的机制上利用了“内容+技术+渠道”的完美组合。争议性话题是计算宣传的核心内容，智能算法是计算宣传的支撑技术，社交媒体是计算宣传的中介平台。
　　（一）瞄准争议性话题制造社会冲突和分歧
　　计算宣传往往将具有争议性的议题作为操纵舆论的内容基础，通过社交机器人传播有关选举、种族、人权等争议性议题的误导信息，进一步强化用户的认知偏向，挑起相关议题的争议和对抗。在政治生活中，越是人们关注的话题越容易生成各种不同的观点而形成争议的空间。争议性话题会导致不同信息的交锋，为误导信息的传播提供了契机，也更容易成为计算宣传的内容载体。能够引发争议的政治话题往往是人们共同关心的重大问题，其争议的程度不仅与话题本身的重要性有关，也受到人们在长期生活和实践中所形成的社会认知的影响。在处理信息时，人类会受到各种各样的社会认知偏向的影响，包括同质性、确认性、从众性、错误信息效应和动机推理，[31]这些认知偏向共同影响了人们对信息的接受程度，也容易引发人们在相关议题上的争议和分歧。社交媒体上围绕争议性议题而产生的误导信息是由信息发布者和信息接受者共同构建的，当用户受到认知偏向的影响，接收和认同了误导信息，它们就具有存在的合法性，继而引发更大范围的争议。这些误导信息得以存在和传播的主要力量在于它能否骗取受到认知偏向影响的用户的信任，以及“它通过对用户认知的影响，能在多大程度上渗透到社会领域”。[32]算法推荐技术能根据用户既有兴趣、认知偏向和信息热度为用户制定个性化推荐方案，不仅塑造了用户的信息接收范围，还影响了信息接受程度，用户只能接收到过滤后的有限信息，也更愿意相信与他们认知偏向相一致的信息。由于用户认知偏向在当今信息环境下进一步深化，并且对于争议性议题的理解存在视角、认知和价值观的差异，因此会在网络上形成各方共同参与的“争议场域”，导致“愈争议愈传播，愈传播愈争议”的“黑洞效应”（Black Hole Effect）。[33]因此，计算宣传能强化用户的既有认知偏向，瞄准种族、人权、宗教、选举、战争等具有争议性的话题传播误导信息，使之更广泛地渗透到社会领域，引发社会冲突和分歧。
　　西方学者认为，计算宣传已经在许多国家成为围绕选举、抗议等争议性话题破坏国家民主、煽动民族仇恨、制造阴谋论的工具。以选举为例，计算宣传专家往往通过操纵投票进程来影响选举结果。2017年，首个全球网络部队（Global Cyber forces）名单揭示了政府和政党行为者操纵社交媒体的全球组织，宣布在全球48个国家发现了正式组织的社交媒体操纵活动的证据，其中包括大量的选举活动。[34]牛津大学的学者针对巴西的2014年总统大选、前总统迪尔玛·罗塞夫遭弹劾，以及2016年里约热内卢的市政选举三场政治事件进行分析，均发现计算宣传在其中发挥了操纵舆论的作用。[35]
　　（二）通过算法技术快速传播政治模因
　　算法技术能促进政治模因更快、更广地传播，使其中包含的误导信息在社交媒体上形成趋势。“模因”（Meme）是一种新的“复制因子”，通常用来表述文本、图片、音视频等其他文化内容为单位的特定思想和信息的快速分享和传播。[36]由于具有高度参与、大量复制、可变异的特性，网络时代的模因能够实现流行文化和政治身份的协商，通过模因开展信息传播，吸引公众参与政治议程。越来越多的政治活动试图通过“模因战争”（memetic warfare）来塑造舆论，[37]即利用算法技术在社交媒体上快速、大量传播含有争议性的、误导性的政治模因，试图在政治活动中控制对话、叙事和心理空间。
　　算法的“可见性”（Visibility）和“不可见性”（Invisibility）为快速传播政治模因提供了条件。可见性能赋予客体被看见的权力，算法改变了信息流动的速度和广度，降低了信息暴露的门槛，扩大了信息的可见范围和深度，使得大量信息从不可见成为可见，进一步巩固了算法拥有者的地位和权力。同时，算法的过滤功能也增加了客体不可见的风险。当计算宣传利用算法的这一特性使得大量含有误导信息的政治模因可见，同时使含有真实信息的政治模因不可见时，舆论便有了被操纵的风险。
　　计算宣传主要基于算法技术的“趋势”、“过滤”和“推荐”三种基本形式传播政治模因，实现舆论操纵。在趋势方面，算法技术利用其可见性放大含有政治模因的话题标签或凭空创建政治模因来设定议程、制造共识。美国大选期间，关于特朗普大受欢迎的政治模因形成了大量的趋势话题，以帮助他获得更多的政治关注。在过滤方面，不透明的算法技术黑箱能够消除或劫持某种政治模因，达到打压对手、淹没真相、阻止辩论的目的。在推荐方面，算法技术基于内容的过滤、协同过滤和时序流行度的过滤，[38]向用户推荐政治模因，对虚假新闻、仇恨言论的传播起到了一定的促进作用。算法不仅可以增大政治模因的信息量和声量，同时可能增强政治模因的可信度，从而加速政治模因活动的影响范围，使之形成特定的舆论趋势。如同人们经常说的“谬论重复一千遍就是真理”，计算宣传完美诠释了“如果你让它成为趋势，你就能让它成为现实”。[39]2016年美国大选中，出现大量利用算法技术传播政治模因、攻击候选人的现象。希拉里在“9·11”纪念仪式上当众晕倒，社交媒体上迅速出现了与此相关的政治模因。英国《独立报》发表了一篇题为《模因，而不是她的健康，可能会让希拉里·克林顿输掉美国总统大选》的报道，指出模因扮演着“快餐媒体”的角色，具有病毒式传播的力量，政客可以通过模因的传播拥有更多发言权，并形成议程，影响观众的判断。算法技术能促进带有误导信息的政治模因的高度可见和大量传播，实施计算宣传的政治家能通过这种模式攻击对手，营造有利于自身的舆论环境。
　　（三）利用中介化的社交媒体塑造注意力中心
　　社交媒体是开展计算宣传的主要渠道，社交媒体草根化、去中心化、公开度高、参与性强的传播特点为计算宣传创造了有利条件。班尼特（Bannett）和恩特曼（Entman）曾在2001年提出“政治中介化”（Mediated　Politics）的概念来描述政治丧失自主性转而依赖大众媒介的中心功能，并持续被大众媒介所形塑的现象。[40]媒体是政治传播所依赖的中介，媒体掌握信息资源，塑造政治话题，呈现政治动态，这种“中介的政治传播已成为当今民主中政治与公共生活的中心”。[41]长期以来，传统媒体在塑造公共舆论、影响政治走向方面具有得天独厚的优势。内容生产机构的中心化和信息传播渠道的中心化，决定了传统媒体在信息传播体系的中心地位，传统媒体的议程设置功能也使其报道的事物成为用户注意力的中心。相较传统媒体，社交媒体的去中心化并不代表中心的消失，事实上，它是指社交媒体内容生产和传播方式的去中心，而非用户注意力的去中心。社交媒体仍然具有传统媒体塑造用户注意力中心的功能，而去中心化的内容生产和传播方式甚至在一定程度上强化了这种功能，社交媒体因此成为“政治中介化”的有力平台。社交媒体是传播新闻内容的重要渠道，是政治参与的重要平台，也是年轻人发展政治认同的主要媒介。[42]长期以来，人们认为社交媒体有助于协调公民参与和改善民主，但这种观点如今受到与计算宣传相关活动的严重挑战。社交媒体搜集了用户关于公共生活和私人生活的大量数据，包括人口统计数据、公众态度和意见等可以为计算宣传所用的宝贵资源。机器人可以利用这些资源在社交媒体上更有针对性地传播含有误导信息的政治模因，塑造用户的注意力中心，导致操纵者对舆论的控制，引发社交媒体对言论自由和政治参与的“寒蝉效应”。虽然社交媒体在政治活动中的作用有可能因为线下的、面对面的政治传播的存在而被夸大，[43]但它依然可能为计算宣传所利用，从协调公民参与的平台沦为政治控制的工具。
　　极端组织“伊斯兰国”ISIS建立了一个虚拟在线的伊斯兰王国，进行一种纯粹的计算宣传。美国海军战争学院的尼古拉斯·格莱文（Nicholas Glavin）总结了ISIS传递信息的主题：残暴、仁慈、受害者身份、归属感、战争和乌托邦主义。[44]ISIS利用Facebook、Twitter、YouTube、Telegram、WhatsApp和Surespot等所有社交媒体和即时通讯平台传递这些主题信息。ISIS的计算宣传通过社交媒体来塑造用户注意力中心，他们创建了数千个人类和机器人社交账户、吸引了大量的人类粉丝和机器人，不断招募同情者和支持者，从而煽动社会仇恨。
　　
四、计算宣传的治理体系构建
　　计算宣传使国家政府、科技公司、社交媒体用户等利益相关方都遭遇了前所未有的危机，公共领域冲突不断，公共理性逐渐缺失，公共政策失灵屡见不鲜。技术发展所带来的一系列问题，促使“传播学与公共政策分析的融合在构建理性传播、制订理性决策方面具有现实紧迫性”，[45]也决定了计算宣传的治理迫在眉睫。随着全球化的加剧，政府权力被市场逐渐分化或重新分配，新的利益攸关方不断加入，政策行动者和协调公共政策的方法更加多元化，治理形式也发生了变化。治理开始从传统的以民族国家政府为中心的方式转向政府与公民、私营企业、国际机构等多主体共存的全球治理模式。计算宣传这一正在危及全球公共性的活动，也需要建立多主体、多角度的全球治理体系。
　　（一）发挥政府在审核和立法上的关键作用
　　公共政策分析包括问题构建、监测、评估、预测和建议等环节，在不断冲突和平衡的过程中寻找使社会福利最大化、治理效果最优化的动态方案。目前，基于证据的公共政策分析被广泛运用以提升干预和治理的效果，从而达到调解社会冲突、增进社会民主的目的。全球化挑战了国家行动主权，使民族国家在日常政治事务中行使主权的能力被削弱，但民族国家的政府仍然在国家治理及政策制定过程中发挥关键作用，在一系列社会政治活动中享有垄断的权力，包括指导公共政策的国内法律、加强对企业、网站等私营部门的审查与管制等。
　　计算宣传操纵舆论的现象已经引起了世界各地政府的高度重视，计算宣传的治理也应充分发挥政府的作用，监测、评估计算宣传的负面影响，在信息审核和立法上做出前瞻性的决策，促进社会公共领域的理性传播。一些政府开始建立应用程序、门户网站或工作组进行监督和核查，并允许用户举报虚假新闻，以此对抗试图利用计算宣传来操纵舆论的行为。例如，哥伦比亚推出专门的政治新闻网站La Silla Vacia对WhatsApp上共享的内容进行事实核查，用来检测在该平台上传播的计算宣传式的病毒链信息，帮助人们更好地根据事实而不是谎言形成观点。意大利政府在2018年大选之前推出了一项旨在打击计算宣传的在线服务，人们可以通过网站上的“红色按钮”系统报告假新闻，同时使用专业软件确定新闻来源，确定信息是否受到了计算宣传的操控。同时，一些国家开始采用立法的强制措施来治理计算宣传。2017年1月，德国三个州重新启动了一项关于数字入侵的立法倡议，将社交机器人在Facebook上的使用定为犯罪。同年3月，德国司法部长提出一项法律，如果社交网站无法删除非法仇恨言论和虚假新闻内容，将对其处以高额罚款。2018年，美国也开始对社交机器人实行立法。美国加州立法禁止机器人伪装成人类，根据新签署的法案，这些机器人在与人类用户交流时，必须主动表明自己的机器人身份，其目的是防止舆论操纵以及在社交媒体上发布假新闻。当前，政府仍然在计算宣传的治理中发挥关键作用，通过加强监测与核查，逐步完善法律制度，构建兼具回溯性、前瞻性和可操作性的计算宣传治理政策。
　　（二）联合非政府组织和公民的治理力量
　　治理政策需要在效益、效率、充分性、公正性等具有冲突的多重价值标准中寻求平衡，充分体现政治、经济、法律、技术等多元理性，[46]才能维护各治理主体以及社会成员的总体利益。除了民族国家政府，私营企业、技术社群等非政府组织以及公民也是计算宣传的主要参与者，因此，计算宣传的治理可以充分联合这些非政府组织和公民的力量，在政府的法律保障下，构建具有社会多元理性、符合社会效益的倡议性主张。
　　私营公司能够利用先进的人工智能和大数据技术为计算宣传的治理政策提供帮助，包括监测社交机器人的行动轨迹，筛查社交媒体上的误导信息、检测与政治活动有关的意见趋势等。计算宣传是人工智能技术的产物，因此，要降低计算宣传给公共舆论带来的负面影响，首先要从技术层面上进行管控，对机器人进行有效的识别、侦查、追踪和处理。2018年，美国数字法医研究实验室确定了六个指标来帮助用户综合判断、识别机器人和僵尸网络：言论模式一致、发帖内容一致、命名模式一致、创建时间一致、活动方式一致、账户定位一致。该实验室还和Facebook等开展技术合作，共同治理社交媒体上的计算宣传。谷歌、Facebook和Twitter在欧盟的强烈要求下加大技术打击力度，试图控制、处理与选举、极端主义和恐怖主义有关的舆论操纵。科技公司应坚守社会责任、履行行业规范，禁止向个人和组织出售生产社交机器人的技术和产品，防止他们利用社交机器人从事计算宣传。此外，科技公司利用机器学习算法和文本信息数据挖掘技术对社交媒体上的信息进行内容分类、情感分析和意见挖掘，将有利于对计算宣传的监测与评估，提升治理政策的政治可行性和可持续性。
　　人们在获取信息以及做出决策过程中容易受到情感、短期利益等因素的影响，倾向于寻找和接受证实了他们现有观点或符合其短期利益的信息，而拒绝或忽视与这些观点和利益相悖的信息，因此促进公民在传播和决策过程中的理性、培养公民的媒体素养和算法素养显得尤为重要。通过有意识地培养公民“在面对各式媒体信息时所表现出的选择能力、理解能力、质疑能力、评估能力、创造能力、生产能力及思辨能力” [47]等媒体素养，能帮助公民了解误导信息的传播动机和目的，运用批判性思维提升防范、识别、质疑虚假信息的能力。同时，培养公民的“算法素养”，使其意识到算法在他们生活中的存在，并且用批判性的思维理解算法带来的影响，[48]从而认清计算宣传操纵舆论的本质。
　　（三）开展以国际机构和跨国网络为主导的全球治理
　　全球化改变了私营部门和公共部门之间的关系，塑造了涵盖社会和政治公共空间的“全球集市”，逐步建立的“全球公私伙伴关系”和“跨国政策网络”，使全球和区域范围内的治理政策与以民族国家为中心的治理政策并存。[49]公共政策不再是国家的“囚徒”，[50]而是延伸到由国际机构扮演主要角色的全球公共空间，治理不仅是政府的主场，而且演变成企业、非政府组织、国际机构等组成的跨国社会网络的战略互动。计算宣传的治理不能停留在国家层面，而是要促进国际机构之间以及国际机构与政府、非政府组织的紧密合作，构建跨国政策行动者网络。
　　首先，充分发挥联合国这一维护全球领域“公共性”机构的作用，监管全球公共负面影响，建立跨国政策沟通渠道，分享治理经验和技术。计算宣传引起了联合国的高度重视，联合国呼吁在保障言论自由的同时，警惕社交媒体上的虚假信息和宣传可能损害个人声誉和隐私，或煽动对社会暴力、歧视和敌意，鼓励媒体和公民社会查明并提高对虚假信息和宣传的认识。在2018年举行的联合国互联网治理论坛（IGF）上，来自各国政府、私营部门和民间社会的利益攸关方就加强全球合作，打击数字时代具有误导性的危险信息达成了共识，各方表明将共同努力应对这一威胁网络安全的全球问题。其次，建立由智库、顾问、科学家、商业公司、专业机构组成的跨国政策专家网络，对计算宣传的相关活动和效果进行评估，提出具有专业性和影响力的跨国治理建议，包括提高算法机制在国际社会的透明度，保护社交媒体用户数据跨境流动的安全等。当然，以国际机构和网络为主导的全球治理存在着缺乏权威性的问题，由于它们通常建立在各国自动加入、自愿遵守的基础上，治理政策的协调需要召集各方参与对话、辩论和谈判，而没有法律规范的强制保护，也缺乏有力手段来保证治理政策的强制执行。因此，这种全球治理模式更加强调对全球责任、全球共识的呼吁，不断提高国际机构和跨国网络的合法地位，促使全球行动者共同参与决策，分担责任
　　
结语
　　目前计算宣传研究在西方已出现不少成果。鉴于国际社会上的计算宣传现象日益普遍，我国也需要对“计算宣传”未雨绸缪、引起足够重视。未来，我们要加强实证研究，衡量计算宣传在政治、经济、文化、社会等领域产生的实际效果，综合考虑影响计算宣传效果的各种因素，构建从线上到线下的计算宣传效果评估体系。■
　　
①Gillian Bolsover & Philip Howard: Chinese computational propaganda: automation, algorithms and the manipulation of information about Chinese politics on Twitter and Weibo. InformationCommunication & Society2018(5)1-19.https://www.tandfonline.com/doi/pdf/10.1080/1369118X.2018.1476576?needAccess=true
②[35][42] Samuel C. WoolleyPhilip N. Howard: Computational Propaganda Worldwide: Executive SummaryWorking Paper of the university of Oxford, 2017.11http://comprop.oii.ox.ac.uk/wp-content/uploads/sites/89/2017/06/Casestudies-ExecutiveSummary.pdf.
③[34]Samantha Bradshaw, Philip N. Howard: Challenging Truth and Trust: A Global Inventory of Organized Social Media Manipulation. Computational Propaganda Research ProjectUniversity of Oxford,https://comprop.oii.ox.ac.uk/wp-content/uploads/sites/93/2018/07/ct2018.pdf
④⑧Philip N. Howard, Samuel Woolley & Ryan Calo: Algorithms, bots, and political communication in the US 2016 election: The challenge of automated political communication for election law and administration. Journal of Information Technology & Politics, 2018VOL. 15NO. 281–93
⑤Soroush Vosoughi, Deb RoySinan Aral: The spread of true and false news online. Science , 2018(359)1146–1151.
⑥David M. J. Lazer et al.: The science of fake news ——Addressing fake news requires a multidisciplinary effort. Science , 2018(359)1094-1096.
⑦[25][29]Dhiraj Murthy et al.: Bots and Political Influence: A Sociotechnical Investigation of Social Network Capital. International Journal of Communication2016(10)4952–4971.
⑨Bence, Kollanyi, Philip N. Howard, and Samuel C. Woolley: Bots and Automation over Twitter during the Third U.S. Presidential Debate. |Working Papers & Data Memos2016.10http://comprop.oii.ox.ac.uk/wp-content/uploads/sites/89/2016/10/Data-Memo-Third-Presidential-Debate.pdf
⑩Oliveira et al.: The Influence of Retweeting Robots During Brazilian Protests. 49th Hawaii International Conference on System Sciences,2016https://ieeexplore.ieee.org/stamp/stamp.jsp?tp=&arnumber=7427441&isnumber=7427173
[11]Marc Owen Jones: Propaganda, Fake News, and Fake Trends: The Weaponization of Twitter Bots in the Gulf Crisis. International Journal of Communication2019(13)1389-1415.
[12]Thomas Renault: Market manipulation and suspicious stock recommendations on social media.2017.12 http://www.thomas-renault.com/wp/market-manipulation-suspicious.pdf
[13]Alice Marwick and Rebecca Lewis: Media Manipulation and Disinformation Online. Data & Society Research Institute2015p1.
[14]方师师：《社交媒体操纵的混合宣传模式研究》，《现代传播》2018年第10期
[15]骆正林、曹钺：《“被扭曲的交流”：社交媒体时代假新闻现象的三重批判》，《新闻与传播评论》，2018年第4期
[16]张洪忠、段泽宁、韩秀：《异类还是共生：社交媒体中的社交机器人研究路径探讨》，《新闻界》2019年第2期
[17]阿尔温·托夫勒：《预测与前提》，粟旺等译，国际文化出版公司1984年版
[18][30]陈力丹：《马克思主义新闻观百科全书》第4页，中国人民大学出版社2018年版
[19]Encyclopedia Britannica, Chicago: Encyclopedia Britannica Inc.1983v.15p36.
[20]郑保卫、叶俊：《从宣传研究到传播研究：从拉斯韦尔宣传定义的知识社会学考察》，《国际新闻界》，2016年第2期
[21]Samuel C. Woolley& Philip N. Howard: Automation, Algorithms, and Politics, Political CommunicationComputational Propaganda, and Autonomous Agents — Introduction. International Journal of Communication2016(10)4882-4890.
[22]Gillian Bolsover and Philip Howard: Computational Propaganda and Political Big Data: Moving Toward a More Critical Research Agenda. Big Data, 20175(4)273-276.
[23][39]Renee Diresta: Computational Propaganda: If You Make It TrendYou Make It True, 2018.10.12，https://onlinelibrary.wiley.com/doi/pdf/10.1111/yrev.13402
[24]Philip N. Howard, Bence Kollanyi: Bots, #StrongerInand #Brexit: Computational Propaganda during the UK-EU Referendum. COMPROP RESEARCH NOTE,2016.1 http://blogs.oii.ox.ac.uk/politicalbots/wp-content/uploads/sites/89/2016/06/COMPROP-2016-1.pdf
[26][28] Rose Marie Santini et al.: Software power as soft power——A literature review on computational propaganda effects in public opinion and political process. PArtecipazione e COnflitto2018.11(2): 332-360.
[27]Brett Molina. (2017)“Twitter overcounted active users since 2014shares surge on profit hopes”. USA Today [online]. Retrieved March 1st , 2018 https://www.usatoday.com/story/tech/news/2017/10/26/twitter-overcounted-active-users-since-2014-shares-surge/801968001/
[31]Giovanni Luca Ciampaglia：Fighting fake news: a role for computational social science in the fight against digital misinformation. J Comput Soc Sc ,2018(1)147–153.
[32]Edson C. Tandoc Jr.Zheng Wei Lim & Richard Ling: Defining “Fake News”. Digital Journalism, 20186(2)137–153.
[33]陈刚、魏文秀：《作为新闻的争议性事件：内涵、传播特征与新闻价值观的特征》，《中国媒体发展研究报告》2014年
[36]Limor Shifman：Memes in a Digital World: Reconciling with a Conceptual Troublemaker. Journal of Computer-Mediated Communication，2013 (18) ,362–377.
[37]Giesea‘It’s Time to Embrace Mimetic Warfare’ https://www.stratcomcoe.org/jeff-giesea-its-time-embrace-memetic-warfare
[38]陈昌凤、师文：《个性化新闻推荐算法技术解读与价值探讨》，《中国编辑》2018年第10期
[40]郭小安：《公共舆论中的情绪、偏见及“聚合的奇迹”——从“后真相”概念说起》，《国际新闻界》2019年第1期
[41]Bannett. W. L. & Entman, R.M: Mediated Politics: Communication in the Future of Democracy. Cambridge: Cambridge University Press2001:247.
[43]Christian Fuchs: Propaganda 2.0 : Herman and Chomsky’s Propaganda Model in the Age of the Internet, Big Data and Social Media. London: University of Westminster Press.p81.
[44]Nicholas A. Glavin: Counter ISIS’Narratives on Social Media. The New York Times2015.12.7. https://www.nytimes.com/roomfordebate/2015/12/06/how-can-america-counter-the-appeal-of-isis/counter-isis-narratives-on-social-media
[45]胡菡菡：《传播学与公共政策分析：学科融合的历史渊源、前沿进展与未来潜能》，《南京社会科学》2019年第3期
[46]威廉·N·邓恩：《公共政策分析导论（第四版）》第2、7页，谢明、伏燕、朱雪宁译，中国人民大学出版社2011年版
[47]张开：《媒介素养概论》第94页，中国传媒大学出版社2006年版
[48]罗昕：《算法媒体的生产逻辑与治理机制》，《学术前沿》2018年第12期下
[49]Diane Stone: Global Public Policy, Transnational Policy Communities and their Networks. The Policy Studies JournalVol. 36No. 1200819-38.
[50]Baltodano, Andrés Pérez: The Study of Pub吃lic Administration in Times of Global Interpenetration: A Historical Rationale for a Theoretical Model. Journal of Public Administration Research and Theory, 1997.7615-638.
　　
罗昕系暨南大学新闻与传播学院教授、博士生导师；张梦系暨南大学新闻与传播学院博士研究生。本文为国家社科基金重点项目“全球互联网治理的竞争格局与中国进路研究”（项目编号：18AXW008）阶段性成果。