点击蓝字 关注我们
导语:本文为北京师范大学博士后研究员冉义军在第一季共时读书会每周三的线上分享讨论会上的报告内容。冉义军是领读人许小可老师小组的小组成员。第一季共时读书会的主题为网络社会认知计算,许小可老师小组研究的方向为“基于社交机器人的计算宣传:危害、机制与治理”,目标为计算宣传领域研究报告的编写。
第一季共时读书会 线上分享讨论会 | 内容来源
冉义军 | 作者
朱欣怡 | 责任编辑
孙敬书、朱欣怡 | 审校
01
引言
社交机器人是一种部署在社交媒体中的自动化计算机算法,可以在社交媒体中自主运行、自动发布信息并与正常用户进行互动的智能程序[1]。随着5G网络的不断普及和大语言模型的快速应用,以社交媒体为代表的移动互联网平台越来越便捷,各大平台催生出大量的智能化社交机器人。一方面社交机器人在用户交流和信息传播中发挥着越来越重要的作用,另一方面社交机器人的存在也带来了虚假信息传播、信息扰动、舆论操纵、话语竞争等问题。例如,在社交媒体上关于2016年美国总统大选、2017年法国总统大选、俄乌冲突等重要事件,社交机器人已成为影响网络舆论、话语竞争的重要因素。
现实生活中大多数信息传播现象,如从技术革新、商业产品和社会行为等的采纳过程到传染病、谣言和知识等的传播过程,本质上都可以看作是复杂网络上的一种传染过程[2]。目前,根据传播机制的不同,传染过程主要分为简单传染和复杂传染。简单传染主要来自流行病学领域兴起于几百年前的传染病数学模型,例如易感染态-感染态(SI)模型、易感染态-感染态-易感染态(SIS)模型、易感染态-感染态-恢复态(SIR)模型三种经典的传染病模型。复杂传染的灵感主要来源于社会学的集群行为,一个个体在决定采纳或传播某种行为之前,该个体的朋友中一定有其他个体已经采纳并且采纳的数量或比例已经达到临界质量[3-5]。从数学角度,对集群行为研究有着重要作用的模型是线性阈值模型[5],该模型广泛用来刻画商业产品和社会规范等的采纳过程。
目前,已有大量学者分析了真实传播数据的传播机制,例如,Romero等研究Twitter中不同主题类Hashtag的传播机制,其表明政治类Hashtag的传播过程更像一种复杂传染[6];Grabowicz等研究表明Twitter中非主题类信息传播过程更像简单传染,而主题类信息传播过程更像复杂传染[7];Notarmuzi等分析了6个在线社交平台中的真实信息传播数据,其表明社交媒体中的信息传播过程更倾向于由简单传染与复杂传染组成的混合传播过程[8]。在社交机器人广泛存在的社交媒体时代,当社交机器人参与信息传播时,已有信息传播机制的结论是否还成立?为了回答该问题,本文将先说明如何识别社交媒体中的机器人,然后说明如何推断社交机器人驱动的信息传播机制。
02
基于个体集群行为的
社交机器人识别方法
本文采用图1的整体框架分析社交媒体中个体的集群行为,从而识别社交机器人,主要分为4个步骤,其详细过程如下:
(1)行为时间序列的提取
本文考虑一种对可疑行为的异常分析来研究社交机器人,其主要思想是假设正常用户在某种程度上彼此独立,因此我们可以把缺乏独立性的行为作为判断社交机器人的证据。该方法的实施主要通过选择捕获此类可疑行为的行为时间序列来完成。例如,如果我们假设由某个实体控制的用户,其目的是放大虚假信息源的曝光度,那么我们可以提取共享的URL信息作为行为时间序列。
图1 基于个体集群行为的社交机器人研究
(2)二分网络的构建
此阶段可以使用行为轨迹作为特征,还可以考虑轨迹序列来设计更复杂的特征,例如通过文本分析可以产生情绪、立场等特征。构建二分网络时可以根据用户与特征之间的关联强度进行加权,比如多次共享同一张图像比仅共享一次的权重更大。
(3)用户网络的映射
根据特征的某些相似性度量用户之间的连边,从而将二分网络投影成用户之间的网络,其中连边的权重可以通过简单的共现(co-occurrence)、杰卡德系数、余弦相似度等量化。
(4)集群分析
该阶段的目的是在用户网络中找出相似行为的一群用户,本文利用K-Core、模块最大化和标签传播等来实现网络社区检测。最后,通过检测出的一群用户网络,判断并识别社交机器人。
03
基于传播结果的
信息传播机制推断研究
简单传染与复杂传染是典型的两种信息传播机制,二者在微观层面存在明显差异,因此学者们分别利用两种传播机制从理论和实证角度研究了大量的科学问题。然而,如何推断传播结果的传播机制这一逆问题没有得到充分解决,即给定观察的传播结果,能否推断该传播结果由简单传染所驱动还是由复杂传染所驱动? 研究该问题具有重要意义,它能够指导我们该如何解释真实的传播数据、该如何选择传播机制建模并预测未来的传播现象、该如何控制谣言或如何促进有益的创新等。
为了回答该逆问题,最主要的挑战是提出满足简单传染与复杂传染机制的基线传播模型,这些基线传播模型在其他方面都相似,仅在触发传染的机制上有所不同,这意味着两种传播模型在时间的演化方面必须具有相同的随机过程。传统的线性阈值模型具有粗粒度的时间演化过程,这自然与能够通过离散时间步或连续随机时间表征的SI模型完全不同,因此本文首先改进传统的线性阈值模型,提出满足连续时间随机过程的线性阈值(LT)模型[9]。在连续时间的LT模型中,节点传播信息的概率被定义为
其中ϕ_i^*表示节点i的传播阈值,α_i是感染节点i传播信息的速率。在SI模型中,节点i传播信息的概率被定义为
其中ℕ𝑖是节点𝑖的感染邻居集合,𝛽_𝑗是感染节点𝑗传播信息的速率。
选定两种传播模型之后,关键问题是:何种传播结果可以作为区分简单传染与复杂传染的特征?本文提出传播序列中的时间顺序可以区分简单传染与复杂传染。以往的研究表明LT模型更容易影响局部邻居,而SI模型可以传播更远,从而形成长的传播序列(图2)。虽然两种模型生成的传播序列具有不同的模式,但是考虑到传播序列的复杂性和固有的随机性,难以总结出一个简单的度量或规则对两种传播模型进行分类。本文利用机器学习算法学习训练集中的传播模式,并推断未知的传播序列由简单传染驱动还是由复杂传染驱动。
图2 SI模型和LT模型模拟生成的传播序列
本文利用传播序列提出图3模式识别框架,用于推断一条信息传播的传播机制,其详细过程如下:
(1)选择不同的初始传播节点,生成满足公式[1]和[2]的传播序列,根据传播模型,分别把每条传播序列标记为SI模型或LT模型。
(2)利用Word2vec算法学习传播序列中节点被感染的先后次序(节点共发生的概率),从而获得每个节点的高维向量表示。
(3)根据传播序列中节点的先后次序将节点向量拼接,从而将训练集中的每条传播序列转换成向量,该过程可以捕获不同传播机制下传播的先后时间顺序。
(4)利用支持向量机训练出一个超平面,该超平面可以区分由SI模型和LT模型生成的传播序列。
(5)对于任何未知模型生成的新传播序列,根据步骤(2)和(3)获取该传播序列的向量信息,然后检查该向量位于超平面的哪一侧,从而可以推断该传播序列遵循SI模型还是LT模型。
图3 基于传播序列的模式识别方法
为了验证图3模式识别框架的有效性,本文利用SI模型和LT模型分别在5种不同网络结构上模拟生成传播序列。同时为了通过模拟传播数据的分析、研究,体现出基于传播序列的模式识别方法的鲁棒性,从而为识别真实信息的传播机制提供理论依据。因此,本文尽可能考虑影响真实传播数据的常见因素,并将这些常见因素纳入在传播数据的研究中,从而证明该模式识别方法的泛化能力。本文在训练支持向量机分类器时,利用相同的模型参数模拟生成传播序列,对于测试过程考虑如下4种混杂因素的复杂情形:
(1)不同的传播速率和阈值(Heterogeneous rate & threshold)
在理论研究中,经常假设网络中每个节点的传播速率和阈值为固定值,但是对于现实传播现象,不同的节点可能以不同阈值采纳某种观点,并且在状态转移过程中有的节点转移快有的转移稍微慢。因此本文从均匀分布中随机选择每个节点的模型参数。
(2)非泊松过程(Non-Poissonian)
在现实生活中大多数人类活动行为并不满足泊松过程,而是表现出爆发或者记忆效应。本文通过假设节点最终受到之前个中间状态的影响来实现记忆效应,此时对应事件发生的时间间隔遵循伽玛分布而不是指数分布。
(3)不完整的节点状态(Incomplete node status)
在真实传播数据中,一个用户可能隐藏公开发布的观点或者没有精确记录该用户的状态,从而不能获取参与信息传播时所有用户的完整状态。因此本文从模拟生成的每条传播序列中随机删除一部分节点,并且假设这部分节点没有发生传染。
(4)不完整的网络结构(Incomplete network topology)
真实社交网络包含广泛的社交关系,比如家庭关系、朋友关系、合作关系和不同的社交平台之间的关系等等。一方面,每个社交网络可能只公开部分连边;另一方面,无法列举所有关系获得完整的社交网络结构。为了反映该性质,本文假设用于模拟生成训练集的网络G是一个更密集网络G'的子集,而测试集的传播数据从网络G'中模拟生成。
实验结果表明基于传播序列的模式识别方法在4种不同混杂因素下都具有良好的识别能力,能够精确地分类5种不同网络结构上由SI模型与LT模型生成的传播序列,这表明传播序列中的时间顺序能够区分简单传染与复杂传染(图4)。
图 4 基于传播序列的模式识别方法推断传播数据的传播机制
04
结语与展望
本文从个体集群行为视角提出了识别社交机器人的新工具,该工具为推断社交机器人驱动的信息传播机制提供了研究基础。同时,本文发现传播序列中的时间顺序是推断信息传播机制的有用特征,利用该特征借助机器学习技术可以有效地推断出信息的传播机制。未来将重点研究基于传播序列的模式识别方法应用于真实信息传播数据,推断不同主题下信息传播的传播机制,以及推断社交机器人驱动的信息传播机制。
参考文献
[1] 张伦,王成军,许小可. 计算传播学导论(第二版)[M]. 即将出版.
[2] 冉义军. 复杂网络中的链路预测与信息传播研究[D]. 西南大学,2022.
[3] D. Centola. How behavior spreads: the science of complex contagions[M]. Princeton: Princeton University Press, 2018.
[4] D. Centola. The spread of behavior in an online social network experiment[J]. Science, 2010, 329(5996): 1194-1197.
[5] D. J. Watts. A simple model of global cascades on random networks[J]. Proceedings of the National Academy of Sciences of the United States of America, 2002, 99(9): 5766-5771.
[6] D. M. Romero, B. Meeder, J. Kleinberg. Differences in the mechanics of information diffusion across topics: idioms, political hashtags, and complex contagion on Twitter[C]. Proceedings of the 20th International Conference on World Wide Web, New York, USA: ACM, 2011: 695-704.
[7] P. A. Grabowicz, N. Ganguly, K. P. Gummadi. Distinguishing between topical and non-topical information diffusion mechanisms in social media[C]. The tenth International AAAI Conference on Web and Social Media, Cologne, Germany: AAAI, 2016:151-160.
[8] D. Notarmuzi, C. Castellano, A. Flammini, et al. Universality, criticality and complexity of information propagation in social media[J]. Nature Communications, 2022, 13: 1308.
[9] Y. Ran, X. Deng, X. Wang, et al. A generalized linear threshold model for an improved description of the spreading dynamics[J]. Chaos, 2020, 30(8): 083127.
第一季共时读书会主题:网络社会认知计算
读书会正在进行中,本周五3月15日下午将举行“网络社会安全”主题读书会活动,欢迎大家在线参与
腾讯会议:169-771-103
申请加入第一季共时读书会微信大群请关注本账号并留言
“申请加入”
更多共时读书会精彩内容请关注👇
与知己,共此时!