Minimization of the spread of acute rumors in social networks

Abstract

Abstract: Social networks offer the capability to spread inspiring ideas and adapt innovations at unprecedented speed and convenience. Although such an information-spreading capability is invaluable, social networks can also rapidly disseminate misinformation to a large number of people, with dire consequences. In this study, we focus on the spread of a specific type of misinformation: acute rumors, which we define as misinformation with the potential to spread quickly in the network and mobilize individuals to take harmful actions that may go beyond social platforms. We present a new diffusion model for acute rumors, which extends the classical linear threshold model by considering the base idea of the individuals regarding the topic of the rumor and the emotional impact its content creates on them. Based on this diffusion model, we propose a new centrality measure that can accurately detect individuals with a high potential to enhance the spread of acute rumors. In a comprehensive numerical study, we evaluate the performance of our proposed centrality measure by comparing it to existing traditional centrality measures in the literature. Our results attest to the superior performance of our centrality measure not only in terms of detecting the individuals with the highest potential to increase the reach of acute rumor but also in finding the correct ranking among the individuals in the network regarding their potential to contribute significantly to the dissemination of acute rumors. While the proposed diffusion model and centrality measure offer valuable insights into who is likely to spread an acute rumor, they do not fully capture how platform-specific dynamics and individual-level behaviors shape the overall diffusion process. To address the limitations of the diffusion model in capturing message variability and algorithmically shaped user behavior, we develop an agent-based model (ABM) inspired by the structure of Twitter/X. The model is calibrated using empirical data and incorporates multiple forms of user engagement. Within this framework, we evaluate several control strategies intended to reduce the spread of acute rumors while maintaining user interaction on the platform and avoiding real-world physical actions triggered by rumor diffusion. Simulation results show that the targeted intervention, which adjusts the reading order for a selected subset of users with strong or polarized opinions identified through the proposed centrality measure, outperforms all other strategies and achieves the most effective balance between limiting rumor diffusion, preventing physical actions, and maintaining user interaction on the platform.

Özet: Sosyal ağlar, ilham verici fikirleri ve yenilikleri benzeri görülmemiş bir hız ve kolaylıkla yayma yeteneğine sahiptir. Bu tür bir bilgi yayma yeteneği çok kıymetli olsa da, sosyal ağlar aynı zamanda yanlış bilgileri de büyük bir hızla geniş kitlelere yayabilir ve bu da etkilenen bireyler ve toplumlar için ciddi sonuçlar doğurabilir. Bu çalışmada, hızlı yayılma potansiyeline sahip ve bireyleri zararlı sonuçları olabilecek eylemleri yapmaya sevk edebilecek bir tür yanlış bilgi olan akut söylentilerin yayılmasına odaklanıyoruz. Akut söylentiler için klasik doğrusal eşik bilgi yayılım modelini, bireylerin söylenti konusundaki temel düşüncelerini ve içeriğin onlarda yarattığı duygusal etkiyi göz önünde bulundurarak genelleyen yeni bir yayılma modeli sunuyoruz. Bu yayılma modeline dayanarak, akut söylentilerin yayılmasını artırma potansiyeli yüksek bireyleri doğru bir şekilde tespit edebilen yeni bir merkezilik ölçütü öneriyoruz. Yaptığımız kapsamlı sayısal çalışmalarla, önerdiğimiz merkezilik ölçütünün performansını literatürdeki mevcut geleneksel merkezilik ölçütleri ile karşılaştırarak değerlendiriyoruz. Sonuçlarımız, önerilen merkezilik ölçütünün akut söylentilerin yayılımını en fazla artırabilecek bireyleri tespit edebilmesi yanında, ağdaki bireyleri söylentinin yayılıma katkıda bulunma potansiyellerine göre doğru sıralamasını da bulmakta üstün performans sergilediğini göstermektedir. Önerilen yayılım modeli ve merkezilik ölçütü, akut söylentiyi kimin yayma olasılığının yüksek olduğunu belirleme konusunda önemli bulgular sunmaktadır. Ancak bu yaklaşım, platforma özgü dinamiklerin ve bireysel düzeydeki davranışların tüm yayılım sürecini nasıl biçimlendirdiğini tam olarak yansıtamamaktadır. Bu sınırlamayı aşmak amacıyla, mesaj çeşitliliğini ve kullanıcı davranışlarındaki değişkenliği modelleyebilen, Twitter/X platformunun yapısından esinlenen bir ajan tabanlı model (ABM) geliştirilmiştir. Birden fazla kullanıcı etkileşimini içeren bu model, ampirik verilerle kalibre edilmiştir. Geliştirilen bu model, akut söylentilerin platform üzerindeki yayılımının ardından bireyler tarafından gerçekleştirilebilecek platform dışı zararlı eylemleri önlemeye çalışırken, aynı zamanda kullanıcıların platform içi etkileşim düzeylerini korumayı amaçlayan çeşitli stratejilerin performanslarını değerlendirmek için kullanılmıştır. Simülasyon sonuçları, önerilen merkezilik ölçütü doğrultusunda yüksek skor alan ve aşırı ya da kutuplaşmış görüşlere sahip kullanıcıların platformda içerikleri okuma sırasının değiştirilmesine dayanan müdahale stratejisinin, diğer stratejilere kıyasla daha başarılı olduğunu göstermektedir. Bu müdahale, söylenti yayılımını sınırlama, fiziksel eylemleri önleme ve kullanıcı etkileşimini sürdürme hedefleri arasında en etkili dengeyi sağlamaktadır.