МОЖЛИВІ ВАРІАНТИ УДОСКОНАЛЕННЯ ІСНУЮЧИХ ПІДХОДІВ ДО ВИЯВЛЕННЯ ФЕЙКОВИХ НОВИН НА ОСНОВІ ВИКОРИСТАННЯ ПОТЕНЦІАЛУ АЛГОРИТМІВ МАШИННОГО ТА ГЛИБОКОГО НАВЧАННЯ, СЕНТИМЕНТУ НОВИННОГО КОНТЕНТУ Й ЕМОЦІЙ У КОМЕНТАРЯХ КОРИСТУВАЧІВ
DOI:
https://doi.org/10.17721/2519-481X/2023/80-11Ключові слова:
онлайн соціальні мережі, фейкові новини, метод, модель, алгоритм, формалізаціяАнотація
На даний час серед джерел інформації Інтернет займає перше місце. В останній період суттєво зросла роль онлайн соціальних мереж (ОСМ), що має як позитивні, так і негативні наслідки. Негативна роль ОСМ пов’язується із поширенням фейкових новин, які впливають на повсякденне життя людей, маніпулюють їхніми думками та почуттями, змінюють їхні переконання і можуть призвести до прийняття неправильних рішень. Проблема розповсюдження фейкових новин в ОСМ на даний час є глобальною, а формування механізмів протидії – актуальним завданням сьогодення.
На сьогодні існують різні апробовані підходи до виявлення фейкових новин. Зокрема, один з підходів базується на використанні різних алгоритмів машинного (ML) та глибокого (DL) навчання. Інший – на використанні результатів аналізу сентименту новинного контенту та аналізу емоцій у коментарях користувачів. Проведене авторами дослідження інших підходів виявлення фейкових новин, які відрізняються від наведених, дозволило зробити висновок про те, що зазначені підходи є ефективними і перспективними в частині використання їх потенціалу для розробки нових моделей з високими показниками ефективності на різних наборах даних.
У статті сформовано та формалізовано авторські ідеї щодо удосконалення існуючих підходів виявлення фейкових новин на основі використання потенціалу зазначених підходів. Перша ідея базується на реалізації механізму комбінування методів машинного (ML) та глибокого (DL) навчання, а також результатів аналізу сентименту новинного контенту й емоцій у коментарях користувачів, при якому враховується можливість забезпечення достатнього рівня ефективності виявлення фейкових новин, певного рівня значень показників обраної метрики, а також певного рівня функціональних характеристик авторського методу. Друга ідея базується на реалізації механізму комбінування функціоналу двох методів з числа зазначених двох груп, який би забезпечував оптимальні параметри виявлення фейкових новин за визначеними критеріями та показниками.
Обгрунтування ідей передбачало попереднє здійснення: постановки досліджуваної задачі; функціонального аналізу алгоритмів машинного (ML) та глибокого (DL) навчання, а також алгоритмів виявлення фейкових новин, що базуються на використанні результатів аналізу сентименту новинного контенту й емоцій у коментарях користувачів; опису метрики для оцінки ефективності методів виявлення фейкових новин. За результатами обгрунтування перспективності ідей проведено формалізацію задач виявлення фейкових новин в авторській постановці.
Посилання
1. Bondielli, A.; Marcelloni, F. A survey on fake news and rumour detection techniques. Inf. Sci. 2019, 497, 38–55. [CrossRef]
2. Islam, M.R.; Liu, S.; Wang, X.; Xu, G. Deep learning for misinformation detection on online social networks: A survey and new perspectives. Soc. Netw. Anal. Min. 2020, 10, 82.
[CrossRef] [PubMed]
3. Bahad, P.; Saxena, P.; Kamal, R. Fake News Detection using Bi-directional LSTMRecurrent Neural Network. Procedia Comput. Sci. 2019, 165, 74–82. [CrossRef]
4. Machová, K.; Mach, M.; Porezaný, M. Deep Learning in the Detection of Disinformation about COVID-19 in Online Space. Sensors 2022, 22, 9319. [CrossRef]
5. Liu, Y.; Wu, Y.-F.B. Fned: A deep network for fake news early detection on social media. ACM Trans. Inf. Syst. (TOIS) 2020, 38, 1–33. [CrossRef]
6. Zhou, X.; Jain, A.; Phoha, V.V.; Zafarani, R. Fake News Early Detection: An Interdisciplinary Study. arXiv 2019, arXiv:1904.11679.
7. DataReportal. Digital 2021 Global Digital Overview; DataReportal: Singapore, 2021.
8. Kwak, H.; Lee, C.; Park, H.; Moon, S. What is Twitter, a Social Network or a News Media? In Proceedings of the 19th International Conference on World Wide Web; Association for
Computing Machinery: New York, NY, USA, 2010; pp. 591–600. [CrossRef]
9. Friggeri, A.; Adamic, L.; Eckles, D.; Cheng, J. Rumor cascades. In Proceedings of the International AAAI Conference on Web and Social Media, Ann Arbor, MI, USA, 1–4 June 2014;
Volume 8.
10. Zhou, X.; Zafarani, R. A Survey of Fake News: Fundamental Theories, Detection Methods, and Opportunities. ACM Comput. Surv. 2020, 53, 1–40. [CrossRef]
11. Conroy, N.K.; Rubin, V.L.; Chen, Y. Automatic deception detection: Methods for finding fake news. Proc. Assoc. Inf. Sci. Technol. 2015, 52, 1–4. [CrossRef]
12. Habib, A.; Asghar, M.Z.; Khan, A.; Habib, A.; Khan, A. False information detection in online content and its role in decision making: A systematic literature review. Soc. Netw. Anal. Min. 2019, 9, 50. [CrossRef]
13. Sansonetti, G.; Gasparetti, F.; D’aniello, G.; Micarelli, A. Unreliable Users Detection in Social Media: Deep Learning Techniques for Automatic Detection. IEEE Access 2020, 8, 213154–213167. [CrossRef]
14. Vosoughi, S.; Roy, D.; Aral, S. The spread of true and false news online. Science 2018,359, 1146–1151. [CrossRef]
15. Zhao, Z.; Resnick, P.; Mei, Q. Enquiring Minds: Early Detection of Rumors in SocialMedia from Enquiry Posts. In Proceedings of the 24th International Conference on World Wide Web; International World Wide Web Conferences Steering Committee: Geneva, Switzerland, 2015; pp. 1395–1405. [CrossRef]
16. Kumar, S.; West, R.; Leskovec, J. Disinformation on the web: Impact, characteristics, anddetection of wikipedia hoaxes. In Proceedings of the 25th International Conference on World Wide Web, Montreal, QC, Canada, 11–15 April 2016; pp. 591–602.
17. Potthast, M.; Kiesel, J.; Reinartz, K.; Bevendorff, J.; Stein, B. A stylometric inquiry intohyperpartisan and fake news. arXiv 2017, arXiv:1702.05638.
18. Tchakounté, F.; Calvin, K.A.; Ari, A.A.A.; Mbogne, D.J.F.J.J.o.K.S.U.-C.; Sciences, I. Asmart contract logic to reduce hoax propagation across social media. J. King Saud Univ.-Comput. Inf. Sci. 2020, 34, 3070–3078. [CrossRef]
19. Rath, B.; Gao, W.; Ma, J.; Srivastava, J. Utilizing computational trust to identify rumorspreaders on Twitter. Soc. Netw. Anal. Min. 2018, 8, 64. [CrossRef]
20. Vosoughi, S.; Roy, D.; Aral, S. The spread of true and false news online. Science 2018,359, 1146–1151. [CrossRef]
21. Al-Rakhami, M.S.; Al-Amri, A.M. Lies Kill, Facts Save: Detecting COVID-19Misinformation in Twitter. IEEE Access 2020, 8, 155961–155970. [CrossRef]
22. Alkhodair, S.A.; Ding, S.H.; Fung, B.C.; Liu, J. Detecting breaking news rumors ofemerging topics in social media. Inf. Process. Manag. 2020, 57, 102018. [CrossRef]
23. Zubair, T.; Raquib, A.; Qadir, J. Combating Fake News, Misinformation, and MachineLearning Generated Fakes: Insight’s from the Islamic Ethical Tradition. ICR J. 2019, 10, 189–212. [CrossRef]
24. Allcott, H.; Gentzkow, M. Social media and fake news in the 2016 election. J. Econ.Perspect. 2017, 31, 211–236. [CrossRef]
25. Shu, K.; Sliva, A.; Wang, S.; Tang, J.; Liu, H. Fake News Detection on Social Media: AData Mining Perspective. arXiv 2017, arXiv:1708.01967.
26. Trends, G. “Fake News—Explore—Google Trends”. Available online: https://trends.google.com/trends/explore?date=2010-01- 01%202022-07-14&q=%22fake%20news%22 (accessed on 20 July 2022).
27. Langin, K. Fake news spreads faster than true news on Twitter—Thanks to people, notbots. Sci. Mag. 2018. Available online: https://www.science.org/content/article/fake-news-spreads-faster-true-news-twitter-thanks-people-not-bots (accessed on 20 February 2022).
28. Zubiaga, A.; Aker, A.; Bontcheva, K.; Liakata, M.; Procter, R. Detection and Resolutionof Rumours in Social Media: A Survey. ACM Comput. Surv. 2018, 51, 1–36. [CrossRef]
29. Evolvi, G. Hate in a tweet: Exploring internet-based islamophobic discourses. Religions2018, 9, 307. [CrossRef]
30. Al-Makhadmeh, Z.; Tolba, A. Automatic hate speech detection using killer naturallanguage processing optimizing ensemble deep learning approach. Computing 2020, 102, 501–522. [CrossRef]
31. Feng, S.; Banerjee, R.; Choi, Y. Syntactic Stylometry for Deception Detection. InProceedings of the 50th Annual Meeting of the Association for Computational Linguistics (Volume 2: Short Papers); Association for Computational Linguistics: Jeju Island, Republic of Korea, 2012; pp. 171–175.
32. de Oliveira, N.R.; Medeiros, D.S.; Mattos, D.M. A sensitive stylistic approach to identifyfake news on social networking. IEEE Signal Process. Lett. 2020, 27, 1250–1254. [CrossRef]
33. Zhou, X.; Jain, A.; Phoha, V.V.; Zafarani, R. Fake news early detection: A theory-drivenmodel. Digit. Threat. Res. Pract. 2020, 1, 1–25. [CrossRef]
34. Lin, L.; Chen, Z. Social rumor detection based on multilayer transformer encoding blocks.Concurr. Comput. Pract. Exp. 2021, 33, e6083. [CrossRef]
35. Wang, W.Y. “Liar, Liar Pants on Fire”: A New Benchmark Dataset for Fake NewsDetection. arXiv 2017, arXiv:1705.00648.
36. Patwa, P.; Sharma, S.; Pykl, S.; Guptha, V.; Kumari, G.; Akhtar, M.S.; Ekbal, A.; Das, A.;Chakraborty, T. Fighting an infodemic: COVID-19 fake news dataset. In Proceedings of the International Workshop on Combating Online Hostile Posts in Regional Languages during Emergency Situation; Springer: Berlin/Heidelberg, Germany, 2021; pp. 21–29.
37. Eke, C.I.; Norman, A.A.; Shuib, L.; Nweke, H.F. Sarcasm identification in textual data:Systematic review, research challenges and open directions. Artif. Intell. Rev. 2020, 53, 4215–4258. [CrossRef]
38. Alonso, M.A.; Vilares, D.; Gómez-Rodríguez, C.; Vilares, J. Sentiment analysis for fakenews detection. Electronics 2021, 10, 1348. [CrossRef]
39. Elhadad, M.K.; Li, K.F.; Gebali, F. Detecting Misleading Information on COVID-19.IEEE Access 2020, 8, 165201–165215. [CrossRef]
40. Alghamdi, О.; Lin, Y.; Luo, S.: A comparative study of machine learning and deeplearning techniques for fake news detection. Information 2022, 13, 576, 28 p.
41. Guo, M.; Xu, Z.; Liu, L.; Guo, M.; Zhang, Y. An Adaptive Deep Transfer Learning Modelfor Rumor Detection without Sufficient Identified Rumors. Math. Probl. Eng. 2020, 2020, 7562567. [CrossRef]
42. Varshney, D.; Vishwakarma, D.K. Vishwakarma, Hoax news-inspector: A real-timeprediction of fake news using content resemblance over web search results for authenticating the credibility of news articles. J. Ambient Intell. Humaniz. Comput. 2020, 12, 8961–8974. [CrossRef]
43. Kim, Y.; Kim, H.K.; Kim, H.; Hong, J.B. Do Many Models Make Light Work?Evaluating Ensemble Solutions for Improved Rumor Detection. IEEE Access 2020, 8, 150709–150724. [CrossRef]
44. Yaakub, M.R.; Latiffi, M.I.A.; Zaabar, L.S. A review on sentiment analysis techniquesand applications. IOP Conf. Ser. Mater. Sci. Eng. 2019, 551, 012070. [CrossRef]
45. Santhoshkumar, S.; Babu, L.D. Earlier detection of rumors in online social networks usingcertainty-factor-based convolutional neural networks. Soc. Netw. Anal. Min. 2020, 10, 20. [CrossRef]
46.Tian, L.; Zhang, X.; Wang, Y.; Liu, H. Early detection of rumours on twitter via stancetransfer learning. In Advances in Information Retrieval: 42nd European Conference on IR Research, ECIR 2020, Lisbon, Portugal, 14–17 April 2020, Proceedings, Part I 42; Springer: Cham, Switzerland, 2020; Volume 12035, p. 575.
47. Albahar, M. A hybrid model for fake news detection: Leveraging news content and usercomments in fake news. IET Inf. Secur. 2021, 15, 169–177. [CrossRef]
48. Ghanem, B.; Rosso, P.; Rangel, F. An emotional analysis of false information in socialmedia and news articles. ACM Trans. Internet Technol. (TOIT) 2020, 20, 1–18. [CrossRef]
49. Kumari, R.; Ashok, N.; Ghosal, T.; Ekbal, A. What the fake? Probing misinformationdetection standing on the shoulder of novelty and emotion. Inf. Process. Manag. 2022, 59, 102740. [CrossRef]
50. Zhang, X.; Cao, J.; Li, X.; Sheng, Q.; Zhong, L.; Shu, K. Mining dual emotion for fakenews detection. In Proceedings of the WWW ’21: The Web Conference 2021, Ljubljana, Slovenia, 19–23 April 2021; pp. 3465–3476.
51. Zimbra, D.; Abbasi, A.; Zeng, D.; Chen, H. The state-of-the-art in Twitter sentimentanalysis: A review and benchmark evaluation. ACM Trans. Manag. Inf. Syst. (TMIS) 2018, 9, 1–29.[CrossRef]
52. Feng, Z. Hot news mining and public opinion guidance analysis based on sentimentcomputing in network social media. Pers. Ubiquitous Comput. 2019, 23, 373–381. [CrossRef]
53. Imran, A.S.; Daudpota, S.M.; Kastrati, Z.; Batra, R. Cross-cultural polarity and emotiondetection using sentiment analysis and deep learning on COVID-19 related tweets. IEEE Access 2020, 8, 181074–181090. [CrossRef]
54. Pota, M.; Ventura, M.; Catelli, R.; Esposito, M. An effective BERT-based pipeline forTwitter sentiment analysis: A case study in Italian. Sensors 2020, 21, 133. [CrossRef]
55. Dang, C.N.; Moreno-García, M.N.; Prieta, F.D.L. An approach to integrating sentimentanalysis into recommender systems. Sensors 2021, 21, 5666. [CrossRef]
56. Li, Q.; Hu, Q.; Lu, Y.; Yang, Y.; Cheng, J. Multi-level word features based on CNN forfake news detection in cultural communication. Pers. Ubiquitous Comput. 2020, 24, 259–272.
57. Correia, F.; Madureira, A.M.; Bernardino, J. Deep Neural Networks Applied to StockMarket Sentiment Analysis. Sensors 2022, 22, 4409. [CrossRef] [PubMed]
58. Subramani, S.; Wang, H.; Vu, H.Q.; Li, G. Domestic violence crisis identification fromfacebook posts based on deep learning. IEEE Access 2018, 6, 54075–54085. [CrossRef]
59. Hochreiter, S.; Schmidhuber, J. Long short-term memory. Neural Comput. 1997, 9, 1735–1780. [CrossRef]
60. Cho, K.; van Merrienboer, B.; Gulcehre, C.; Bahdanau, D.; Bougares, F.; Schwenk, H.;Bengio, Y. Learning Phrase Representations using RNN Encoder-Decoder for Statistical Machine Translation. arXiv 2014, arXiv:1406.1078.
61. Zhang, X.; Chen, F.; Huang, R. A combination of RNN and CNN for attention-basedrelation classification. Procedia Comput. Sci. 2018, 131, 911–917. [CrossRef]
62. Zhou, C.; Sun, C.; Liu, Z.; Lau, F. A C-LSTM neural network for text classification.arXiv 2015, arXiv:1511.08630.
63. Gururangan, S.; Marasovi´c, A.; Swayamdipta, S.; Lo, K.; Beltagy, I.; Downey, D.;Smith, N.A. Don’t stop pretraining: Adapt language models to domains and tasks. arXiv 2020, arXiv:2004.10964.
64. Devlin, J.; Chang, M.W.; Lee, K.; Toutanova, K. Bert: Pre-training of deep bidirectionaltransformers for language understanding. arXiv 2018, arXiv:1810.04805.
65. Liu, Y.; Ott, M.; Goyal, N.; Du, J.; Joshi, M.; Chen, D.; Levy, O.; Lewis, M.;Zettlemoyer, L.; Stoyanov, V. Roberta: A robustly optimized bert pretraining approach. arXiv 2019, arXiv:1907.11692.
66. Khan, J.Y.; Khondaker, M.T.I.; Afroz, S.; Uddin, G.; Iqbal, A. A benchmark study ofmachine learning models for online fake news detection. Mach. Learn. Appl. 2021, 4, 100032. [CrossRef]
67. Horne, L.; Matti, M.; Pourjafar, P.; Wang, Z. GRUBERT: A GRU-Based Method to FuseBERT Hidden Layers for Twitter Sentiment Analysis. In Proceedings of the 1st Conference of the Asia-Pacific Chapter of the Association for Computational Linguistics and the 10th International Joint Conference on Natural Language Processing: Student Research Workshop; Association for Computational Linguistics: Suzhou, China, 2020; pp. 130–138
68. Nakamura, K.; Levy, S.; Wang, W.Y. r/fakeddit: A new multimodal benchmark datasetfor fine-grained fake news detection. arXiv 2019, arXiv:1911.03854.
69. Ajao, O.; Bhowmik, D.; Zargari, S. Sentiment aware fake news detection on online socialnetworks. In Proceedings of the ICASSP 2019—2019 IEEE International Conference on Acoustics, Speech and Signal Processing (ICASSP), Brighton, UK, 12–17 May 2019; pp. 2507–2511.
70. Bhutani, B.; Rastogi, N.; Sehgal, P.; Purwar, A. Fake news detection using sentimentanalysis. In Proceedings of the 2019 Twelfth International Conference on Contemporary Computing (IC3), Noida, India, 8–10 August 2019; pp. 1–5.
71. Giachanou, A.; Rosso, P.; Crestani, F. Leveraging emotional signals for credibilitydetection. In Proceedings of the 42nd International ACM SIGIR Conference on Research and Development in Information Retrieval, Paris, France, 21–25 July 2019; pp. 877–880.
72. Kumar, S.; Asthana, R.; Upadhyay, S.; Upreti, N.; Akbar, M. Fake news detection usingdeep learning models: A novel approach. Trans. Emerg. Telecommun. Technol. 2020, 31, e3767. [CrossRef]
73. Kaliyar, R.K.; Kumar, P.; Kumar, M.; Narkhede, M.; Namboodiri, S.; Mishra, S.DeepNet: An efficient neural network for fake news detection using news-user engagements. In Proceedings of the 2020 5th International Conference on Computing, Communication and Security (ICCCS), Patna, India, 14–16 October 2020; pp. 1–6.
74. Kirchknopf, A.; Slijepˇcevi´c, D.; Zeppelzauer, M. Multimodal Detection of InformationDisorder from Social Media. In Proceedings of the 2021 International Conference on Content-Based Multimedia Indexing (CBMI), Lille, France, 28–30 June 2021; pp. 1–4.
75. Xie, J.; Liu, S.; Liu, R.; Zhang, Y.; Zhu, Y. SeRN: Stance extraction and reasoningnetwork for fake news detection. In Proceedings of the ICASSP 2021—2021 IEEE International Conference on Acoustics, Speech and Signal Processing (ICASSP), Toronto, ON, Canada, 6–11 June 2021; pp. 2520–2524.
76. Raza, S.; Ding, C. Fake news detection based on news content and social contexts: Atransformer-based approach. Int. J. Data Sci. Anal. 2022, 13, 335–362. [CrossRef]
