Успех онлайн-коммуникации во многом зависит от такого вклада пользователей, как комментарии, «лайки» и публикации. Однако, позволяя пользователям таким образом участвовать в онлайн-коммуникации, приходится сталкиваться и с таким нежелательным для большинства поведением, как «троллинг» (публикация сообщений с целью вызвать бурную эмоциональную реакцию у участников онлайн-сообщества, зачастую осуществляемая анонимными пользователями).

Антисоциальное поведение забаненных (т.е. заблокированных) в крупнейших онлайнсообществах пользователей описывается и анализируется Джастином Ченгом 7. Было обнаружено, что такие пользователи склонны к публикации сообщений только на одну тему, чаще всего, нерелевантную. Благодаря этому они зачастую получают множество ответов от других пользователей. Изучая то, как менялось поведение в будущем заблокированных пользователей с момента присоединения к сообществу до их блокирования, выяснилось, что они не только «вели себя хуже» со временем, но и все сообщество становилось к ним менее толерантным. В дальнейшем было обнаружено, что чем сильнее реакция сообщества, тем резче становится антисоциальное поведение. Так же анализ показал, что можно выделить четкие группы пользователей с разным уровнем антисоциального поведения, которое меняется со временем. Это осознание помогает выявить антисоциальных пользователей на ранней стадии, что имеет высокую практическую значимость для модераторов сообщества. Для любой онлайн-платформы пользовательский контент является критически важным. На новостных сайтах, таких, как CNN (ИноСМИ, Полит.ру и Газета.ру) пользователи имеют возможность комментировать статьи и оценивать комментарии других пользователей, тем самым создавая рейтинг; в социальных сетях, такий, как Вконтакте, пользователи пишут комментарии, а другие могут ответить на них и оценить (поставить «лайк»); на форумах (формат «вопрос-ответ» или Q&A) пользователи голосуют за вопросы и ответы, тем самым формируя рейтинг.

Как замечает в своей работе Биннс, все типы сайтов привлекают своих пользователей возможностью сделать некий вклад и обсудить содержание статей, тем самым усиливается их чувство верности и принадлежности к данному сообществу 3. В то время как основное большинство пользователей настроены мирно, некоторые склонны к антисоциальному поведению, негативно влияя на других участников и вредя всему сообществу в целом. Как замечает Салер, такое нежелательное поведение, как троллинг, флейм (словесная война, зачастую не имеющая отношения к первоначальной причине спора) и домогательство обостряется тем обстоятельством, что люди при онлайн-взаимодействии склонны быть куда менее сдержанными, нежели чем в реальности [19]. Многие интернет-платформы применяют механизмы, препятствующие антисоциальному поведению. Это и наличие модераторов сообщества, голосование «за» и «против», возможность пожаловаться на ту или иную запись, и более радикальные меры – полное блокирование пользователей, лишающее их возможности делать какие-либо публикации в сообществе. Кроме того, формализованное расположение публикаций по рейтингу может скрыть нежелаемый контент [12]. И тем не менее, антисоциальное поведение в сети Интернет остается значимой проблемой, которая может послужить причиной для домогательства и угроз расправой в реальной жизни [20].

Не смотря на серьезность и распространенность антисоциального поведения онлайн, эта проблема до сих пор остается малоизученной. В то время, как одни работы исследователей направлены на установление причинных связей, к примеру, между типом личности и троллингом [5], большинство работ представляют качественные исследования, нацеленные на описание антисоциального поведения [9, 10], зачастую рассматривая данный тип поведения у небольшого количества пользователей какого-либо конкретного сообщества [11, 16].

Для более полного понимания антисоциального поведения требуется количественный, масштабный и глубокий анализ данного явления, что может привести к появлению методов для идентификации нежелательных пользователей и минимизировать поведение, свойственное так называемым троллям, что в конечном счете может привести к созданию здорового онлайн-сообщества. Анализируя работы, посвященные антисоциальному поведению онлайн, можно встретить ряд дефиниций. Антисоциальное поведение, которое включает троллинг, оскорбления и грифинг («онлайн-вандализм»), в последнее является актуальным вопросом для исследователей. Так, например, «тролль» определяется как человек, «негативно проявляющий себя в онлйнкоммуникации» [10], или пользователь, который первоначально старается казаться добропорядочным участником, но затем начинает пытаться нарушить коммуникацию [9]. Так же тролли характеризуются, как «те, кто получает удовольствие, огорчая других» [14], и в самом деле, недавние исследования выявили, что садизм напрямую ассоциируется со склонностью к троллингу [5]. И, наконец, в некоторых трудах можно встретить таксономию девиантного поведения [18]. Исследования, посвященные изучению антисоциального поведения, в большинстве своем – качественные, в основном использующие метод кейс-стади в небольших группах выявленных троллей.

Примеры такого анализа включают в себя различные встречающиеся типы троллей [10], мотивы для такого поведения [16], и разные виды ответного поведения [2, 8]. В других работах определяется степень такого негативного поведения онлайн [13]. Особо интересным представляется исследование влияния ответной реакции сообщества на поведение отдельных пользователей, которое показывает, что негативный фидбэк может приводить к антисоциальному поведению. Однако, эта работа сфокусирована не на записях отдельных пользователей, а на долгосрочном наблюдении и анализе антисоциального поведения пользователей и их развитии на протяжении всего времени пребывания в сообществе (с момента присоединения до блокирования). Некоторые исследования направлены на изучение вандализма на сайте Википедия, применяя такие пользовательские особенности, как язык, репутацию и метаданные [1, 15]. Благодаря другим исследованиям можно идентифицировать нежелательные комментарии исходя из их релевантности обсуждаемой статье и наличию оскорблений [17], а также предсказать, будет ли игрок онлайн-игры впоследствии наказан за оскорбления и плохое поведение [4]. Исследование антисоциального поведения в онлайн-дискуссиях было проведено посредством анализа пользователей, заблокированных в интернет-сообществах. Учеными была получена характеристика антисоциальных пользователей и данные о том, как менялось со временем их поведение и как на него реагировало остальное сообщество [6]. Пользователи, которые впоследствии были заблокированы, с течением времени не только писали хуже, но и сообщество становилось к ним все менее терпимым.

Так же в работе предлагается типология антисоциальных пользователей, основанная на рейтинге удаления. И, наконец, там представлена система для идентификации на ранней стадии нежелательных пользователей. Используя эксплицитные сигналы недоброжелательности пользователя (постоянное блокирование), стало возможным изучать пользователей, имеющих склонность к широкому спектру антисоциального поведения. Но не смотря на всю масштабность, данный подход имеет некоторые ограничения. При более детальном рассмотрении становится понятно, что некоторые пользователи могут отражать обширный поведенческий спектр (через обман), что может существенно отличаться от откровенного подстрекательства [10]; а другие пользователи могут тайно провоцировать ссоры, притворяясь мирным пользователем.

В дальнейшем, при более тщательном анализе содержания постов, и зависимостью между публикациями в потоке, вскрываются потенциальные образцы дискуссий, начатых антисоциальными пользователями (например, тролль намеренно задает наивный вопрос для выявления полярных точек зрения среди других пользователей) [10]. Еще одно направление – это развитие более глубокой таксономии антисоциального поведения. Углубленный анализ отличий среди групп пользователей может выявить тонкости в том, как ведут себя антисоциальные пользователи (так разные пользователи являются сторонниками разных типов аргументов).

Для того, чтобы лучше охарактеризовать различные стадии пользовательской «жизни», исследование может быть направлено на выявление частных типов моделей. Так же в поле зрения исследователей не попали временно заблокированные пользователи, а изучение данного типа может пролить свет на то, как некоторые пользователи могут исправляться под влиянием общественности. И кроме всего прочего, антисоциальное поведение в других сообществах может отличаться от данных изученных онлайн-платформ (например, небольшие сообщества по интересам).

БИБЛИОГРАФИЧЕСКИЙ СПИСОК

1. Adler, B. T. Wikipedia vandalism detection: Combining natural language, metadata, and reputation features / B. T. Adler, L. de Alfaro, S. M. Mola-Velasco, P. Rosso, A. G. West // Computational linguistics and intelligent text processing. – Berlin : Springer Berlin Heidelberg, 2011. – P. 277288. 2. Baker, P. Moral panic and alternative identity construction in Usenet / P. Baker // Journal of Computer‐Mediated Communication. – 2001. – Vol. 7, № 1. 3. Binns, A. DON’T FEED THE TROLLS! Managing troublemakers in magazines’ online communities / A. Binns // Journalism Practice. – 2012. – Vol. 6, № 4. – P. 547562. 4. Blackburn, J. Stfu noob!: predicting crowdsourced decisions on toxic behavior in online games / J. Blackburn, H. Kwak // Proceedings of the 23rd international conference on World wide web. – New York, ACM, 2014. – P. 877888. 5. Buckels, E. E. Trolls just want to have fun / E. E. Buckels, P. D. Trapnell, D. L. Paulhus // Personality and individual Differences. – 2014. – Vol. 67. – P. 97102. 6. Cheng, J. How community feedback shapes user behavior / J. Cheng, C. Danescu-Niculescu-Mizil, J. Leskovec // arXiv preprint arXiv:1405.1429, 2014. 7. Cheng, J. Antisocial Behavior in Online Discussion Communities / J. Cheng, C. Danescu-NiculescuMizil, J. Leskovec // arXiv preprint arXiv:1504.00680, 2015. 8. Chesney, T. Griefing in virtual worlds: causes, casualties and coping strategies / T. Chesney et al. // Information Systems Journal. – 2009. – Vol. 19, № 6. – P. 525548. 9. Donath, J. S. Identity and deception in the virtual community / J. S. Donath // Communities in cyberspace. – London ; New York, 1999. – P. 2959. 10. Hardaker, C. Trolling in asynchronous computer-mediated communication: From user discussions to academic definitions / C. Hardaker // Journol of Politeness Reslarch.  2010.  Vol. 6.  P. 215242. 11. Herring, S. Searching for safety online: Managing «trolling» in a feminist forum / S. Herring, K. JobSluder, R. Scheckler, S. Barab // The Information Society. – 2002. – Vol. 18, № 5. – P. 371384. 12. Hsu, C. F. Ranking comments on the social web / C. F. Hsu, E. Khabiri, J. Caverlee // Proceedings IEEE CSE 09, 12th IEEE International Conference Computational Science and Engineering.  Vancouver, 2009. – Vol. 4. – P. 9097. 13. Juvonen, J. Extending the school grounds?  Bullying experiences in cyberspace / J. Juvonen, E. F. Gross // Journal of School health. – 2008. – Vol. 78, № 9. – P. 496505. 14. Kirman, B. Exploring mischief and mayhem in social computing or: how we learned to stop worrying and love the trolls / B. Kirman, C. Lineham, S. Lawson // CHI’12 Extended Abstracts on Human Factors in Computing Systems. – New York : ACM, 2012. – P. 121130.

15. Potthast, M. Automatic vandalism detection in Wikipedia / M. Potthast, B. Stein, R. Gerling // Advances in Information Retrieval. – Berlin : Springer Berlin Heidelberg, 2008. – P. 663668.

16. Shachaf, P. Beyond vandalism: Wikipedia trolls / P. Shachaf, N. Hara // Journal of Information Science. – 2010. – Vol. 36, № 3. – P. 357370.

17. Sood, S. O. Automatic identification of personal insults on social news sites / S. O. Sood, E. F. Churchill, J. Antin // Journal of the American Society for Information Science and Technology. – 2012. – Vol. 63, № 2. – P. 270285.

18. Suler, J. R. The bad boys of cyberspace: Deviant behavior in a multimedia chat community / J. R. Suler, W. L. Phillips // CyberPsychology & Behavior. – 1998. – Vol. 1, № 3. – P. 275294.

19. Suler, J. R. The online disinhibition effect / J. R. Suler // Cyberpsychology & behavior. – 2004. – Vol. 7, № 3. – P. 321326.

20. Wiener, D. Negligent publication of statements posted on electronic bulletin boards: Is there any liability left after Zeran / D. Wiener // Santa Clara L. Rev. – 1998. – Vol. 39. – P. 905.

Е. Н. Кудрявцева (г. Нижний Новгород, Россия), Н. К. Радина (г. Нижний Новгород, Россия)