Присоединяйтесь к нашим группам

Как остановить интернет-троллей?

Как остановить интернет-троллей?
Тролли и интернет-хулиганы, кажется, неудержимы в интернете, но можно ли с помощью технологий или чего-либо другого противостоять им?
22 03 2016
22:55

Автор Крис Бараньюк

«Мы не умеем справляться с троллями и оскорблениями на платформе, и мы беспомощны уже много лет», — написал Дик Костоло, бывший главный администратор онлайн-сервиса Твиттер, в служебной записке, которая попала в интернет в прошлом году. — «Это не секрет, и весь мир говорит об этом каждый день».

Для многих это прозвучало как давно назревшее, хоть и постыдное, признание. Оскорбления в интернете, к сожалению, не редкость, и Твиттер — далеко не единственное место в сети, где тролли и грубияны не упускают своей возможности. Более половины молодых людей оскорбляют онлайн, а истории о безжалостном троллинге по-прежнему часто появляются в новостях, и вы, наверное, думаете, что ничего не делается для решения этой проблемы. Но есть некоторые намёки на то, что троллей можно остановить.

Можно довольно быстро предсказать, будет ли троллю в конечном итоге запрещён доступ к сайту

В череде недавних научных статей рассматривалось то, как технологии могут помочь выявить киберхулиганов на ранних стадиях и потенциально предотвратить дальнейшие издевательства. Возьмём, к примеру, исследование на тему оскорбительных комментариев в интернете, в котором были рассмотрены 40 миллионов комментариев, опубликованных в течение 18 месяцев на таких сайтах, как CNN.com и Breitbart.com. Кристиан Данескью-Никулеску-Мизи, соавтор исследования с кафедры информатики в Корнелльском университете, поясняет, что, судя по поведению пользователей, не только по их выбору слов, можно довольно быстро предсказать, будет ли троллю в конечном итоге запрещён доступ к сайту или форуму.

«Антисоциальные пользователи, как правило, сосредотачиваются на нескольких ветвях разговора. Они пишут много, но только в нескольких ветвях, в отличие от других пользователей», — говорит Данескью-Никулеску-Мизи. Благодаря выявлению такого шаблона поведения исследовательская группа смогла создать алгоритм, который может быстро определить, является ли поведение пользователя антисоциальным.  Вместо того, чтобы искать нецензурные слова и оскорбительные выражения, алгоритм ищет определённый шаблон поведения — и это, похоже, работает на многих сайтах.

Фото: От интернет-троллей никуда не деться в современном мире

«Оказывается, что на самом деле уже в первых 5-10 постах достаточно информации, чтобы предсказать с точностью около 80%, будет ли пользователю заблокирован доступ к сайту»,— поясняет Данескью-Никулеску-Мизи. Исследователи подчеркивают, что их алгоритм не предназначен стать компьютеризированной заменой для людей-модераторов и автоматически блокировать пользователей на основе частоты их первых нескольких постов. Однако исследовательская группа надеется, что выявление определённых лиц на ранних стадиях «троллинга» позволит людям-модераторам пресекать антисоциальное поведение пользователей, прежде чем они начнут думать, что им всё дозволено. Как говорит Данескью-Никулеску-Мизи: «Без людей здесь не обойтись».

Некоторые активисты намерены обратить троллинг против самих троллей

В журнале Wired также сообщалось о попытках компании SRI International — компании, которая произвела на свет вопросно-ответную систему Siri, прежде чем она была приобретена компанией Apple для использования на iPhone — выявить киберхулиганов, используя интеллектуальные алгоритмы. Это помогло бы выполнять автоматически ту работу, которую сейчас выполняют люди-модераторы. Ещё одно исследование выявило характеристики антисоциального поведения в  сети, например в Инстаграм.

Прилагались, конечно, усилия по более традиционной борьбе с виртуальным террором: публиковалась информация об этом. Эти усилия часто прилагаются в интернете, например, недавно запущенный правительством Великобритании сайт Stop Online Abuse, чтобы остановить издевательства в сети над женщинами, геями, лесбиянками, бисексуалами и трансгендерами.

Примечательно то, что предпринимались также попытки обратить троллинг против самих троллей. Например, кампания «Нулевая терпимость», проведенная активистами из The Peng Collective. Там твиттер-боты использовались для автоматического нацеливания на тех людей, чьи твитты были оскорбительными. Этим пользователям предлагалось принять участие в своего рода «программе самопомощи», чтобы прекратить троллинг.

«Я хотела сделать что-то, что поднимет шум и даст отпор троллям», — говорит Ада Штольц, участвовавшая в организации кампании, благодаря которой за неделю пропагандистские сообщения отправляются на тысячи аккаунтов в Твиттере. — «Вот что мы сделали. Мы тоже троллили людей — мы создали армию ботов».

 

Фото: Издевательства вездесущи в интернете, но должны ли мы с этим жить? (Надпись: «Я тебя ненавижу»)

Мысль о том, что людям, которые занимаются хулиганством, придётся столкнуться с последствиями своих действий, является очень мощным оружием. Действительно, это используется организациями по борьбе с издевательствами в интернете, которые работают непосредственно с молодёжью.

ChildNet — британская благотворительная организация, которая часто посещает школы и проводит дни активности для учащихся. Например, студентов иногда просят вместе сыграть в драматичной сценке, в которой они играют учащегося, чьи фото в обнажённом виде разошлись по школе. Секстинг — форма издевательства, которая, к сожалению, распространена среди современных подростков, но самодельная театральная постановка  ChildNet заставляет детей поставить себя на место жертвы.

Хулиганство подростков в интернете взрослые редко замечают или не воспринимают всерьёз

«Это помогает молодым людям понять, как они бы себя чувствовали в различных ситуациях», — объясняет Ханна Бродбент, представительница благотворительной организации. — «Можно наблюдать, как меняется их образ мышления. Если прежде они бы сказали, что «она не должна была изначально делать эту фотографию, она сама виновата», а в итоге они начинают сочувствовать человеку».

«Подобные вещи очень-очень полезны», — говорит Эмма Шорт, психолог, которая специализируется на изучении кибер-преследования и домогательств. Шорт признает, как трудно было в последние годы не только детям, но и родителям, и учителям осознать последствия издевательств в интернете. Хулиганство подростков в интернете взрослые редко замечают или не воспринимают всерьёз.

Зачем вообще люди травят друг друга? Существуют социологические и психологические объяснения. С одной стороны, хулиганы, как правило, применяют силу, пытаясь доминировать и установить некую иерархию. Психологические причины для этого, однако, могут быть разнообразны: реакция на переживания из-за собственной неполноценности или издевательства, которым они подвергались сами.

Фото: Издевательства в интернете — проблема, с которой современному подростку приходится сталкиваться, но на семинарах объясняют, как можно с этим бороться

Главным является культивирование в людях сочувствия, утверждает Шорт. «Посты, которые люди публикуют, особенно издевательские, кажется, делаются в изоляции», — отмечает она. — «Когда мы рассматриваем онлайн-общение в  контексте межличностных отношений отдельных людей, мы повышаем степень нашей осмотрительности».

Действительно, были попытки попросить пользователей не отправлять сообщение, учитывая слова, которые ввели в текстовое поле. Такой приём использовался на дискуссионном сайте для подростков A Thin Line.

Эта идея, возможно, понравилась бы Монике Левински, которая произнесла знаменитую речь в прошлом году о том, что она описала как нашу проблемную «культуру унижения». «Чем чаще мы читаем сплетни, тем более безразличными мы становимся к жизням, которые за ними скрываются», — сказала она.

Одна из трудностей в укреплении этого чувства ответственности в цифровом мире является наличие «эффекта невинного свидетеля». Люди часто становятся свидетелями издевательств, но ничего не предпринимают. Для Шорт это одно из главных препятствий в любых попытках прекратить издевательства в интернете.

Фото: Исследования показывают, что потенциальные тролли выдают себя не только использованием нецензурной лексики

Тем не менее, некоторые интересные данные, полученные благодаря ролевой онлайн-игре League of Legends, могут указать путь. Джереми Блэкберн — исследователь в испанской технологической компании Telefonica I+D. В недавнем исследовании Блэкберн и его соавторы обнаружили, что, когда друзья по команде побуждали игроков сообщить об оскорбительном поведении другого игрока, они делали это в 16 раз чаще. «Если бы людей чаще просили о помощи, говоря, например: «Сообщите об этом парне, он придурок», — говорит Блэкберн, — «тогда бы больше людей сообщало о таких ситуациях. Это как бы нейтрализует эффект невинного свидетеля».

«Люди, кажется, немного сдержаннее, когда используют голос». Джереми Блэкберн, исследователь

Блэкберн часто сам играет в League of Legends и другие онлайн-игры.  Игроки могут общаться друг с другом в процессе игры с помощью сообщений, хотя по большей части они используют гарнитуры, чтобы общаться вербально. Блэкберн на себе испытал все оттенки антисоциального поведения, в том числе оскорбления и угрозы.

Однако Блэкберн верит, что условия могут повлиять на выраженность оскорблений. «Я заметил, что люди, кажется, немного сдержаннее, когда используют голос»,  — говорит он. — «Это немного понижает уровень анонимности».

Кажется, что людей можно побудить к переосмыслению агрессивного поведения и заставить их перестать игнорировать издевательства, когда они становятся их свидетелями. Всё, что выдвигает на первый план человеческую личность, скрывающуюся за аватаром, может в этом помочь. И не стоит писать алгоритмы и пытаться таким образом справиться с ситуацией, потому что, похоже, действительно нет никакой альтернативы для непосредственного взаимодействия с другими людьми — даже с грубиянами.


Источник: BBC News





close Не показывать больше
Теперь читать новости на мобильном телефоне стало ещё удобнее
Скачай новое приложение obzor.press и всегда будь в курсе последних событий!