Как IT-корпорациям бороться с терроризмом в интернете

3 августа стрелок открыл огонь по толпе людей в супермаркете Уолмарт в Эль-Пасо, штат Техас. В результате инцидента погибло 22 человека. Говорят, что незадолго до происшествия, он сделал пост на онлайн-форуме 8chan, где рассказал о готовящейся стрельбе и написал, что этот террористический акт направлен против растущего латиноамериканского населения Техаса.

Стрельба в Эль-Пасо стала третьим актом массового насилия в этом году, о котором писали на 8chan. Сетевой провайдер Cloudflare решил прекратить обслуживание этого форума.

Генеральный директор Cloudflare Мэтью Принс написал, что 8chan перешли границу:

Они ставят себя выше закона. Но это беззаконие стало причиной множества трагических смертей… Трудно определить политику в отношении таких сайтов, которую можно прозрачно и последовательно использоватьв будущем.

Впрочем, добавил директор, ему немного неловко, что Cloudflare в одностороннем порядке решает, каким веб-сайтам оставаться в Сети.

Действительно, принятие таких решений – сложный процесс. Cloudflare, в данном конкретном случае, взял на себя ответственность решать, что может находиться в сети, а что нет. Зачастую, технологическим компаниям недостаточно правительственных списков запрещенных организаций , чтобы помешать террористам и экстремистам использовать известные онлайн-платформы.

Многие IT-компании используют сторонние описания возможных экстремистских аккаунтов при модерации. Однако такие описания зачастую составляются для конкретных юридических, политических или научных целей и могут не подходить для общего пользования. Нужно понимать относительные преимущества и ограничения таких списков и не полагаться на них целиком.

Если компании сознательно предоставляют услуги определенной  террористической организации, то это правонарушение. К сожалению, идентификация таких сайтов, групп и аккаунтов представляет собой сложный процесс, поэтому контролировать деятельность экстремистов в Интернете очень тяжело.

В дополнении к выше сказанному, можно отметить, что определения запрещенных организаций  варьируются от агентства к агентству даже внутри одной страны, при этом группы ультраправых взглядов обычно в них не включаются. Между странами существуют многочисленные расхождения во мнениях, что называть терроризмом. Одни причисляют к террористам противников правящего режима, другие уделяют совсем мало внимания радикальным группировкам, действующим на территории страны.

Взять к примеру альянс «Пять глаз» (объединение пяти англоязычных стран, сформированное после Второй мировой войны – США, Великобритания, Австралия, Канада, Новая Зеландия). Эти страны поддерживают тесные партнерские отношения в области безопасности. Но только 11 террористических групп фигурируют в списках запрещенных организаций во всех пяти странах, а почти половина перечисленных групп фигурируют в списках только одной страны.

И если с джихадистами (теми, кто ведет вооруженную борьбу за распространение ислама) обычно не возникает разногласий по поводу запрета их деятельности на территории различных стран, то на ультраправые группировки (консервативные и реакционные фракции) почти не обращают внимания. Текущий политический курс государства очень сильно влияет на то, какие именно группировки сейчас считать запрещенными в стране.

Существуют и другие базы данных экстремистских группировок. Академические списки могут быть менее предвзятыми, но они редко бывают актуальными или глобальными. Общественные организации хорошо разбираются в одном типе групп (например, правых), но их данные неполны и они часто фокусируются на «ненависти», а не на насилии как таковом.

Возможно, настало время по-новому взглянуть на проблему. IT-сектор и представители гражданского общества, научных кругов и правительства должны вместе разработать глобальную, объективную и оперативную базу данных о возможных террористических группировках.

Процесс создания такой базы данных весьма сложный. Самые заинтересованные лица – крупные правительства и IT-гиганты – сталкиваются с проблемой доверия, поскольку каждый из них будет восприниматься как предвзятая сторона. Есть политические, деловые и юридические причины, чтобы технологические компании оставались в стороне от этого вопроса. А у небольших компаний и местных общественных организаций нет столько ресурсов, чтобы играть важную роль в данном процессе.

Хотя в наличии стандартов в подходах определения запрещенных групп заинтересованы и правительства, и технологические компании, сложно приступить к делу, учитывая огромное количество участников и связанные с каждым из них проблемы.

Идеи, как начать процесс идентификации террористов

Первый шаг – создание рабочей группы. Относительно нейтральные демократические правительства, которые поддерживают либеральные ценности могут совместно с глобальным интернет-форумом взять на себя бремя первых собраний этой группы и выработать основные положения, акты и цели. Норвегия, Новая Зеландия или Дания могут быть идеальными странами-организаторами.

Представители других стран будут вместе принимать предварительные решения – кого из технических специалистов и общественности пригласить. Среди гражданского населения можно выбрать представителей различных культур, субкультур и поколений, охватывающих точки зрения большого числа населения.

Основная группа может быть небольшой – несколько избранных стран. Со временем, когда первоначальные ошибки и упущения будут устранены, группа может расширить число стран-участников и стать действительно глобальной.

IT-гиганты с большим количеством пользователей и значительным доходом помогут финансировать процесс. Государственные и негосударственные фонды тоже могли бы внести свой вклад – чем больше разных спонсоров, тем меньше риск предвзятости. Крупные общественные организации могли бы предоставить квалифицированных специалистов. Правительства предоставят материально-техническую и информационную помощь, но, чтобы избежать обвинений в предвзятости, им не следует напрямую финансировать процесс после его запуска.

Небольшие компании не смогут присоединиться к процессу, пока количество обслуживаемых ими пользователей не превысит заданной планки. Они не будут обязаны следовать принятым актам и нести расходы связанные с этим проектом .

Полное согласие между участниками маловероятно (хотя и желательно). Поэтому, чтобы достигнуть единогласия, рабочая группа должна разработать несколько списков с разными уровнями ответственности за каждый.

Начинаться списки будут с неоспоримых террористических групп, таких как Аль-Каида.

В другой список можно включить группы, которые применяют насилие, но также участвуют в ряде социальных и политических проектах региона. К такой организации можно отнести ХАМАС (исламское движение, правящее в секторе Газа, с целью создания палестинского государства. Признан террористической организацией во многих странах, но не в России). В таких случаях нужно обеспечить нормальное функционирование площадок не связанных с террористической деятельностью организации, таких как веб-сайт больницы в Газе.

И в еще один список можно включить группировки из «серых зон», чьи действия часто пересекают черту.

Итого, компании (и страны) могут запретить группы из первой категории, выборочно контролировать вторую, наложить ограничения на пользователей в третьей… Кроме того, новая рабочая группа могла бы отметить, что некоторые участники причисляют определенную организацию к одной категории, в то время как другие предпочитают иную интерпретацию. Компании могут выбрать «мягкую» или «жесткую» политику в отношении групп, фигурирующих в списках, но они должны признавать связанные с этим неопределенности и разногласия.

Конечно, компании, как частные юридические лица, не обязаны интерпретировать группы в списке каким-либо конкретным способом. Но подобная идентификация хотя бы будет предоставлять полезную информацию компаниям для принятия мер. Необходимо соблюдать согласованный процесс, и если правительство или какая-либо организация предъявят претензии, то все вопросы к рабочей группе.

Наконец, если этот процесс утвердится, то со временем можно будет влиять на те компании, которые не соответствуют стандартам, будучи слишком снисходительными или слишком строгими.

Критерии и процесс должны быть прозрачными. Новая рабочая группа может допустить ошибки, и обнаружатся новые факты, которые изменят обозначения и классификации.

Главное – покончить с экстремистскими выходками в Интернете и усложнить жизнь в Интернете запрещенным организациям. И если со временем будет замечен сдвиг в положительную сторону, это следует признать и скорректировать политику по борьбе с терроризмом.

Источник фото: gq.com, на изображении – видоизмененный логотип сайта 8chan, который из форума без цензуры превратился в рассадник терроризма