Ашманов Игорь Станиславович

Генеральный директор компании «Ашманов и партнеры», президент компании «Крибрум»

Мы сможем обеспечить «нулевую общественную толерантность» к токсичному контенту в интернете

О поручении Президента по итогам встречи с членами СПЧ 9 декабря 2021 года.
29 января 2022 1402 просмотра В связи с публикацией 29 января 2022 г. на президентском портале списка поручений Президента по итогам декабрьской встречи Президента с Советом по развитию гражданского общества и правам человека, хочу прокомментировать поручение №1, касающееся моего предложения.
Оно звучит так:

1. Администрации Президента Российской Федерации рассмотреть представленные президентом акционерного общества «Крибрум» Ашмановым И.С. предложения по реализации проекта создания саморегулируемого реестра токсичного контента в информационно-телекоммуникационной сети «Интернет» в целях защиты несовершеннолетних и при необходимости принять соответствующие меры поддержки.
Доклад – до 1 июня 2022 г.
Ответственный: Кириенко С.В.

Что имеется в виду? Ниже – тезисы моего доклада Президенту на встрече 9 декабря, по которому и дано данное поручение.
 
Помимо запрещённого законом контента в Интернете, который блокирует Роскомнадзор и другие ведомства, в нашем цифровом пространстве существует также обширная серая зона деструктивного и токсичного контента: группы про массовых и серийных убийц, шок-контент (катастрофы, смерти, «расчленёнка» и т.п.), идеология бездетности, ненависть к детям, семье и материнству, радикальный феминизм, романтизация и организация уличного насилия, аниме с сексуализацией образов детей и насилием, различный аутодеструктив и прочее.

Токсичный контент не запрещён, законных оснований для блокирования его в сети и преследования его распространителей – нет. Между тем, токсичный контент противоречит основным ценностям России, её стратегическим документам, приоритетам и программам.

Пример: повышение рождаемости и защита семьи и семейных ценностей – один из приоритетов внутренней политики Российской Федерации – следовательно, радикализованные группы с ненавистью к детям, семье, мужчинам, с призывами к абортам и стерилизации – это безусловно токсичный контент.

Токсичный контент разъедает сознание молодёжи, детей и подростков, устроен в виде воронки вовлечения в запрещённую и криминальную деятельность. Первый слой воронки – всегда достаточно «невинный», не вызывающий отторжения у детей и подростков, вызывающий острый интерес к необычному, маргинальному, острому. Далее следуют более «токсичные» уровни, на которые переводят (заманивают) тех, кто наиболее внушаем и проявляет готовность выполнять разные «дрессирующие» задания, а кончается всё, как правило, явным криминалом.

Весь «спорный» и «токсичный» контент в условиях свободного развития имеет тенденцию к захвату максимального объёма и к радикализации в любой сфере: от «левых» движений до правого национализма, сектантства и экстремизма. Токсичный контент всегда в конце концов выходит в офлайн и отравляет реальную жизнь детей и подростков.

Пример: романтизация и оправдание наркопотребления (не запрещённые законом) прямо приводят к росту потребления наркотиков, ко втягиванию молодёжи в распространение наркотиков (в первую очередь детей и подростков).

По закону у нас блокируется только запрещённый интернет-контент. Он также блокируется только постфактум: по обращениям граждан и по представлениям уполномоченных ведомств и решениям судов. Ко времени блокировки токсичный контент уже успевает мигрировать, бурно размножиться и проделать свою разрушительную работу в умах детей и подростков.

Имеется также сопротивление цифровых платформ: платформы сами не хотят удалять «рейтинговый» контент, сопротивляются давлению государственного регулятора – из соображений сохранения количества просмотров, кликов и соответствующей прибыли.

При этом государство государство и регулятор Роскомнадзор регулярно вызывают в социальных сетях и либеральной части СМИ шквал критики за «удушение демократии и свободы выражения мнения».

Мы считаем, что токсичный контент обоих типов нужно удалять, маркировать, понижать в рейтингах и лентах на превентивной и добровольной основе. Для этого нужен механизм общественного контроля и добровольной досудебной блокировки и/или маркировки токсичного контента самими цифровыми платформами.

Довольно большое количество граждан России – в первую очередь родители – крайне обеспокоены разрастанием токсичного контента в цифровой среде, готовы были бы как-то бороться с этим явлением, быть волонтёрами, но им нужен инструмент для этого.

С ростом угрозы "токсичного" контента возрастает потребность российского общества в единой и общей этической платформе поведения в информационном пространстве. Такая этическая платформа общепринятых традиционных ценностей у нас в стране имеется, в том числе она зафиксирована в Конституции, законах и в документах стратегического планирования.

Уже есть примеры достижения такого гражданского и отраслевого согласия по этике поведения в цифровой среде, а именно: Кодекс этики ИИ, подписанный отечественной ИТ-индустрией в октябре 2021 года, Альянс защиты детей (создан летом 2021), Меморандум по борьбе с фейками (лето 2021) и др.

Мы предлагаем создать аналогичный кодекс приемлемого поведения площадок, авторов и пользователей в цифровой среде. Это должен быть общественный, открытый проект по добровольному присоединению к общей этической платформе – в том числе в форме открытого Реестра токсичного контента. Реестр планируется вести в формате открытого, «википедийного» проекта, в Реестре будут содержать онтологию плохого контента: дерево категорий, описания категорий токсичного контента, их подвидов и вариаций, примеры, объяснения, почему этот контент вреден, способы распознавания такого контента (текстовые и графические).
Управлять Реестром будет Общественный Экспертный Совет, который объединит экспертов–волонтёров: психиатров, психологов, педагогов, учёных, представителей специалистов по социальным сетям.

Мы предполагаем, что Совет по контролю за токсичным контентом и Реестр токсичного контента будут организованы на базе Регионального общественного центра интернет-технологий (РОЦИТ). Ведением, поддержкой реестра будут заниматься эксперты-волонтёры – психологи, психиатры, специалисты по девиантному поведению, представители родительских ассоциаций, специалисты по борьбе с финансовыми мошенничествами и др.
Структура Совета и реестра будет включать следующие механизмы:
• Стимуляция платформ и «экосистем» к добровольному подключению к Реестру и подписанию меморандума;
• Добровольность фильтрации: платформа после добровольного присоединения будет сама решать, каковы процедуры и уровень фильтрации/маркировки категорий на основе Реестра;
• Публичные события: подписание Меморандума, конференции, общественные слушания, законодательные инициативы;
• Технологические механизмы взаимодействия с цифровыми платформами: возможность подключения к реестру по программным протоколам, автоматическая рассылка сообщений о найденном волонтёрами токсичном контенте в платформы и сервисы, в РКН.

Для поддержки этой инициативы «на той стороне», то есть цифровыми платформами, потребуется постепенное присоединение и подписание меморандума о противодействию токсичному и запрещённому контенту в сети Интернет большинством цифровых платформ: VK, Яндекс, Rambler, Rutube, Альянс защиты детей ИРИ, информационные агентства, представители игровой индустрии, СМИ, ТВ-каналы, блогеры, прочие медийные игроки. Конечно, необходимо привлечь и зарубежные цифровые платформы и СМИ (параллельно с реализацией закона о «приземлении»).

Идея общественного совета по контролю за контентом обсуждена с Администрацией Президента, с Советом по правам человека, с Роскомнадзором, РОЦИТом, Общественной палатой, родительскими ассоциациями. Все в целом поддерживают идею. В РОЦИТе уже создана рабочая группа по этому вопросу.

В обсуждениях проекта в конце прошлого года задавались очевидные вопросы:
• Как добиться поддержки реестра основными цифровыми платформами?
Ответ: общественным воздействием на них, через Альянс защиты детей, с помощью публикаций, а также с помощью создания рейтингов загрязнённости платформ, своего рода «Доски позора» (или, напротив, «Доски почёта»). Планируется также обеспечить поток жалоб на контент от волонтёров проекта в сторону цифровых платформ.

• Как обеспечить равные условия для иностранных и отечественных цифровых платформ? 
Ответ: Этот вопрос нужно постепенно решить в ходе параллельного процесса «приземления»  иностранных цифровых платформ в российскую юрисдикцию.

• Как не допустить того, чтобы Реестр стал просто пропагандой плохого контента?
Ответ: Реестр в любом случае будет материалом категории 18+, что означает, что нужно верифицировать возраст пользователей, получающих доступ к его содержанию. Наиболее адекватным способом такой верификации пока представляется регистрация через ЕСИА. Отсутствие анонимного доступа и возрастной барьер, по нашему мнению, снимут вопрос с «пропагандой». Кроме того, Реестр будет содержать описание категорий и примеры, но не будет содержать ссылок на сам контент.

Общественный проект по контролю токсичного контента позволит охватить «серую зону» формально незапрещённого контента. При этом он снимет моральную ответственность с государства и выведет его из зоны критики и медийного давления за чистку цифрового пространства, перенеся моральную ответственность за контент на сами цифровые платформы, где ей на самом деле и место.

Мы сможем таким образом обеспечить «нулевую общественную толерантность» по отношению к экстремальным меньшинствам, к токсичному контенту, разрушающему традиционные ценности у детей и подростков и противоречащему стратегическим приоритетам Российской Федерации.