«Рекомендательные сервисы – почва для создания эхо-камер»

Госдума РФ положительно восприняла идею московского отделения Ассоциации юристов России о введении дополнительных мер регулирования работы рекомендательных алгоритмом на уровне законодательства.

Рекомендательные сервисы – это системы, формирующие ленту пользователей в соцсетях и новостных агрегаторах, онлайн-кинотеатрах и маркетплейсах. По словам депутатов Госдумы, алгоритм закутывает пользователя в «информационный кокон», благодаря чему многие не могут увидеть истинную картину происходящего. 

Ассоциация юристов России предлагает подвергнуть алгоритмы независимому аудиту и внедрить возможность отключать их по желанию пользователей. Кроме того, считают необходимостью ввести в закон «Об информации» понятия «рекомендательный сервис» и «оператор рекомендательного сервиса». Регулирование предлагается распространять на площадки, у которых более 100 тысяч пользователей в сутки, и обрабатываются данные более полумиллиона россиян. 

Операторов рекомендательных сервисов предлагается обязать доступно объяснять пользователям принципы их работы. 

Контролем рекомендательных сервисов может заняться Роскомнадзор. 

«Умная лента» в соцсетях – формирует мировоззрение нового поколения

Представители IT-сообщества Кировской области полностью поддерживают законодательную инициативу Госдумы РФ.

Так, руководитель компании «Тренд» Ирина Вахрушева говорит, что рекомендательные алгоритмы помогают онлайн-магазинам и различным сервисам получать прибыль и могут влиять на потребности человека, его мнение и выбор. 

- Алгоритмы анализируют запросы пользователя и в рекомендациях показывают ему именно то, что ему потенциально интересно, и генерируют прибыль. Конечно, они могут создавать искусственный интерес человека к некоторым товарам, - отмечает Ирина Николаевна. - Например, пользователь искал информацию по работе кишечника, рекомендательные системы могут начать выдавать ему данные о том, что это возможно излечить определённым образом и конкретными пищевыми добавками. Без альтернативных данных человек может принять решение о покупке именно рекомендуемого товара - это и есть манипуляция. С одной стороны, пользователь считает - как удобно, все «само собой» нашлось. С другой стороны, это просто алгоритм продвигает и помогает продавать определённые товары, что уже удобно для владельцев сервисов и онлайн-магазинов.

Ирина Вахрушева также отметила, что алгоритмы могут создать риск возникновения социальных конфликтов из-за того, что пользователь оказывается в своеобразном информационном пузыре. 

- Если человек, например, расист, то ему в ленте будет предлагаться аналогичное мнение, тем самым ещё больше разжигая его неприязнь. Иной подход и мнения он не увидит, а значит, будет смотреть на вопрос однобоко, что может усугубить его поведения, - считает Ирина Вахрушева.

Эксперт упомянула, что на данный момент уже существует законодательный инструментарий по регуляции рекомендательных сервисов – маркировка контента по возрасту, рекламные пометки, работа с запрещённым контентом и другое. 

- Хотелось бы большего внимания, например, к информационным потокам, касаемо формирования личности молодых поколений, формирующих неадекватные поступки, такие, как нападение на школу и так далее. Нужно дать выбор людям самим устанавливать пожелания и согласие на работу рекомендательных сервисов, - подчеркнула Ирина Николаевна.

Она также отметила, что возможно, у властей не получится создать идеально прозрачный механизм работы рекомендательных алгоритмов, но разработка дополнительных мер регуляции этих алгоритмов станет уже большим шагом вперед. 

- Одно дело то, что касается взрослых людей, но мы растим новое поколение и потребление ими информации в социальных сетях исходя из «умной ленты» формирует их дальнейшее мировоззрение. А это иногда вызывает массу вопросов, - резюмировала Ирина Вахрушева. 

Регулирование рекомендательных сервисов закроет пробел в законе

Соучредитель IT-кластера Кировской области Елена Урматская полагает, что в законодательстве есть значительный пробел, касающийся регулирования работы рекомендательных сервисов, которые, несомненно, сильно упрощают жизнь пользователя, избавляя его от необходимости долго подбирать интересующую информацию.

- Популярность рекомендательных сервисов легко объяснима их удобством. Музыкальные сервисы самостоятельно могут подобрать новую музыку, которая наверняка тебе понравится, а онлайн-кинотеатры сами гарантированно посоветуют неплохой фильм на вечер, - поясняет Елена Анатольевна. - Это нормально, что человек, придя домой после трудового дня, не хочет долго копаться в каталоге фильмов, а хочет просто нажать на кнопку и получить удовольствие. Однако рекомендации в современных сервисах вовсе не ограничиваются музыкой и кинофильмами. 

Елена Урматская отметила, что в социальных сетях все чаще внедряются механизмы рекомендаций в новостные ленты, где люди получают информацию о происшествиях в регионе, стране и мире. В этой связи рекомендательные алгоритмы – отличная почва для создания так называемых эхо-камер – информационных пузырей, которые формируют у человека искаженное мироощущение. 

- Прямо сейчас, к примеру, мы можем видеть, как противники вакцинации от коронавируса десятками находят различные статьи, подтверждающие их точку зрения. Основным источником этих статей становятся именно алгоритмы рекомендаций, и кто знает, какое заблуждение поселится в головах наших сограждан в будущем? – обеспокоена Елена Анатольевна. 

Эксперт подчеркивает, что всячески приветствует инициативу по регулированию работы рекомендательных сервисов.

- На портале Kirov.ru мы стараемся в своих новостях и материалах учитывать и отражать максимально большой спектр мнений. Это позволяет и нам, и нашим читателям не запираться в своих эхо-камерах, а слушать и слышать людей, понимать их позицию. Думаю, именно поэтому наши читатели выбирают именно наш портал для получения свежих городских и региональных новостей, - резюмировала соучредитель IT-кластера Кировской области. 

По мнению представителей нижней палаты парламента, у пользователей должно быть право выбора – смотреть контент, «скорректированный алгоритмом», или нет. Например, в «ВК» есть кнопка отключения рекомендаций и создания ленты в хронологическом порядке, в то время как «Яндекс.Дзен» формирует пользовательскую ленту исключительно по интересам пользователей.