Американские соцсети хотят взять под контроль

В США окружной апелляционный суд постановил, что платформы социальных медиа могут нести ответственность за контент, рекомендуемый их алгоритмами. Судебное решение – одна из реакций на опасные «челленджи» в сети, которые могут привести к летальному исходу. По мнению экспертов, прецедент может перестроить бизнес-модели ИТ-платформ.

Федеральный апелляционный суд США постановил, что платформы социальных медиа могут нести ответственность за контент, рекомендуемый их алгоритмами.

Судебное постановление было вынесено по делу о гибели подростка, который пытался повторить «челлендж», увиденный в социальной сети TikTok. Иск подали родители подростка, утверждая, что алгоритм специально рекомендовал ребенку опасный контент, несмотря на то что он несет в себе потенциальную угрозу.

Подобные иски, как правило, ранее отклонялись судебными органами Штатов на основании раздела 230 Закона «О добропорядочности в коммуникациях». Нормативные положения защищали интернет-платформы от ответственности за контент, публикуемый пользователями. Однако, по мнению суда, в случае, если платформа активно рекомендует контент за счет своих алгоритмов, она не может более считаться нейтральным посредником и обязана нести ответственность.

Судебное решение может существенно повлиять на работу социальных медиа в стране и впоследствии спровоцировать рост аналогичных исков. «Сложно сказать, станет ли решение суда значимым судебным прецедентом. Вероятнее всего, оно будет обжаловано – американские ИТ-гиганты не готовы терять статус своей неприкосновенности. Тем не менее, то, что в Америке наметился тренд на повышение контроля за технологическими компаниями – факт. Не так давно Google проиграл антимонопольное дело о доминирующем положении на рынке США, суд признал, что компания злоупотребляла своим положением с целью подавления своих конкурентов. Отношение к компаниям меняется и при должной общественной поддержке, регулирование американской ИТ-отрасли может серьезно ужесточиться», – пояснил член комитета Госдумы по информационной политике, информационным технологиям и связи Антон Немкин.

Рекомендательные алгоритмы работают на основе анализа предпочтений пользователя. Еще на старте использования сервиса компания собирает статистику потребления контента. Например, если пользователю интересны спорт и наука, то при последующем использовании сервиса, продукт будет рекомендовать к просмотру именно их. «Вопрос ответственности здесь крайне актуален. С одной стороны, система чаще будет рекомендовать контент, который пользователь запросил изначально. С другой стороны, незащищенные группы населения с несформированным критическим мышлением оказываются в не самом безопасном положении. Прежде всего, речь идет о детях и подростках, которым платформа зачастую может рекомендовать и опасную информацию», – отметил Немкин.

По словам депутата, любая ИТ-компания должна задумываться о социальных последствиях своей работы. «Взрослые неравно дети, возрастные рамки должны учитываться. С технической точки зрения соцсети могут предусмотреть запрет на показ опасных материалов детям», – считает депутат.

В этом вопросе российское законодательство трансформируется опережающими темпами. Например, летом этого года Госдума приняла закон о запрете треш-стримов. За их проведение будет грозить административный штраф: от 50 до 100 тысяч рублей для граждан, от 100 до 200 тысяч — для должностных лиц, от 800 тысяч рублей до миллиона для юридических лиц.

Кроме того, отечественные ИТ-платформы обязаны предоставлять пользовательскую информацию о работе своих рекомендательных алгоритмов. Благодаря этому пользователи могут получить более ясное представление о том, почему в их ленте появляется определённый контент и какие факторы повлияли на это. «В России, действительно, идет активная работа над минимизацией рисков, с которыми мы столкнулись в результате масштабной цифровизации. Это верный подход. Только за первые четыре месяца 2024 года Роскомнадзор заблокировал более 170 тыс. страниц с запрещенным контентом. Количество как запрещенных, так и опасных материалов в сети, очевидно, будет снижаться», – заключил Немкин.