ТОРОНТО –
Информатор Facebook Фрэнсис Хауген испытывает «чрезвычайную надежду» на способность общества сделать платформы социальных сетей более безопасными, но для того, чтобы произошли изменения, она говорит, что эти компании должны быть мотивированы по-новому.
«Мы не бессильны», — сказала Хауген в интервью во время визита в Торонто, где она должна была выступить на конференции, посвященной онлайн-безопасности детей.
«Эти системы невозможно исправить. Просто сегодня нам не хватает стимулов, чтобы эти платформы действовали позитивно».
Критика Хойген платформ социальных сетей и более широких социальных систем, которые их породили, нарастала в течение более чем 20 лет ее работы в сфере технологий, включая остановки в Google, Hinge, Yelp и Pinterest.
В 2021 году она достигла грани и раскрыла тысячи внутренних документов своего предыдущего работодателя Facebook, в которых подробно описывалось, как компания отдает приоритет прибыли над решением проблем, о которых она знала в своей социальной сети.
Одно из внутренних исследований, которые она опубликовала, показало, что у 13,5 процентов девочек-подростков в Великобритании были мысли о самоубийстве, которые умножились после регистрации в Instagram. Другой сообщил, что 32 процента девочек-подростков, которые плохо относились к своему телу, почувствовали себя еще хуже после посещения платформы.
Три года спустя Хауген не считает, что изменение платформ — безнадежное дело, даже несмотря на то, что количество исследований, предполагающих, что они вредны, только растет.
Хитрость, по ее словам, заключается в изменении того, что она считает нынешним образом работы бизнеса: зарабатывать как можно больше денег, даже если это будет стоить детям, семьям и обществу.
Вместо этого она хотела бы, чтобы платформы стимулировались данными, которые она хочет, чтобы они собирали и публиковали ежемесячно, напоминая своего рода систему показателей.
Данные будут сосредоточены на 30 проблемах и охватывают 100 показателей, например, сколько детей получили нежелательное сексуальное общение на каждой платформе за последнюю неделю.
Она прогнозирует, что результаты убедят рекламодателей тратить деньги на более безопасные платформы — и быстро.
«Если бы у рекламодателей были эти данные, они бы действовали быстро», — сказал Хауген.
Эти данные также принесут результаты за счет поддержки некоммерческих организаций, нацеленных на улучшение социальных сетей, которые, по словам Хаугена, недостаточно финансируются.
«Одна из причин этого в том, что очень сложно продемонстрировать, что вы чего-то достигли», — сказала она.
«В мире, где есть 100 показателей, которые публикуются каждый месяц… Я гарантирую, что вы создадите 100 некоммерческих организаций, потому что они скажут: «Я буду стремиться к этому числу».
Видение Хаугена социальных сетей не ограничивается публикацией данных. У нее длинный список пожеланий для платформ, в том числе несколько идей, которые направлены на защиту детей, но с такой же вероятностью могут быть полезны и взрослым.
Среди них есть предположение, что платформы смогут определять, когда пользователи поздно ложатся спать, просматривая ленту, а затем на следующий день спрашивать, в какое время кто-то надеется лечь спать.
Если бы они вошли примерно в 23:00, сказал Хауген, компания могла бы начать постепенно замедлять работу приложения за два часа до этого.
«Около 11 часов вечера они устают и ложатся спать (потому что) это приносит меньше удовольствия», — сказал Хауген.
Идея основана на реальности, о которой, по словам Хаугена, технологические компании знают уже как минимум 20 лет: «Если вы добавите небольшую задержку к опыту, люди будут использовать его меньше», но часто остаются надолго.
У нее также есть мысли о том, что платформы могут сделать, чтобы помочь людям, которые получают массу контента, который их расстраивает или провоцирует негативные мысли.
Хауген считает, что эти проблемы можно было бы решить, если бы компании позволяли пользователям сбрасывать свои алгоритмы.
«Представьте, что вы ребенок, и вас начали затягивать в кроличью нору, связанную с расстройствами пищевого поведения. Вам показали рекламу диетических леденцов, и они заметили, что вы задержались на ней на некоторое время. Вы даже не нажали на нее и не теперь вы получаете всю эту еду и содержание дисморфии тела», — сказал Хауген.
«Представьте, если бы этот ребенок мог просто нажать кнопку и вернуться к ванильному алгоритму».
Платформы также могут определять, когда люди просматривают оскорбительный контент или публикации, которые заставляют их чувствовать себя неуверенно в течение длительного периода времени. Затем они могли бы представить пользователям всплывающее окно, отмечающее это воздействие и спрашивающее, хотят ли они по-прежнему получать этот контент.
Хотя платформы социальных сетей не реализовали те инструменты, о которых мечтает Хауген, многие внесли изменения, направленные на безопасность детей.
TikTok устанавливает ограничение на одночасовое экранное время, которое можно обойти только с помощью кода от родителей. Платформа также предлагает семейное сопряжение, которое позволяет родителям напрямую связывать свои учетные записи с учетными записями своих подростков и гарантировать, что настройки TikTok их детей согласованы всей семьей.
В Snap предусмотрены меры, призванные не дать подросткам связаться с кем-либо, кроме друзей или людей, у которых уже есть их номер телефона, а передача местоположения отключена по умолчанию.
«С самого начала мы сделали осознанный выбор дизайна, чтобы помочь предотвратить распространение дезинформации или вредоносного контента, включая модерацию пользовательского контента, прежде чем он достигнет большой аудитории, и у нас нет прямых трансляций», — говорит Тоня, руководитель отдела коммуникаций Snap. Джонсон», — говорится в электронном письме.
На прошлой неделе Instagram заявил, что по умолчанию будет автоматически предоставлять подросткам частные учетные записи, которые подталкивают их проводить меньше времени в сети, а также отключать уведомления в спящем режиме с 22:00 до 7:00.
«Мы знаем, что родители хотят быть уверены в том, что их подростки смогут использовать социальные сети для общения со своими друзьями и изучения своих интересов, не беспокоясь о небезопасных или неуместных событиях», — говорится в заявлении Меты.
«Подростковые учетные записи были созданы для решения этих проблем и предоставления подросткам опыта, разработанного специально для них, с автоматическими настройками по умолчанию, чтобы родители могли быть уверены, что их подростки имеют повышенную защиту», — говорится в заявлении.
TikTok не ответил на запрос о комментариях.
Хотя Хауген считает, что акцент на том, чтобы сделать платформы более безопасными для детей, важен, в том, что она видела до сих пор, есть множество лазеек. Например, она сказала, что часы режима сна в Instagram по умолчанию позволяют детям продолжать получать уведомления в течение школьного дня, в течение которого родители и учителя пытаются не пускать учеников в свои телефоны.
Битва достигла нового апогея в прошлом году, когда несколько советов директоров Онтарио подали в суд на Meta, TikTok и Snap на миллиарды долларов из-за обвинений в том, что компании небрежно разрабатывают свои продукты для компульсивного использования и меняют способ мышления, поведения и обучения детей.
Многие провинции, в том числе Онтарио, Саскачеван, Новая Шотландия, Манитоба и Альберта, еще больше повысили ставку, запретив в этом году мобильные телефоны на занятиях.
Хауген аплодировал этим шагам.
«Если вы распределяете свое внимание между уроком математики и телефоном, вы не сможете успевать», — сказала она.
«Есть исследования, которые показывают, что вы теряете около полугода обучения, держа телефон на коленях, потому что вы просто не можете сосредоточиться».
Этот отчет The Canadian Press был впервые опубликован 26 сентября 2024 года.