Сломанный код. Внутри Facebook и борьба за раскрытие его вредных секретов - Джефф Хорвиц
Шрифт:
Интервал:
Закладка:
Однако всемирный шум в СМИ, безусловно, дошел и до пользователей. Даже после ребрендинга в Meta 80 процентов американских пользователей заявили, что компания вредит политическому дискурсу. Соотношение пользователей, считающих, что ее продукция вредит эмоциональному здоровью людей, достигало двух к одному. Позднее маркетинговый анализ пришел к выводу, что, хотя пользователи на более бедных рынках за рубежом выглядели менее обеспокоенными - возможно, потому, что "разговор об использовании социальных сетей не получил достаточного развития", - в ближайшее время не было никаких перспектив для восстановления бренда Facebook. "В странах, где доверие к приложению Facebook и так невысоко, обмен сообщениями фактически игнорируется", - говорится в анализе.
Компания традиционно считала, что такой "налог на бренд" заставит пользователей отказаться от платформы, и сотрудники Integrity долгое время опирались на этот аргумент, добиваясь изменений, которые не могли быть оправданы с точки зрения взаимодействия. Но 22 000 страниц документов, раскрывающих порочащие корпоративные секреты, не отпугнули пользователей больше, чем бойкоты рекламодателей или споры о модерации в прошлом. Если репутация Facebook еще не оттолкнула пользователей, то что могло бы?
Вопреки "нашим прежним убеждениям", говорится в маркетинговой презентации компании, "факты делают гипотезу о прямой причинно-следственной связи между настроением и вовлеченностью маловероятной".
Компания не могла позволить себе постоянно игнорировать свою репутацию, предупреждалось в презентации. Дурная слава, скорее всего, затруднит выпуск новых продуктов и вызовет дополнительные проверки со стороны регулирующих органов. Но непосредственной угрозы основному бизнесу компании не было. Люди будут продолжать пользоваться Facebook и Instagram, независимо от того, что они думают о компании, которая ими управляет.
Глава 19
Для внешних целей Мета покончила с Хаугеном и "Досье Facebook". Внутри же все только начиналось.
Изначально Цукерберг делегировал работу по реагированию на наши истории своим заместителям, отправив их в Вашингтон для решения проблемы противодействия. Но после первого выступления Хаугена перед Конгрессом генеральный директор обратил свое внимание на другую важную аудиторию - ту, что находится в Менло-Парке.
" Я уверен, что многим из вас было тяжело читать недавние публикации, потому что они просто не отражают ту компанию, которую мы знаем", - написал он в записке для сотрудников, которая также была опубликована в Facebook. Обвинения даже не имеют смысла, написал он: "Я не знаю ни одной технологической компании, которая ставит перед собой задачу создавать продукты, вызывающие у людей злость или депрессию".
По словам Цукерберга, он опасается, что утечка информации оттолкнет всю технологическую индустрию от честной оценки влияния своих продуктов на мир, чтобы избежать риска, что внутренние исследования могут быть использованы против них. Однако он заверил своих сотрудников, что внутренние исследования их компании останутся в силе. "Даже если нам будет проще пойти по этому пути, мы продолжим проводить исследования, потому что это правильно", - написал он.
К тому времени, когда Цукерберг дал это обещание, исследовательские документы уже исчезали из внутренних систем компании. Если бы любопытный сотрудник захотел перепроверить заявления Цукерберга о работе компании над поляризацией, например, он бы обнаружил, что ключевые данные исследований и экспериментов стали недоступны.
Начались репрессии.
Подобно тому, как на официальных фотографиях запечатлели очищенных советских лидеров, в большинстве случаев удаление информации с открытых внутренних форумов оставалось незамеченным. Но иногда исчезновения были слишком ироничными, чтобы их игнорировать. Форум для нескольких тысяч сотрудников, посвященный поиску контента, был переведен в статус "секретный", а служебная записка Кокса "Остановить линию" 2017 года - та, в которой он призывал сотрудников действовать в одностороннем порядке, если они видели, что компания не выполняет свои обязательства, - тоже была закрыта.
"Ник Клегг говорил исследователям из Central Integrity не делиться результатами исследований и экспериментов на Workplace", - написал мне один из источников в компании. "Похоже, что урок, который Facebook извлекла из утечки, заключается в том, что знание - это ответственность".
Мы с Хаугеном знали, что такой ответ последует. Нежелательные открытия и утечки информации омрачали будущее самокритичных исследований задолго до того, как она совершила набег на архивы компании, но теперь оно стремительно становилось все мрачнее.
Одной из первых жертв стало содержание ежегодного Дня исследований Facebook, внутреннего праздника, посвященного исследованиям на границах социальных наук в Интернете. Мероприятие, проводимое в стиле однодневной серии выступлений TED Talk, было запланировано на октябрь этого года. Одна из презентаций должна была быть посвящена тому, что Facebook называет "разговорными мотивами", - паттернам в обмене мнениями, по которым можно определить, насколько здоровой является беседа. Механический разбор разницы между уважительным обменом мнениями и разговором, который заканчивается словами "Пошел я? Нет, на хуй ТЕБЯ!!!", показала многообещающие результаты, позволив Facebook, среди прочего, определить, какие пользователи являются человеческими огнеметами.
Это была приятная разработка, не содержащая никаких намеков на черствость, пренебрежение или неправомерное поведение. Но, учитывая, что 20 000 страниц рабочего материала уже находились в свободном доступе, Facebook не собиралась рисковать. Команда Facebook по связям с общественностью настояла на том, чтобы работа над Conversational Motifs была исключена из программы мероприятия.
В октябре на общеорганизационном форуме исследователей пользовательского опыта Пратити Райчудхури, руководитель отдела исследований, сказала своим сотрудникам, что они стали неаккуратными и слишком напористыми в высказывании своего мнения. Кокс согласился с ней по видеосвязи. По его словам, история с психическим здоровьем подростков показала, что журналисты могут исказить результаты работы с благими намерениями. В дальнейшем, по его словам, компании придется жестче контролировать внутренние дискуссии.
Характер этих новых требований стал ясен через несколько недель в служебной записке от 1 ноября для исследователей Integrity под названием "О нарративном превосходстве". В меморандуме, написанном Рейчудхури и еще двадцатью тремя менеджерами и руководителями, говорилось, что Meta привержена "честной и критической работе над существующими процессами", но такая работа "уязвима для неверного толкования" и должна быть более "эффективной".
Далее последовало пространное руководство по самоцензуре.
Прежде чем опубликовать материал, исследователи должны "проверить его на прочность", предугадав возможные опасения со стороны политического, коммуникационного или юридического отделов компании; четко указать, что все, кроме готовых отчетов, являются предварительными; и приложить причины, по которым они могут ошибаться. Лучшие практики исследований включают ограничение аудитории материала как можно меньшим количеством людей, отказ от попыток связать проблемы на платформе с вредом в офлайне и от утверждений, что компания обязана принять меры. Ни при каких обстоятельствах, предупреждает "Руководство для сопровождающих", исследователи не должны высказывать мнение, что компания нарушает какой-либо закон.
Руководство содержало несколько кафкианских предписаний. В одной из памяток исследователям предписывалось получать специальное
