Сломанный код. Внутри Facebook и борьба за раскрытие его вредных секретов - Джефф Хорвиц
Шрифт:
Интервал:
Закладка:
Дело в том, что, за исключением явных злоупотреблений, Facebook не любил рассматривать даже возможность нездоровой активности. Бежар мог бы считать успешную попытку убедить пользователей прекратить посылать случайные запросы в друзья безоговорочной победой, но команда Friending точно так не считала. Кто такой Facebook, чтобы говорить, что пользователи должны общаться только с теми, кого они знают?
Бежар понимал, что это был выбор дизайнера. Пользователи могли нажимать на газ в отношении контента, но только платформа могла нажать на тормоза. Цукерберг и другие руководители давно восхваляли достоинства контрречи как способа "поднять диалог за пределы страха, ненависти и насилия", как высокопарно говорилось в одном из объявлений компании. Как бы хороша ни была эта идея, компания не могла утверждать, что она работает. Когда пользователь спорил со страницей, разместившей неясную расистскую карикатуру, единственное, что "повышалось", - это вовлеченность.
Как только Бежар понял, что делает компания, он увидел это повсюду. Вместо того чтобы спросить пользователей, хотели бы они видеть меньше фотографий влиятельных лиц, дополненных фильтрами, Instagram предпочел бы, чтобы они выразили свои бодипозитивные чувства, пополнив сотни миллионов постов #nofilter на платформе.
"Причина, по которой люди размещают этот контент о красоте и здоровье с преувеличенным фотошопом, заключается в том, что это дает положительный сигнал, который они ищут", - сказал Бежар. "Не было никакого негативного сигнала, который позволил бы людям сказать: "Это отвратительно", чтобы платформа могла понизить рейтинг".
Бежару потребовался год, чтобы разобраться во всем этом, но он нашел свой ответ на вопрос о том, что пошло не так на платформах Facebook. Несмотря на заявленную цель уважать желания пользователей, компания управляла Facebook и Instagram в соответствии со своими предпочтениями, а не их.
Осознание этого привело Бежара к чему-то вроде экзистенциального кризиса. "Тебе говорят, что ты волшебник, что ты найдешь правильный ответ, что остальной мир просто не понимает этого", - сказал он мне. "Я купился на это с тех пор, как начал работать в Кремниевой долине, и когда я оглянулся назад, мне стало стыдно".
Однако Бежар не был готов отказаться от компании. Он решил, что посвятит себя поиску путей привлечения внимания внутренних органов к "слепой зоне" пользовательского опыта компании. Одним из вариантов было улучшение TRIPS (Tracking Reach of Integrity Problems Survey) - опроса, в котором пользователям регулярно задавались вопросы об их предполагаемой подверженности различным типам проблемного контента. Предыдущие попытки сделать TRIPS приоритетом не увенчались успехом. "Эта дорога была усеяна множеством трупов", - говорит Бежар.
Бежар предположил причину этой неудачи. Усилия Facebook по обеспечению соблюдения правил были в значительной степени нерелевантны для пользователей. Усилия по борьбе с крошечным процентом официально нарушающего правила контента не имели значения, когда большая часть того, что беспокоило людей, не относилась к этой категории. Сообщение об издевательствах - это живой опыт, а не утверждение, которое Facebook может сфальсифицировать. Если кто-то чувствовал, что контент на Instagram заставил его почувствовать неуверенность в своем теле или в своей жизни, правильным ответом было не задаваться вопросом о причинно-следственной связи.
За годы работы с высшим руководством компании Бежар знал, что лучше не подталкивать их к субъективности человеческого опыта. Чтобы иметь шанс заставить Цукерберга и других топ-менеджеров обратить внимание на "слепое пятно" компании, ему потребуются надежные данные, которые количественно определят проблему.
Так возник BEEF, сокращение от "Bad Emotional Experience Feedback". Посоветовавшись с группой инженеров-единомышленников и менеджеров по продуктам, Бежар разработал еженедельный опрос, призванный количественно оценить неприятные ощущения от Instagram, будь то нежелательное столкновение с насилием или издевательства над сверстником. Если бы компания знала, какой части подростков, как и его собственным, приходится еженедельно отбиваться от агрессивных сексуальных домогательств и словесных оскорблений в Instagram, возможно, руководители поняли бы, насколько ошибочным был их подход к управлению платформой.
"Я все время думал, что Марк и все эти люди просто не знают", - говорит Бежар.
В середине 2021 года у Бежара подходил к концу двухлетний контракт, и он готовился к последней попытке убедить руководство Facebook. История Бежара и поддержка руководителей команды Instagram Well-Being позволили ему представить свою работу непосредственно высшему руководству компании.
В начале презентации он отметил, что 51 процент пользователей Instagram сообщили, что за последние семь дней у них был "плохой или вредный" опыт общения с платформой. Но только 1 процент этих пользователей сообщил компании о неприемлемом контенте, и Instagram принял меры в 2 процентах случаев. Это означает, что платформа исправила только 0,02 процента того, что расстроило пользователей - всего один плохой опыт из каждых 5 000.
"Вероятно, в Facebook цифры примерно такие же", - отметил он, назвав статистику свидетельством того, что компания не в состоянии понять опыт таких пользователей, как его собственная дочь. По словам Бежара, сейчас ей шестнадцать, и недавно ей сказали "вернуться на кухню" после того, как она написала о машинах, а она продолжала получать непрошеные фотографии членов, которые получала с четырнадцати лет. "Я спросил ее, почему мальчики продолжают это делать? Она ответила, что если единственное, что произойдет, - это их заблокируют, то почему бы и нет?"
Два года исследований подтвердили правильность логики Джоанны Бежар. Еженедельно 24 процента всех пользователей Instagram в возрасте от тринадцати до пятнадцати лет получали нежелательные предложения, сообщила Бежар руководителям. Большая часть этих злоупотреблений не нарушала политики компании, и Instagram редко ловил ту часть, которая нарушала.
"Принуждение к соблюдению политики можно сравнить с полицией: оно необходимо для предотвращения преступлений, но это не то, что позволяет чувствовать себя в безопасном пространстве", - написал Бежар. Как бы Facebook ни хотел решить проблемы с честностью за счет снижения распространенности официально плохого контента, компании придется переориентироваться на показатели, основанные на опыте, такие как BEEF, и на усилия по внедрению социальных норм.
"Я обращаюсь к вам, потому что считаю, что такая работа потребует изменения культуры. Я знаю, что все в M-team глубоко заботятся о людях, которым мы служим, и о сообществах, которые мы пытаемся развивать", - написал Бежар.
Бежар также попытался донести эту мысль до руководителей компании в индивидуальном порядке, объяснив, что между поведением, которое Facebook считает проблемой, и тем, что воспринимают как проблему его пользователи, существует небольшая корреляция. Моссери
