Сломанный код. Внутри Facebook и борьба за раскрытие его вредных секретов - Джефф Хорвиц

На самом деле история оказалась более скучной, чем можно было предположить из ежедневного потока новостей того времени. Начиная с 2010 года, Facebook разрешил сторонним разработчикам получать доступ к данным из профилей пользователей Facebook, когда они использовали продукты разработчиков. Эта информация включала в себя не только активность самого пользователя, но и его друзей, включая посты, фолловеров и лайки. Когда в последующие годы стало известно об ужасной практике компании в области конфиденциальности данных, Facebook закрыл доступ к "открытому графу", но ранее полученные данные оказались не в ее руках. Cambridge Analytica приобрела именно такие данные и использовала их для создания "психографических профилей" - туманного термина, который подразумевает возможность глубокого, почти подсознательного психологического манипулирования с помощью "поведенческого микротаргетинга". Нет никаких признаков того, что кампания Трампа когда-либо использовала эту информацию, или что она была бы очень полезной, если бы использовала - данные, которыми располагала Cambridge Analytica, были частичными и двухлетней давности, что является пожизненным сроком для целей таргетинга рекламы.

По мнению Барнса и Харбата, самая глубокая ирония заключается в том, что Facebook сама с радостью предоставила бы возможность нарезать демографические данные на кусочки, которые Cambridge Analytica якобы делала с похищенными данными. Платформа уже давно предоставляет крупным рекламодателям возможность таргетировать пользователей с помощью данных, которые платформа не предоставляла малому бизнесу - торговые представители создавали такую аудиторию на заказ, используя данные, не входящие в меню, по запросу клиента. Часть работы Барнса в Сан-Антонио заключалась в создании таких аудиторий на заказ для кампании Трампа, как и другие сотрудники Facebook делали это для таких клиентов, как Coca-Cola. Один из бывших руководителей, участвовавший во внутреннем анализе ситуации с Cambridge Analytica, сказал об этом так: "Если бы кампания хотела, чтобы Facebook создал индивидуальную коллекцию психологических профилей, им бы не пришлось получать ее от гребаного британского академика-хакера".

Хотя у Facebook было достаточно оснований подозревать, что Cambridge Analytica продавала "змеиное масло", неопределенность в отношении того, какими данными обладала Cambridge Analytica и как они были использованы, не позволяла компании убедительно утверждать, что скандал не был большим делом. Сочетание технологий, скрытных миллиардеров и наемников - один из руководителей Cambridge Analytica был пойман за обсуждением возможности заманивания политических лидеров за границей с помощью проституток - отразило конспирологический характер мышления того времени. Он связал все ниточки вместе во всеобъемлющую, хотя и не совсем правдоподобную теорию о том, как злоупотребляли социальными сетями, манипулировали избирателями, и Трамп был избран - и все это с помощью Facebook.

Независимо от того, оказала ли Cambridge Analytica какое-либо влияние на американскую политику, последствия скандала сразу же ощутились внутри Facebook. За несколько месяцев до скандала глава команды Facebook по развитию рекламного бизнеса Роб Голдман уже добивался прекращения отношений Facebook с крупными сторонними брокерами данных, которые предоставляли таргетированную информацию для рекламодателей, утверждая, что это представляет риск для конфиденциальности Facebook и ее пользователей. Спор поднялся до уровня Сэндберг. Она выслушала Голдмана, но решила, что данные об автономной жизни пользователей слишком ценны, чтобы от них отказываться. Когда вскрылась история с Cambridge Analytica, на следующий день она изменила свое мнение.

-

В то время как высшее руководство Facebook пыталось отразить один скандал за другим, его инженерные команды были заняты тем, что пытались предотвратить новые. Особое беспокойство Карлоса Гомеса-Урибе, мексиканского специалиста по машинному обучению, вызывало то, что можно было бы назвать проблемным контентом. Другими словами, это тот хлам, который теперь регулярно засоряет ленты пользователей.

Гомес-Урибе был принят на работу в Facebook в январе 2017 года для руководства рекомендациями в ленте новостей. Он хорошо зарекомендовал себя в Google, а затем в Netflix, куда пришел в 2010 году, как раз когда компания переходила от почтового проката DVD к потоковому видео, чему отчасти способствовала знаменитая рекомендательная система компании. Используя миллиарды данных о прокате и рейтингах пользователей, компания предлагала персонализированные подборки фильмов, что выгодно отличало ее от конкурентов.

Но Гомес-Урибе, нанятый в качестве специалиста по статистике, считал, что подход компании слишком прост. У Netflix был самый полный в мире набор данных о вкусах людей в кино, а она все еще давала рекомендации на основе пятизвездочной шкалы, которую критик газеты New York Daily News придумал в 1929 году. Когда он сказал менеджеру, отвечавшему за эту систему, что считает, что может сделать лучше, тот дал ему шанс доказать свою правоту или умереть, пытаясь это сделать.

Менее чем за неделю Гомес-Урибе создал черновой прототип рекомендательной системы, которая обещала превзойти ту, на создание которой инженеры Netflix потратили годы.

Новая модель, появившаяся в результате этой работы, в значительной степени основанная на методах машинного обучения, изучила все имеющиеся у компании поведенческие данные, чтобы не просто угадать, какие сериалы могут понравиться пользователю, но и определить, какие именно варианты ему нужны в данный момент. Рекомендации менялись в зависимости от времени суток, склонности пользователя к просмотру и даже географических тенденций. Если на Флориду надвигается сильный ураган, Netflix предложит "Идеальный шторм" и "Шаркнадо".

Гомес-Урибе отклонил предложения о работе от Facebook в первые годы развития машинного обучения, но после выборов 2016 года он пересмотрел свое решение и предложил работу по очистке рейтинга ленты новостей. Должность директора, которую ему предложили, была бы существенным шагом вниз для вице-президента Netflix со штатом в сотню человек, но проблемы казались интересными, и Гомес-Урибе решил, что Facebook нуждается в помощи.

Терпение не относится к числу сильных сторон Гомеса-Урибе, и он согласился с одним условием: ему нужны были гарантии, что он сможет существенно изменить продукт, как это было в Netflix. Потоковый сервис, безусловно, заботился о показателях - например, повышал вовлеченность пользователей с помощью рекомендаций. Подписчики, которые смотрели больше телевизора, с большей вероятностью продолжали платить за сервис. Но цель заключалась в создании долгосрочной стоимости, а это не так просто оценить количественно. Например, его команда могла бы переработать предложения Netflix таким образом, чтобы сократить количество ежедневных входов в систему, если бы для этого было веское обоснование. Позволит ли это Facebook?

На встрече с Цукербергом Гомес-Урибе пытался выяснить, насколько искренне Facebook настроен пересмотреть свои алгоритмы. Как отреагирует Цукерберг, если очистка News Feed будет происходить за счет традиционных показателей роста компании?

"Если вы найдете хорошие подходы, которые значительно улучшат целостность за счет вовлеченности, это прекрасно - мы их запустим", - вспоминает Гомес-Урибе слова Цукерберга. "Потому что я также предполагаю, что команда Growth