Бог, человек, животное, машина. Поиски смысла в расколдованном мире - Меган О’Гиблин

достаточно расплывчатой, чтобы ее можно было трактовать и в более широком смысле – как призыв полностью игнорировать политическую реальность за пределами собственного круга знакомых. Как и большинство людей, живущих в университетских городах, я вращаюсь в довольно замкнутом кругу, где большинство людей придерживаются близких политических взглядов, – хотя даже эта среда более разнообразна, чем пузыри, в которых мы обитаем в интернете. Однажды на соседской вечеринке во дворе я услышала, как одна женщина сказала, что идея о том, будто некоторые левые в том году отказывались голосовать за кандидата от демократов, – чистая выдумка, а все, кто высказывает подобные мнения в сети, – это боты. Другая женщина, словно оправдываясь, ответила, что она сама была в числе таких избирателей.

С самого 2016 года, когда проходили президентские выборы, рядовому гражданину ни на секунду не давали забыть, что действия этих бессознательных агентов – ботов и алгоритмов – «подрывают демократию». Но разговоры об опасности, исходящей от этих механизмов, часто сводятся к обсуждению самых непосредственных и очевидных последствий. Проблема не только в том, что роботы формируют общественное мнение. Гораздо серьезнее то, что стало невозможно отличить политическое волеизъявление реальных людей от идей, которые бездумно распространяются машинами. Появившийся в результате этой неопределенности эпистемологический разрыв до невозможности затрудняет поиск ответственных и позволяет забыть, что эти неприятные идеи высказываются и распространяются людьми, принадлежащими к нашей демократической системе, – а это серьезная, глубоко укоренившаяся проблема, у которой нет быстрых и однозначных решений. Вместо того чтобы признать этот факт, мы все больше сходимся во мнении, что во всем виноваты социальные сети, хотя никто не может прийти к единому мнению о том, где именно кроется проблема. Алгоритмы? Структура платформ? Отсутствие цензуры и вмешательства? О разжигании ненависти часто говорят теми же словами, что и об ошибках в коде: по высказываниям высокопоставленных менеджеров различных онлайн-платформ, это «кошмар модератора» и «одна из самых насущных проблем индустрии», которую необходимо решать, внедряя «новые технические инструменты», причем большинство из них направлены на то, чтобы эта «проблема» не отпугивала рекламодателей. Такие разговоры лишь укрепляют общественность в мнении, что мрачное интернет-подполье, кишащее экстремистами, иностранными агентами, троллями и роботами, – это эмерджентная характеристика самой системы, фантом, таинственным образом возникающий из кода, как сказочное чудище, восстающее из морских глубин.

Самого Дональда Трампа – человека, которому машины, возможно, помогли прийти к власти, часто описывают как часть этого цифрового фантома, как эмерджентный феномен, порожденный головокружительными мощностями системы. Его называют политиком, лучше, чем кто-либо еще, понимающим или, по крайней мере, интуитивно чувствующим, как манипулировать системой, работающей на пустых знаках, – системой, которая стала настолько независимой от семантического смысла, настолько сведена к синтаксису, что в нее можно закинуть несколько ничего не значащих фраз (журналистка Маша Гессен называет их «словесными нагромождениями») и тем самым повернуть нарратив в другую сторону. Известный нейробиолог Роберт А. Бертон заявлял, что Трамп так хорошо разбирается в алгоритмах, поскольку сам является алгоритмом. В статье 2017 года, опубликованной в The New York Times, Бертон писал, что действия и высказывания президента становятся гораздо понятнее, как только вы перестаете воспринимать его как человека и начинаете видеть в нем «рудиментарную обучающуюся машину на основе искусственного интеллекта». Подобно системам глубокого обучения, Трамп действовал вслепую, методом проб и ошибок, запоминая ходы, которые хорошо сработали в прошлом, и используя их для оптимизации своей стратегии – совсем как AlphaGo, система искусственного интеллекта, выигравшая чемпионат по игре в го в Сеуле. Поведение AlphaGo казалось нам таким необъяснимым и иррациональным, потому что мы постоянно пытались антропоморфизировать алгоритм, объясняя его действия различными намерениями или идеологическими причинами, – как будто за ними стояла какая-то продуманная программа действий. Системы искусственного интеллекта добиваются таких головокружительных успехов, поскольку не обременены никакими рациональными или моральными дилеммами – им не нужно думать о том, что является социально приемлемым, или учитывать возможные последствия. У них одна цель – победа, и пути достижения этой непреложной, единственной цели постоянно корректируются благодаря положительной обратной связи. Бертон советует историкам и политикам рассматривать Трампа как «черный ящик». «Поскольку за действиями сети не стоит какая-то связная цепь рассуждений, – пишет он, – невозможно провести обратный инжиниринг и выяснить, „почему“ принято то или иное решение».

* * *

Но все же, несмотря ни на что, было в той весне что-то странно чудесное: почти неуловимое ощущение, которое трудно выразить словами и которое возникало лишь на короткое время, в паузах между нараставшими волнами паники. Оно было как-то связано с окутавшей мир тишиной: с пустыми улицами, еще недавно кипевшими движением, с темными витринами магазинов и ресторанов, с неподвижностью, казалось, разлившейся по самому воздуху, качество которого, как утверждали, улучшилось, поскольку люди стали сжигать меньше топлива. Думаю, это было чувство удивления от того, что вся эта сложная система – все переплетающиеся сети, цепочки поставок и глобальные потоки капитала – была приостановлена из-за простой необходимости защищать человеческие жизни. Нас уверяли, что это невозможно, но, когда пришло время, так и произошло. Мы просто выдернули вилку из розетки. Это было подтверждение, что жизнь – цель, а не средство. Еще одно подтверждение этому лозунгу появится летом того же года, во время протестов после убийства Джорджа Флойда, – убедительности и ярости этому восстанию против системного расизма и исторического неравенства придавало возмущение тем, с какой легкостью можно отнять у человека жизнь.

Когда студенты разъехались, университетский городок превратился в мертвую зону из бруталистских зданий и запущенных газонов. Ходить среди теней этих пустующих домов – все равно что бродить по руинам погибшей цивилизации; единственным признаком жизни был случайный робот-доставщик, все еще развозивший заказы. В какой-то момент люди начали осторожно выглядывать на улицу, и тогда – в промежуток длительностью не более чем в пару недель, когда время казалось богаче и многослойнее, чем мы могли представить себе раньше, – между нами возникло чувство общности, искреннее и прочувствованное тепло. Мы с мужем каждый день совершали долгие прогулки, неизбежно сталкиваясь со знакомыми, которые, как и мы, изголодались по человеческому общению, и когда мы беседовали в лучах заходящего солнца, гладили их собак и разговаривали с их детьми, часто казалось, что мы находимся вне времени. В эти несколько недель я замечала, что необычно эмоционально реагирую на самые простые, незначительные вещи – ролики с итальянцами, поющими на своих балконах во время карантина, фотографии пожилых пар, обменивающихся поцелуями сквозь пластиковые больничные перегородки, – эти образы напоминали об истинах, которые современная жизнь вынудила нас забыть. Мы так беззащитны. Мы живем в хрупких телах, которые неизбежно умрут, и эти образы однажды станут единственным, что от нас останется.