Бог, человек, животное, машина. Поиски смысла в расколдованном мире - Меган О’Гиблин
Шрифт:
Интервал:
Закладка:
Снова книга Иова: наш разум – ненадежный инструмент, Божья воля совершенна. Единственное, что мы можем сделать, – это покориться. Но на этот раз я не смогла принять этот вывод. Благодаря «Братьям Карамазовым» я поняла, что бунт Ивана вызывает у меня глубокое восхищение, равно как и бунт Иова. После обсуждения в классе я по-прежнему находила Ивана более мужественным и принципиальным, чем его набожный брат, готовым довести сложные истины религии до логического завершения и отстаивать свои глубокие убеждения. Это требовало отваги – и как же так получилось, что человеческая отвага могла казаться более совершенной, чем божественная справедливость? Я знала, как ответили бы на этот вопрос христиане: это был еще один признак слабой веры, свидетельство того, что я тоже бунтую против Бога. Но к тому моменту было уже слишком поздно. Иван показал мне выход – или, может быть, просто помог сформулировать то, для чего у меня раньше не находилось слов. Благодаря роману Достоевского я обнаружила, что у проблемы, о которой я думала в строго бинарных терминах, – «верно или одно, или другое» – есть и третье измерение. Я не могла бы спорить с божественной справедливостью или доказывать, что Бог – тиран. Но я могла бы настаивать на ценности человеческой морали. Я тоже могла бы вернуть билет.
* * *
Лишь годы спустя я поняла, что моим противником в этой борьбе был на самом деле не всемогущий Бог, а система человеческого мышления. Кальвинистский акцент на инаковости Бога, его величии и недоступности заслонял тот факт, что эта доктрина была создана и распространялась людьми, у которых были свои субъективные интересы. Неслучайно неокальвинизм с его карающим маскулинным Богом расцвел в начале двухтысячных, когда страну охватил воинственный дух и интерес к ретроградским героическим мифам. Вспоминая многословные выпады против терапевтического деизма и феминизированного Христа, в которые любил пускаться мой профессор, я не могу не замечать, как преломляется в них политика Буша, из заботливого консерватизма коллапсировавшая в безнаказанную мстительность «шока и трепета».
Чем больше мы стремимся очистить мир от своего образа, тем больше окрашиваем его человеческими недостатками и фантазиями. Чем больше мы стараемся устранить себя и свои интересы из уравнения, тем больше получаем могущественных систем, погрязших в человеческих предрассудках. В этом и состоит парадокс, на который обратила внимание Арендт в своем эссе о покорении космоса, позаимствовав его у Вернера Гейзенберга. Гейзенберг утверждал, что квантовая механика затрудняет поиски «истинной реальности», которая-де таится за воспринимаемым нами миром. Всякий раз, когда человек пытается выйти за пределы своей точки зрения, говорил Гейзенберг, он неизбежно «встречает лишь самого себя». Арендт распространяет эту идею на современные технологии. Инструменты, которые мы создаем, задумываются как совершенно объективные. Но поскольку эти инструменты сделаны по нашему образу и подобию и в определенных исторических условиях, у современного технологического субъекта «будет тем меньше шансов встретить что-либо, кроме его самого и созданных им вещей, чем сильнее он желает устранить все антропоцентрические соображения из взаимодействия с окружающим его нечеловеческим миром». Мы не оставляем попыток выйти за пределы себя и своих интересов, и все же чем больше мир наполняется нашими инструментами и технологиями, тем меньше вероятность, «что человек встретит в окружающем его мире что-то… не являющееся в конечном счете им самим в другом обличье».
Сегодня мы можем привести в пример достаточно технологий, которые отражают нас самих «в другом обличье». Хотя самые впечатляющие технологии машинного обучения часто описываются как «инопланетные» и отличные от нас, они склонны к ошибкам, которые слишком похожи на человеческие. Поскольку эти алгоритмы опираются на информацию о прошлом для прогнозирования будущего, на их решениях сказываются предрассудки, свойственные нашей общественной и социальной реальности. Алгоритмы Google показывают женщинам больше объявлений о низкооплачиваемой работе, чем мужчинам. Как выяснилось, алгоритмы службы быстрой доставки в Amazon игнорируют районы, населенные преимущественно чернокожими. Расследование журналистской НКО ProPublica показало, что COMPAS оценивает чернокожих обвиняемых как более склонных к рецидивизму. Эти системы не запрограммированы в пользу определенной расы или пола; на самом деле они даже не учитывают эти факторы в своем анализе. Но информация, на которую они ориентируются, – почтовые индексы, уровень доходов, история арестов и судимостей – часто несет на себе отпечаток исторического неравенства. В итоге решения, принимаемые машиной, усиливают существующее социальное неравенство, создавая петлю обратной связи, что еще больше затрудняет преодоление расовых и гендерных предрассудков, которые давно преследуют наше общество.
На самом деле проблема предвзятости алгоритмов уже привлекала внимание обеспокоенной публики, хотя многие из предлагаемых решений лишь еще сильнее запутывают моральную сторону дискуссии. В большинстве случаев компаниям предлагается улучшить свое программное обеспечение, чтобы оно допускало меньше ошибок, или использовать наборы данных, которые точнее отображают этническое разнообразие в стране. Последнее предложение особенно часто звучит в дискуссиях о технологиях распознавания лиц, печально известных тем, что они допускают ошибки, сканируя лица людей с черной или смуглой кожей. В 2020 году это стало причиной первого ошибочного ареста по вине алгоритма. История Роберта Джулиана-Борчака Уильямса, чернокожего мужчины из Детройта, который был арестован после того, как программа распознавания лиц ошибочно опознала в нем магазинного вора с камеры наблюдения, освещалась многими национальными изданиями, на страницах которых бесконечные эксперты-юристы заламывали руки и требовали улучшения алгоритмов. Но во многих случаях такие призывы к совершенствованию только дают добро на более широкое внедрение технологий слежения. Как отмечает Ванг в «Карцеральном капитализме», сам факт, что в некоторых местах устанавливаются системы слежения, оснащенные алгоритмами глубокого обучения, указывает, что определенные места считаются требующими надзора, – это еще один пример системной предвзятости. (Преступления, совершающиеся на Уолл-стрит или в преимущественно белых пригородах, не учитываются алгоритмами, потому что за этими районами не так пристально наблюдают.) Создание более эффективных алгоритмов неизбежно требует большего количества данных, поэтому призывы к совершенствованию технологий «используются для оправдания массовой слежки и расширения полицейских и судебных операций, которые становятся источниками данных». Этим словам вторит Хамид Хан – общественный деятель, сыгравший важную роль в том, что в 2020 году Департамент полиции Лос-Анджелеса был вынужден отказаться от использования прогностических алгоритмов. Хан утверждает, что государственная политика, направленная на обеспечение прозрачности, подотчетности и управленческого контроля, слишком часто приводит к тому, что полномочия контролирующих органов начинают неограниченно разрастаться. «Мы не боремся за объективные алгоритмы, поскольку не верим, что можно разработать объективный
