Бог, человек, животное, машина. Поиски смысла в расколдованном мире - Меган О’Гиблин
Шрифт:
Интервал:
Закладка:
Это, наверное, по-своему иронично, что именно доктрина о предопределении в итоге спровоцировала мой кризис веры. Сомнение – естественный спутник религиозности, и это был не первый раз, когда я испытывала колебания. Но после чтения Кальвина и Лютера стало невозможно не задаваться вопросом, не являются ли мои возражения против божественной справедливости доказательством того, что я сама не принадлежу к избранным. Откуда бы еще взяться таким вопросам, если только я не была в числе неспасенных? Мои сомнения стали казаться мне безвыходными. Это был замкнутый круг: сомнения подтверждали, что я проклята, каждая незначительная еретическая мыслишка, казалось, свидетельствовала о том, что я испорчена и обречена на ад. Чем более вероятной виделась мне эта судьба, тем более абсурдным казалось наказание за то, что было вне моего контроля, и это только усиливало сомнения. Учение о предопределении было похоже на китайскую ловушку для пальцев: чем отчаяннее я пыталась с ней бороться, тем более прочной и цепкой казалась ее логика.
Особенно невыносимым в этом тупике было то, что я не могла выяснить, спасена или нет. Как и многих детей из евангелистских семей, меня воспитывали в наивной вере в вечную безопасность: спасен однажды – спасен навсегда; но, по Кальвину, абсолютная уверенность была невозможна. Божественная воля оказалась «черным ящиком». Только Бог знал имена, записанные в Книге жизни, и Бог понимал, чисты ли наши побуждения, лучше, чем мы сами. Невозможно было даже узнать, были ли сами сомнения предопределены – или это мой свободный выбор. «Повседневный опыт, – пишет Кальвин в своих „Институтах христианской религии“, – приводит вас к пониманию, что ваш разум направляется скорее Божьим побуждением, нежели вашим свободным выбором». Кальвинизм отрицал не только свободу воли, но и представление о личности как таковой. Признать, что разум контролируется Богом, значит стать машиной. А еще это значит признать, что сердце – это тоже «черный ящик», полный потаенных желаний и сомнительных мотивов, истинные причины которых остаются скрытыми от сознания.
Именно об этой тревоге пишет Вебер в «Протестантской этике и духе капитализма». Протестантизм, по его словам, ввел в западную культуру незнакомое ей прежде навязчивое сомнение относительно собственного статуса в вечности. Если человек не знает, избран он или нет, то будет изо всех сил стараться вести себя так, будто избран, хотя бы для того, чтобы облегчить душу. Люди будут делать все, что от них требуется, поскольку никакие гарантии не смогут убедить их, что эти усилия окупятся. Из этого сомнения родилась уникальная энергия: протестантская трудовая этика – дух трудолюбия и самоконтроля, – которая создала необходимые условия для подъема капитализма. Но если верить моему собственному опыту, сопротивление механизмам судьбы приводит к противоположному эффекту. Если у вас есть основания полагать, что ваши худшие подозрения верны, бороться с ними становится бессмысленно.
* * *
Самый известный современный пересказ книги Иова – хотя антиутопический антураж заслонил в глазах читателей библейскую подоплеку – это «Процесс» Кафки. Роман рассказывает историю Йозефа К., анонимного банковского служащего, которого однажды утром арестовывают, не объясняя сути его преступления. Пытаясь доказать свою невиновность, он вступает в противостояние с таинственной системой правосудия, которую, кажется, не понимает никто, включая ее собственных служащих и посланцев. Судебная система имеет на него какое-то досье и пугающе подробно осведомлена о его прошлых поступках, но он так и не может понять, почему его допрашивают и в каком преступлении обвиняют. Нортроп Фрай назвал этот роман «своего рода мидрашем на книгу Иова», в котором непроницаемая природа божественного правосудия переосмысляется как бюрократический лабиринт. В XX веке новым воплощением Иеговы, скрывающегося в вихре, становится непоколебимое и угрожающее здание Государства.
Дэниел Дж. Солов, профессор юриспруденции, занимающийся вопросами конфиденциальности и сбора данных, считает, что роман опередил свое время, предсказав дилемму современного человека в мире информационных технологий.
Тревоги по поводу сбора данных и прогностической аналитики, по его словам, слишком часто облекаются в фантазии в духе Оруэлла – что государство будто бы ежеминутно следит за нашими частными жизнями, выжидая, чтобы мы обнаружили свою политическую неблагонадежность. На самом деле уместнее было бы вспомнить Кафку. Таким угрожающим бюрократическое государство делают его безликость и отсутствие внятного намерения и смысла. «В „Процессе“ изображается бюрократическая система, цели которой непостижимы и которая использует имеющиеся у нее сведения о людях, чтобы выносить решения, – но не информирует людей о том, как именно используются эти сведения, – пишет Солов. – Зло, причиняемое Йозефу К. – это зло бюрократическое: безразличие, ошибки, злоупотребления, чувство бессилия, невозможность разобраться что к чему и призвать кого-либо к ответу».
По мере распространения технологий «черного ящика» все чаще звучали требования повысить их прозрачность. В 2016 году Общий регламент Европейского союза по защите данных включил в свои положения «право на объяснение», заявив, что граждане имеют право знать причину автоматизированных решений, которые касаются их самих. Хотя в США подобных мер принято не было, технологические компании стали чаще объявлять о своей приверженности принципам «прозрачности» и «объяснимости» – хотя бы для того, чтобы укрепить доверие потребителей. Ряд компаний утверждает, что они разработали методы, которые анализируют уже проанализированное и ищут точки данных, способные повлиять на решение машины, – хотя эти объяснения в лучшем случае остаются интеллектуальными догадками. (Сэм Ритчи, бывший инженер-программист компании Stripe, предпочитает термин «нарративы», поскольку в таких объяснениях не описывается пошаговый процесс принятия решений, а выдвигается предположение о том, какую стратегию рассуждения алгоритм мог использовать.) Иногда объяснения поступают от совершенно другой системы, обученной генерировать ответы, которые должны убедительно объяснить решения, принятые первой машиной, – а на самом деле эти две системы полностью автономны и никак не связаны друг с другом. Эти объяснения только вводят в заблуждение и в конечном итоге запутывают потребителя еще сильнее. «Теперь проблема усугубляется тем, – пишет критик Катрин Пассиг, – что скрывается даже сам факт отсутствия объяснения».
Впрочем, в известном смысле дебаты о том, можно ли объяснить решения алгоритмов, – это хитрая уловка, отвлекающая внимание от реальных препятствий на пути к прозрачности, юридических и экономических. Система COMPAS, использованная в деле Эрика Лумиса из Висконсина, которому было отказано в праве знать, на основании каких критериев алгоритм приговорил его к тюремному заключению, на самом деле не принадлежала к технологиям «черного ящика»:
