Бог, человек, животное, машина. Поиски смысла в расколдованном мире - Меган О’Гиблин

ли его воля блага? Воистину ли справедлив его суд?» Иов берет на себя роль обвинителя, требуя, чтобы Бог ответил. Бог покорно предстает перед судом, но лишь для того, чтобы унизить Иова своим божественным превосходством: «Где был ты, когда Я полагал основания земли?» – громогласно спрашивает он, а затем обрушивает на Иова целый ряд вопросов, ответить на которые человек не может. Знаешь ли ты время, когда рождаются дикие козы на скалах? Входил ли ты в хранилища снега? Нисходил ли ты во глубину моря и входил ли в исследование бездны?[59] Он продолжает дальше и дальше, изображая необъятную и причудливую Вселенную, управляемую законами, которые находятся далеко за пределами человеческого понимания. Иов настолько ошеломлен, что, кажется, на мгновение сомневается в собственной невиновности – и, возможно, в собственном здравом рассудке. «Так говорил я о том, чего не разумел, – говорит он, – о вещах чудесных, которых я не знал»[60].

Проблема в том, что это не так. Причина его несчастий не была непостижимой. Она излагается в начале книги Иова простым и понятным языком. Сатана поспорил с Богом, что Иов отринет веру, если будет сильно страдать, и Бог как азартный игрок принял пари. Этому Богу – божеству, готовому играть в игры со своими подданными как будто ради собственного удовольствия, – мы, по словам Кальвина, и должны повиноваться, «не спрашивая причины». В какой-то момент поневоле задумываешься, может ли разум, столь далекий от человеческой природы, действительно заботиться о наших интересах.

* * *

В 1964 году Норберт Винер опубликовал тоненькую и чрезвычайно странную книжку под названием «Корпорация „Бог и голем“», посвященную тому, как новые технологии поднимают, по сути, религиозные вопросы. Один из таких вопросов возник в связи с машинным обучением – речь об искусственном интеллекте, который, по словам Винера, «учится или, как кажется, учится» на основе собственного опыта. Винер писал в то время, когда компьютеры только начинали играть в игры против своих создателей-людей. Большинство этих машин играли в шашки, а некоторых научили играть в шахматы, хотя они справлялись с этим не очень хорошо. Но уже тогда Винер видел проблески того, чем эти машины могут когда-нибудь стать. Один из этих играющих в шашки компьютеров, известный как машина Сэмюэла, научился одерживать верх над своим создателем. В конце концов инженер догадался, какую стратегию использовал компьютер, и смог вернуть себе преимущество, но это поставило вопрос о том, может ли машина перехитрить инженера, который ее создал. По мнению Винера, этот вопрос был по сути своей теологическим. В иудео-христианской традиции принято считать, что создатель всегда сложнее и могущественнее, чем его творение.

Тем не менее, отмечает Винер, из этого правила есть исключения – и одно из них обнаруживается в книге Иова. Он имел в виду первую главу книги, где Бог заключает пари с Сатаной за душу Иова. «Согласно ортодоксальным иудейским и христианским воззрениям, дьявол тоже сотворен Богом, как и все живое, – пишет Винер. – Такая игра изначально выглядит неравноправным соперничеством, в котором один игрок обладает сокрушительным перевесом. Ввязываться в игру со всемогущим и всеведущим Богом попросту глупо»[61]. Но он утверждает, что поражение Сатаны не было неизбежным или предопределенным.

Конфликт между Богом и дьяволом оказывается реальным конфликтом, в котором Бог выступает как нечто, не обладающее абсолютным всемогуществом. Да, он действительно вовлекается в конфликт со своим творением – и вполне может проиграть. Однако это творение создано им по его собственной воле, а значит, приобрело, по-видимому, свои способности к действиям от самого Бога. Может ли Бог вести полноценную игру со своим творением? Способен ли вообще какой угодно творец, даже ограниченный в возможностях, вести полноценную игру с собственным творением?[62]

Для Винера ответ был положительным – по крайней мере когда речь шла о машинном обучении. Эти модели не были запрограммированы на поиск оптимальных ходов: они были «знакомы» только с сутью и правилами игры. Машина делала ход без долгих раздумий, но результат каждого хода сохранялся в ее памяти. Каждому из этих прошлых решений присваивался определенный вес в зависимости от его полезности – от того, способствовало ли оно выигрышу, и этот «опыт» использовался для постоянного совершенствования стратегии. Иными словами, машина училась так же, как обычно учатся люди, – методом проб и ошибок. В отдельных случаях, отмечает Винер, решения машины казались интуитивными и даже демонстрировали «сверхъестественную хитрость». Стало очевидно, что машина овладела способностями, изначально в нее не встроенными. «Конструируя машины, с которыми он играет в игры, изобретатель присваивает себе функции творца, ограниченного в возможностях, – пишет Винер, – какова бы ни была природа создаваемых им игровых устройств. Это в особенности верно применительно к игровым машинам, которые обучаются на своем опыте»[63]. О том же, в сущности, писал Алан Тьюринг в 1951 году: «Кажется вероятным, что как только метод машинного мышления начнет работать, ему потребуется совсем немного времени, чтобы превзойти наши слабые силы».

В 1994 году компьютерная программа обыграла чемпиона мира по шашкам. Два года спустя Deep Blue обыграла Гарри Каспарова в шахматы. В 2011 году компьютер IBM Watson победил в телевикторине «Jeopardy!», разбив наголову двух многолетних чемпионов программы. Но даже после всех этих побед никто не был готов к тому, что произошло в 2016 году в Сеуле. Той весной на шестом этаже отеля Four Seasons сотни людей собрались, чтобы посмотреть, как Ли Седоль, один из ведущих мировых игроков в го, играет с AlphaGo – алгоритмом, созданным компанией DeepMind, принадлежащей Google. Го – это древняя китайская настольная игра, которая устроена гораздо сложнее шахмат; количество возможных ходов в ней превышает количество атомов во Вселенной. В середине матча AlphaGo сделал настолько странный ход, что все присутствующие решили, что это была ошибка. «Это не человеческий ход, – сказал один из бывших чемпионов. – Я никогда не видел, чтобы человек делал такой ход». В итоге этот самый ход оказался решающим. Компьютер выиграл эту партию, а затем следующую, и одержал победу в матче из пяти партий.

В основе работы AlphaGo лежит глубокое обучение – особенно мощный вид машинного обучения, который стал излюбленным инструментом для прогнозирования на основании гигантских массивов сырых данных. Кредитным аудиторам он помогает решить, одобрить клиенту ссуду или нет. ЦРУ использует его, чтобы предсказывать общественные волнения. Системы глубокого обучения применяют в службах безопасности аэропортов – для распознавания лиц на отсканированных паспортных фотографиях, в больницах – чтобы распознавать симптомы рака, и в инстаграме[64] – там они предупреждают пользователей, что размещенный материал может быть оскорбительным. Выясняется, что многое в жизни можно «геймифицировать», свести к ряду простых правил, позволяющих этим машинам