Фиаско - Станислав Лем

Машина, запрограммированная так, чтобы никто, включая и ее творца, не мог отличить ее при интеллектуальном контакте от домохозяйки или от профессора международного права, является их имитатором, неотличимым от обычных людей, пока кто-нибудь не попытается жениться на этой женщине и иметь от нее детей, а профессора пригласить на завтрак. Если же ему удастся завести от нее детей, а с профессором съесть continental breakfast[47], то, следовательно, он имеет дело с окончательным стиранием грани между естественным и искусственным — но вот что из того? Можно ли производить искусственные звезды путем сидеральной инженерии, причем абсолютно идентичные космическим? Можно. Непонятно только, зачем понадобилось бы их сотворять. Историки кибернетики признали, что ее праотцам светила надежда разрешить загадку сознания. Конец этой надежде положил успех, достигнутый в середине XXI века, когда компьютер тридцатого поколения, необычайно разговорчивый, интеллигентный и смущающий собеседников своим умственным человекоподобием, спросил их однажды, знают ли они, что такое сознание в том смысле, который обычно придают этому определению, ибо он сам этого не знает. Это был компьютер, способный к самопрограммированию, и, выбравшись из начальных условий, как дитя из пеленок, он настолько развил в себе способность к имитации человека-собеседника, что его никак не удавалось «разоблачить» как машину, которая притворяется человеком, не будучи им. Однако это ни на волосок не приблизило ученых к разгадке тайны сознания, поскольку машина в этом вопросе знала столько же, сколько и люди. Да и как могло быть иначе? Они получили результат действия «самоантропизирующейся» программы, которая знала о сознании то же самое, что и они. Один выдающийся физик, присутствовавший при этой дискуссии, сказал, что машина, которая мыслит так же, как человек, знает о механизме собственного мышления столько же, сколько человек, то есть ничего. Может быть, из ехидства, а может быть, желая подсластить пилюлю, он рассказал разочарованным триумфаторам, что с подобными трудностями столкнулись его коллеги по профессии, когда век назад решили припереть материю к стенке, чтобы она призналась, является ее природа волновой или дискретной. Материя оказалась, увы, коварной: она зловредно запутала результаты экспериментов, в ходе которых выяснилось, что она может быть и такой, и такой, а под перекрестным огнем дальнейших исследований окончательно сбила их с толку, ибо чем больше о ней узнавали, тем меньше это вязалось не только со здравым смыслом, но и с логикой. Наконец они были вынуждены согласиться с ее признаниями: частицы могут быть волнами, волны — частицами; абсолютный вакуум не является абсолютным вакуумом, потому что в нем полно виртуальных частиц, которые делают вид, что их нет; энергия может быть отрицательной, и, таким образом, энергии может быть меньше, чем ничего; мезоны в пределах гейзенберговской неопределенности проделывают обманные трюки, нарушая священные законы сохранения, но так быстро, что никто их на этом мошенничестве не может поймать. Все дело в том, успокаивал своих собеседников этот выдающийся физик, лауреат Нобелевской премии, что на вопросы о своей «окончательной сущности» мир отказывается давать «окончательные» ответы. И хотя уже можно действовать гравитацией, как дубинкой, никто по-прежнему не знает, «какова сущность» гравитации. Поэтому нет ничего удивительного в том, что машина ведет себя так, будто обладает сознанием, но для того, чтобы выяснить, такое ли оно, как у человека, пришлось бы самому переделываться в эту машину. В науке необходима сдержанность: есть вопросы, которые нельзя ставить ни себе, ни миру, а тот, кто их все-таки ставит, подобен тому, кто недоволен зеркалом, которое повторяет каждое его движение, но не желает ему объяснить, каков волевой источник этих движений. Несмотря на это, мы пользуемся зеркалами, квантовой механикой, сидерологией и компьютерами с немалой для себя пользой.

Темпе не раз заходил к Герберту, чтобы побеседовать на подобные темы, а именно об отношении людей к GOD'у. На этот раз он пришел к врачу с тревогой более личного свойства: он не был склонен к откровенничанию даже с человеком, вернувшим ему жизнь, — а может быть, именно потому, словно считал, что обязан ему слишком многим. Он вообще держал при Герберте язык за зубами и остерегался его с тех пор, как на «Эвридике» узнал от Лоджера секрет обоих врачей — не покидающее их чувство вины. К этому визиту подтолкнуло его не само отчаяние, а то, что оно явилось неизвестно откуда, внезапно, как болезнь, и он утратил уверенность, может ли дальше исполнять свои обязанности. Он не имел права это скрывать. Чего стоило ему это решение, он понял, только открыв дверь: при виде пустой каюты почувствовал облегчение.

Хотя корабль двигался без тяги и в нем царила невесомость, командир приказал всем приготовиться к возможному в любую минуту гравитационному скачку — то есть закрепить подвижные предметы, а личные вещи запереть в стенных шкафах. Несмотря на это, каюта была в беспорядке: книги, бумаги, стопки снимков не были убраны, лишь кое-как зафиксированы, а это не вязалось с обычной, граничившей с педантичностью, аккуратностью Герберта в наведении порядка. Затем Темпе увидел и его самого через огромное окно во всю стену: врач ползал на коленях в своем саду за стеклом, накрывая кактусы пластиковой оболочкой. Объявленную готовность он начал выполнять именно с этого. Темпе через коридор добрался до оранжереи и пробормотал какое-то приветствие. Тот, не оборачиваясь, отстегнул ремень, прижимавший его колени к земле — настоящей земле, — и так же, как гость, поднялся в воздух. В другом конце сада по наклонной сетке вились растения с мелкими, похожими на мох листьями. Темпе уже не однажды хотел спросить, как эти вьюнки называются — он не смыслил в ботанике, — но каждый раз забывал. Врач, не говоря ни слова, бросил лопатку так, что она воткнулась в газон, и воспользовался импульсом, который себе придал, чтобы потянуть за руку пилота. Оба отлетели в угол, где в гуще орешника стояли плетеные кресла, вроде садовых, но снабженные поясами безопасности.

Пока они усаживались и Темпе думал, с чего начать, врач сказал, что уже ожидал его. Тут нечему удивляться: «GOD видит всех».

Данные о психическом состоянии получают не прямо от машины, а через врача, чтобы избежать синдрома Хикса — чувства полной зависимости от главного бортового компьютера, которое может привести к тому, чему и должен воспрепятствовать психиатрический надзор. К мании преследования и к другим параноидальным явлениям. Кроме психоников, никто не знает, в какой степени каждый человек «психически прозрачен» для следящей программы, так называемого духа Эскулапа в машине. Нет ничего проще, чем спросить об этом у них, однако установлено, что даже психоники плохо переносят такие откровения, когда им говорят о них самих, и уж тем более плохо влияет это на дух команды во время дальних полетов.