Бог, человек, животное, машина. Поиски смысла в расколдованном мире - Меган О’Гиблин

научился распознавать лица и устанавливать зрительный контакт с людьми. Он умел бросать и ловить мяч, показывать на предметы и играть с пружинкой-слинки. Когда команда института играла рок-музыку, Винтик отбивал более или менее правильный ритм на барабане. Иногда робот демонстрировал «эмерджентное» поведение – новые действия, которые, казалось, естественным путем развивались из спонтанных реакций машины на окружающий мир. Как-то раз одна из аспиранток Брукса, Синтия Брези́л, встряхнула губку для маркерной доски; Винтик потянулся и дотронулся до нее. Удивленная, Брезил повторила свое действие, и Винтик снова прикоснулся к губке, как будто это была игра. Брукс был ошеломлен. Казалось, робот понял, что значит «действовать по очереди» – а ведь он не был запрограммирован на это. Брезил это было известно – она участвовала в разработке робота. Но на мгновение она, казалось, забыла об этом и, как выразился Брукс, «вела себя так, словно Винтик был чем-то бо́льшим, чем на самом деле». По словам Брукса, именно готовность Синтии воспринимать робота как «нечто большее, нежели то, чем он был на самом деле», вызвала в нем неожиданную реакцию. «Винтик оказался способен функционировать на более высоком уровне, чем предполагала его архитектура», – сказал он.

У Брезил тоже случилось прозрение: для того чтобы машины стали разумными, с ними нужно обращаться так, будто они разумны. Подобно тому как матери разговаривают со своими детьми, хотя и знают, что те пока не могут их понимать, социальное взаимодействие с роботами может помочь им развить те самые качества – намерения, желания, самосознание, – которые им ошибочно приписывают. Проблема с Винтиком состояла в том, что выглядел он довольно угрожающе: робот был очень высоким, и у него не было полноценного лица, поэтому люди не хотели относиться к нему как к человеку. Тогда Брезил решила создать своего собственного робота. Она взяла одну из запасных голов Винтика и внесла несколько важных изменений: удлинила шею, сделала розовый, похожий на ленточку рот и огромные голубые глаза, напоминавшие ей о малыше с этикетки детского питания «Гербер». Система моторов позволяла роботу поднимать брови и выразительно кривить губы.

Брезил назвала своего робота Кисмет. Она запрограммировала его таким образом, чтобы он мог распознавать в человеческом голосе эмоции – угрозу, спокойствие, заинтересованность – и реагировать на них соответствующим образом. Она разработала для робота протоязык – гибкий лексикон фонем без заранее установленных грамматических правил, похожий на детский лепет. Его голосовой синтезатор мог изменять высоту тона, длительность и интонацию «высказываний» в соответствии с эмоциями, которые он улавливал в голосе Брезил. Когда журналисты посещали лабораторию, они обычно отмечали, что она разговаривает с машиной как с маленьким ребенком. Брезил часто ловила себя на том, что разрывается между тем, что объективно знает о Кисмете, и тем, какие чувства тот у нее вызывает. Однажды она призналась журналисту, что скучает по роботу, когда ей приходится покидать лабораторию на целый день. «Мне почти стыдно говорить о Кисмете, – сказала она, – поскольку людям кажется странным, что я так привязалась к своему роботу».

Познакомившись с этими историями, я сразу вспомнила, какое тепло и материнскую заботу испытывала по отношению к Айбо. Но, увидев фотографии Кисмета в интернете, не почувствовала ни капли той нежности, которую Брезил, по ее словам, испытывала к своему созданию. Черты робота походили на человеческие лишь в самом общем смысле. У него не было кожи или имитирующей кожу гладкой поверхности: его лицо представляло собой сложную конструкцию из металлических элементов, к которым были кое-как прикручены губы и глаза, – как будто во время сборки о них забыли и приделали наспех в самом конце. Вероятно, эффект «жизнеподобия» – что бы это ни означало – появлялся в ходе живого взаимодействия с роботом. Возможно, мы действительно начинаем воспринимать объекты как личности, когда нам приходится вступать с ними в социальную связь, и появление интеллекта во многом зависит от нашей готовности относиться к объекту так, как будто он похож на нас. Именно это и утверждала теория Брукса о распределенном интеллекте. Сознание не «содержится» в мозге, как какое-то химическое вещество, оно возникает в ходе сложных взаимоотношений между субъектом и окружающим миром: отчасти алхимический процесс, отчасти иллюзия, отчасти – продукт совместной работы, в которой границы между «я» и «другим» стираются или переопределяются. Как выразился Брукс, «разум – в глазах смотрящего».

* * *

Я заинтересовалась эмерджентностью за несколько лет до описываемых событий: эта идея показалась мне убедительной альтернативой редукционистскому материализму – то есть представлению о том, что любое явление можно объяснить, разобрав его на самые простые составные элементы. В науках о разуме такой ход мысли слишком часто приводил к абсурдному выводу: поскольку сознание нельзя наблюдать внутри мозга, его не существует. Эмерджентисты, напротив, считают, что сложную динамичную систему во многих случаях нельзя объяснить, обратившись к ее составным частям. Нельзя просто заглянуть в мозг с помощью магнитно-резонансного томографа и выделить определенную область или систему, отвечающую за сознание. Сознание – это структурный паттерн, возникающий на базе всей сложной системы, включая те ее элементы, которые не заключены в мозге, а распределены по телу.

Хотя в основе эмерджентизма лежит физикализм, критики часто обвиняют эмерджентистов в мистическом мышлении – особенно когда утверждается, что эмерджентные системы более высокого уровня способны контролировать или направлять физические процессы. Философ Марк А. Бедау, занимающийся проблемами искусственного интеллекта, утверждает, что идея эмерджентности в крайних своих вариантах «подозрительно напоминает магию», так как предполагает, что нематериальное свойство (сознание) способно каким-то образом воздействовать на материальную субстанцию (мозг). Более того, мало кому из эмерджентистов удалось сформулировать, какие именно структуры могут породить сознание у машин. Иногда утверждается, что сознание – это попросту одно из свойств, присущих «сложным» системам, но что именно представляет собой «сложность», остается под вопросом. Некоторые критики утверждают, что под вывеской «эмерджентизм» скрывается старый добрый витализм – учение о том, что мир приводится в движение некоей «жизненной силой» или «энергией», пронизывающей все сущее.

Вплоть до XVII века витализм был онтологическим стандартом практически во всех человеческих культурах: в большинстве случаев живительной силой считалась душа, которой наделены все существа, обладающие признаками жизни. Только после Декарта витализм пришлось оформить как научную теорию, опровергающую популярное мнение, что люди – это просто машины. Виталисты настаивали на том, что организм – нечто большее, чем совокупность его частей, что помимо физической структуры в нем должен существовать некий «жизненный принцип», или е́lan vital. Эта теория была убедительной отчасти потому, что интуитивно казалась верной. Машина всегда остается просто машиной, но мертвое животное – даже если все его физические органы остались нетронутыми – явно лишено чего-то, что когда-то делало его