Бог, человек, животное, машина. Поиски смысла в расколдованном мире - Меган О’Гиблин
Шрифт:
Интервал:
Закладка:
На самом деле отвергать эмерджентизм как чистой воды магическое мышление – значит игнорировать существенные расхождения, отличающие его от фольклора. Если заглянуть за мистический фасад, становится ясно, что эмерджентизм зачастую не так уж сильно отличается от самых редукционистских форм материализма, особенно в отношении человеческого разума. Интеллект растений иногда называют «гениальностью без мышления», и, по мнению многих эмерджентистов, мы в этом смысле мало чем от растений отличаемся. Мы не рациональные мыслящие субъекты, а смешение конкурирующих систем, которые не составляют никакого единства и целостности. Мински однажды сравнил устройство человеческого разума с «бюрократическим хаосом», где одно «ведомство» понятия не имеет о действиях другого. Вот как он описывает, например, решение отпить чай из чашки: «ХВАТАТЕЛЬНЫЙ координатор хочет, чтобы вы удерживали чашку в руке. Координатор БАЛАНСА хочет, чтобы вы не пролили чай. Координатор ЖАЖДЫ хочет, чтобы вы выпили чай. ДВИГАТЕЛЬНЫЙ координатор хочет, чтобы вы поднесли чашку к губам». Так же как интеллект пчелиного улья или дорожного движения возникает только на уровне паттерна, организующего пассивные элементы, так и человеческое сознание является всего лишь абстрактными отношениями на пересечении всех этих систем: добравшись до самого низкого уровня интеллекта, вы неизбежно обнаружите механизмы, которые, как выразился Мински, «вообще не умеют думать». В этой модели нет места тому, что мы обычно считаем внутренним опытом или самостью. Историк науки Джессика Рискин утверждает, что эмерджентные теории разума в итоге отрицают само явление, которое призваны объяснить: «Добравшись до этих базовых элементарных механизмов, мы сразу обнаруживаем, что сама идея о разуме как свойстве сознания оказывается бессмысленной».
Даже Брукс с его демиургическими проектами по оживлению роботов называл сознание «дешевым трюком», иллюзией, которая существует только в глазах смотрящего. «Наблюдатель, следящий за системой, – писал он об одном из своих роботов-насекомых, – может с легкостью приписать ей более сложную внутреннюю структуру, чем та, которой она обладает на самом деле. Можно подумать, будто Герберт занимается картографированием местности и заранее строит маршруты, но это не так». Даже самостоятельность, которую иногда демонстрировал Винтик, можно было назвать агентностью или проявлением личной воли только потому, что ее приписывал роботу наблюдатель-человек. Это касается и самих людей: об их сознании можно судить, опираясь исключительно на действия, которые они совершают. В конце концов, ни Брукс, ни Тьюринг не пытались создать машины, обладающие разумом или душой; скорее они стремились показать, что ни разум, ни душа не требуются для того, чтобы машина вела себя «по-человечески».
Исследования искусственного интеллекта, как и исследования интеллекта растений, часто критикуют за антропоморфизм, но за этими упреками стоит непонимание того, как работают метафоры. Популяризаторы идеи о распределенном интеллекте стремятся не спроецировать человеческие качества на неодушевленные объекты, а, скорее, пересмотреть представления о человеческом интеллекте сквозь призму неодушевленных систем. Совсем как Брукс, утверждавший, что мы «слишком уж очеловечиваем людей… которые, в конце концов, являются просто машинами», сторонники изучения растительного интеллекта настаивают, что их цель – отойти от представлений, будто человеческая субъективность чем-то отличается от таковой у других видов. Итальянский эколог Моника Гальяно, прославившаяся своими опытами по изучению «поведения» растений, отмечает: хотя ее регулярно критикуют за антропоморфизацию растений, ее намерения прямо противоположны. «Я заинтересована в фитоморфизации человека, – пишет она. – Мне хочется, чтобы люди стали сильнее походить на растения».
Если воспринимать такие начинания всерьез, нам неизбежно придется расширить значение терминов, которые обычно понимаются более узко. Если «интеллект» подразумевает абстрактное мышление, идея о том, что им обладают растения, звучит нелепо. Но если этот термин означает всего лишь способность решать проблемы или адаптироваться к определенной среде, то нельзя сказать, что растения не способны к интеллектуальной деятельности. Если «сознание» – это способность к осмыслению окружающего мира и своего «я», никто не станет утверждать, что машины обладают такой способностью. Но если сознание – это просто восприятие окружающей среды или, как уже давно принято считать в сфере искусственного интеллекта, способность к поведению, которое выглядит осознанным и преднамеренным, становится сложнее настаивать, что оно свойственно только человеку и другим животным. Хотя такой пересмотр терминов призван сделать наш язык более гибким и инклюзивным, он коренным образом меняет то, как мы понимаем эти качества по отношению к самим себе. Это рискованная онтологическая сделка: предполагается, что если мы хотим пребывать в единстве с миром природы, то должны свести наше понимание человечности к примитивной схеме обмена информацией, которую можно приложить к чему угодно.
* * *
В итоге надежды, которые Брукс возлагал на свои машины, не оправдались. Хотя у Винтика действительно появился ряд спонтанных способностей, вопреки ожиданиям его создателя до более сложных умений дело так и не дошло. Робот по-прежнему не умел выбирать между разными действиями – повернуться, чтобы рассмотреть лицо, или схватить предмет? – и часто выглядел растерянным или сбитым с толку. В какой-то момент Брукс признал, что роботу не хватает «согласованности», – и это неудивительно, если учесть, что его изначально разрабатывали без центрального управления. Даже самые совершенные роботы Массачусетского технологического института так часто давали сбои и не могли справиться с элементарными задачами, что в 2007 году в статье в New York Times утверждалось: они «похожи не столько на самостоятельных разумных существ, сколько на причудливых марионеток, которые часто выходят из строя».
Несмотря на все усилия Брезил, Кисмет так и не научился говорить. В 2001 году Брукс заявил, что робот умеет произносить несколько английских слов, которые выучил в ходе естественного овладения языком. Но в том же году, когда исследовательница технологий Шерри Тёркл привела в лабораторию Массачусетского технологического института группу детей, Кисмету не удалось наладить с ними осмысленное общение. Тёркл вспоминает, что дети представились роботу и начали задавать ему вопросы. Они обнимали и целовали его, показывали ему погремушки и другие штуковины. Робот заглядывал им в глаза и бессвязно лепетал на своем бессмысленном языке, но так и не смог ответить на их вопросы или повторить слова, которым они пытались его научить.
В конце концов Брукс усомнился, что метафора компьютера, на которой он
