Бог, человек, животное, машина. Поиски смысла в расколдованном мире - Меган О’Гиблин

Конечно, куда проще свалить вину за несправедливость на плохо работающие алгоритмы, чем осмысленно бороться с тем, что они говорят о нас и нашем обществе. Во многих случаях картина, которую они рисуют, оказывается малоприятной. В качестве примера, который широко освещался в СМИ, можно вспомнить Tay – чатбота с искусственным интеллектом, выпущенного Microsoft в 2016 году. Тау была разработана для общения с людьми в Twitter и обучалась на основе взаимодействия с пользователями. Уже через шестнадцать часов она начала изрыгать расистские и сексистские оскорбления, отрицать Холокост и заявлять, что поддерживает Гитлера. Еще более показательным был случай с нейросетью, обученной на изображениях прошлых президентов США. Летом 2016 года эта нейросеть предсказала, что Дональд Трамп победит на предстоящих выборах. На протяжении нескольких месяцев этот факт приводился как иллюстрация того, что искусственный интеллект очень легко ввести в заблуждение. Как отметил за несколько дней до выборов один из исследователей Google, поскольку в наборе данных не было женщин-президентов, «ИИ не смог определить, что пол не является релевантной характеристикой для модели». Учитывая, что Хиллари Клинтон действительно проиграла на тех выборах и что дебаты вокруг них постоянно возвращались к теме сексизма и двойных стандартов, можно сказать, что догадка алгоритма была верной: пол действительно является релевантной характеристикой. Машина знала нас лучше, чем мы сами.

Для Арендт проблема заключается не в том, что мы продолжаем создавать вещи по нашему образу и подобию, а в том, что мы приписываем этим рукотворным объектам некую трансцендентную силу. Вместо того чтобы сосредоточиться на том, как улучшить жизнь с помощью науки и технологий, мы начали верить, что созданные нами инструменты могут открыть нам доступ к высшим истинам. Стремление отправить человека в космос стало для Арендт метафорой этой мечты о научной трансцендентности. Она пыталась представить, как должна выглядеть Земля и земная человеческая деятельность издалека, из открытого космоса:

Если из этой точки мы посмотрим вниз, на происходящее на Земле и на разнообразную деятельность людей (т. е. если мы приложим архимедову точку к себе самим), то вся деятельность людей действительно предстанет перед нами как всего лишь «внешнее поведение», которое можно изучать теми же методами, какими мы изучаем поведение крыс. Если взглянуть с достаточного расстояния, то автомобили, в которых мы путешествуем и которые, по нашему разумению, мы создали самостоятельно, будут выглядеть, как однажды выразился Гейзенберг, «частью нас самих, такой же неотторжимой, как раковина – от живущей в ней улитки». Все наше могущество сведется к какой-нибудь мутации людского рода, и мы уже не сможем им гордиться; вся техника, при взгляде на нее из этой точки, предстанет уже не «результатом сознательных стараний человека приумножить свои материальные способности», а, скорее, крупномасштабным биологическим процессом». При таких обстоятельствах речь и повседневный язык перестанут быть осмысленными высказываниями, которые выходят за пределы поведения, даже если всего лишь его выражают, и их с куда большим успехом заменит крайний и сам по себе бессмысленный формализм математических знаков[74].

Проблема в том, что позиция, столь далекая от человеческой природы, не может объяснить человеческую деятельность. Глядя на Землю из архимедовой точки, мы вынуждены рассматривать наши изобретения не как исторический выбор, а как часть неумолимого эволюционного процесса, который полностью детерминирован и телеологичен, совсем как история Сингулярности, популяризованная Курцвейлом.

В этой огромной машине мы неизбежно оказываемся всего лишь винтиками, неспособными внятно объяснить собственные действия, поскольку единственным настоящим языком оказывается язык математики, который машины понимают гораздо лучше, чем люди. Примерно об этом предупреждал Джарон Ланье в статье, написанной в ответ на предложение Криса Андерсона отказаться от научного метода и обратиться за ответами к алгоритмам. «Смысл научной теории не в том, что ее оценит ангел небесный, – писал Ланье. – Смысл в том, что она служит человеческому пониманию. Наука без поиска теорий – это наука без людей». От чего мы в итоге отрекаемся – так это от необходимости находить смысл в своих эмпирических наблюдениях и определять для самих себя, что такое справедливость, мораль и качество жизни. Мы отказываемся от этой почетной обязанности каждый раз, когда забываем, что смысл – это человеческая категория, которую нельзя свести к голым числам. Забыть об этой истине – значит использовать наши инструменты в ущерб собственным интересам: создавать по нашему образу и подобию машины, которые в ответ только дегуманизируют нас. Арендт цитирует Кафку, лаконично подводящего итог этой дилемме: человек, по его словам, «нашел архимедову точку, но использовал ее против самого себя; похоже, только на этих условиях ему и было позволено ее найти»[75].

Вирус

13

Самые удачные метафоры становятся такими распространенными, что мы перестаем их замечать. Это же относится и к идеологии: врастая в культуру, она расплывается и размывается, пока не растворится в воздухе, которым мы дышим.

Хотя в фундаменте информационной эпохи лежит цифровая технология, о ней редко говорят как о системе мышления. То, что ей не свойственны какие-либо убеждения, предпочтения или мнения, часто ошибочно понимается как свидетельство отсутствия философии, а не как основные постулаты этой самой философии. В основе этой идеологии лежит ее концепция бытия, которую можно описать как онтологию пустотности: в ней качества, содержание и значения становятся пустыми оболочками. Из этой онтологии вырастает ее эпистемология, утверждающая, что знание заключается не в самих понятиях, а в составляющих их отношениях, которые можно обнаружить при помощи искусственных сетей, не имеющих реального представления о том, что именно они обнаруживают. А поскольку человеческие отношения все прочнее и глубже вплетаются в эти глобальные сети, становится все труднее говорить о нас самих – узлах этого огромного мозга – как о живых субъектах со своими убеждениями, предпочтениями и мнениями.

Термин «вирусные медиа» был придуман в 1994 году Дугласом Рашкоффом, который утверждал, что интернет стал «продолжением живого организма», охватившим весь мир и радикально ускорившим распространение идей и культурных феноменов. Идея о том, что законы биосферы могут быть применимы к сфере данных, к тому времени уже стала общим местом благодаря теории мемов – Ричард Докинз придумал этот термин, чтобы показать, что идеи и культурные явления распространяются в популяции практически как гены. Айпод – это мем, так же как и джинсы-клеш, коммунизм и протестантская Реформация. Главное достоинство этой метафоры заключалось в том, что она объясняла, как артефакты и идеи воспроизводятся без участия сознательных субъектов. Как вирусы заражают носителей без их ведома или согласия, так и мемы имеют единственную «цель» – выживание и распространение,