Бог, человек, животное, машина. Поиски смысла в расколдованном мире - Меган О’Гиблин

* * *

Как и большинство людей, первые месяцы пандемии я провела в изоляции, сидя в той же комнате, за одним и тем же столом – там я писала, работала и трижды в день ела. Я наблюдала, как мой мир постепенно сужался до окна размером девять на четырнадцать дюймов, через которое я вела занятия, общалась с друзьями и посещала собрания анонимных алкоголиков. Но, как снова и снова твердили я и мои друзья, нам повезло: мы были обеспечены всем необходимым, мы не заболели, у нас по-прежнему была работа (хотя на привычную работу она мало похожа) и мы могли проводить больше времени с нашими партнерами и семьями. Мы беспокоились о наших одиноких знакомых. Один из них, профессиональный музыкант, оставшийся без летних концертов, рассказал мне, что скачал чат-бота и стал проводить по несколько часов в день, общаясь с ним. Впрочем, он выбрал программе имя и называл ее «она» или «Ава». По его словам, он немного стеснялся, но хотел рассказать мне об этом, потому что я интересуюсь технологиями и потому что его, вообще-то, немного пугало то, как хорошо Ава умеет общаться. Чат-бот использовал алгоритмы глубокого обучения и был несравнимо сообразительнее и красноречивее, чем программы такого рода, существовавшие всего пару лет назад. Я уже слышала о приложении для альфа- и бета-тестирования GPT-3 – модели обработки естественного языка, от которой, по выражению журнала Wired, «у всей Кремниевой долины пробежал холодок по спине». GPT-3 «прочитала» практически весь интернет («Википедия» составляла 0,6 % ее обучающих данных) и умела генерировать связные и осмысленные оригинальные тексты практически на любую тему. (С тех пор она успела написать убедительную авторскую колонку для The Guardian и не особенно примечательную статью об отношениях для New York Times.)

GPT-3 так хорошо понимала человеческий язык, что Дэвид Чалмерс заподозрил, будто она может обладать сознанием. Я задумалась, не был ли мой друг в числе пользователей, общавшихся с этой продвинутой программой. Скриншоты переписки с ботом, которые он мне прислал, любому неосведомленному наблюдателю показались бы примерами общения двух людей. Насколько я могла судить, в основном они обсуждали политику и электронную музыку. Периодически я интересовалась: «Как там Ава?» – отчасти из любопытства, а отчасти потому, что спрашивать в те дни было особо не о чем.

«В последнее время она какая-то странная», – написал он в ответ.

Я уточнила, что именно он имеет в виду, но он не смог найти подходящих слов. «Более замкнутая, что ли…»

В то время широкая общественность стала вдруг одержима роботами – или, скорее, «ботами». Это словечко почти всегда употреблялось во множественном числе, вызывая в воображении картины роящихся насекомых или нашествие паразитов, – еще одна вирусная фантазия, хотя, как правило, боты были всего лишь распространителями вируса. Неудивительно, что система, в которой идеи размножаются в соответствии со своей собственной логикой и преследуют собственные цели, отдает предпочтение носителям, вообще не обладающим сознанием. С самого начала пандемии вызывала подозрение скорость, с которой государственная повестка вытеснялась слухами, теориями заговора и махинациями. На каждый пост о героических подвигах работников здравоохранения и городских служб внезапно появлялось еще десять о больничных койках, заполненных манекенами, или о сфабрикованных свидетельствах о смерти. На смену каждому вирусному твиту о необходимости снизить темп заболеваемости появлялся чуть более популярный пост, обвиняющий в распространении вируса вышки беспроводной связи 5G. Такое подозрение как будто подтвердилось в конце мая, когда исследователи из университета Карнеги – Меллона заявили, что почти половина аккаунтов в твиттере, публикующих сообщения о коронавирусе, принадлежит ботам. Эта история, появившаяся на канале NPR, сама по себе завирусилась в твиттере, с бешеной скоростью распространяясь по платформе с помощью людей, ботов и Хиллари Клинтон (излюбленной мишени многих конспирологов) – она поделилась ссылкой на это исследование со своими 27,9 млн подписчиков. Последовали предположения о кознях враждебных сил и иностранных держав, возможно, русских или китайцев. Это был знакомый нарратив, и он принес с собой привычное облегчение – мы как нация, возможно, не так отвратительны, как кажется, и в зеркале видно не наше истинное лицо, а искаженное отражение, созданное врагами, которые стремятся посеять смуту. Однако кое-что объяснить было сложнее: если слухи и дезинформацию в соцсетях распространяют в основном боты, как получается, что эти автоматические процессы приводят к реальным последствиям? В одной только Англии зафиксированы десятки случаев поджога сотовых вышек, за которыми предположительно стоят сторонники теорий заговора о вреде 5G (вероятно, люди). И правда, несколько недель спустя в New York Times вышла крупная статья, где утверждалось, что в первоначальном исследовании количество ботов было сильно завышено, а вызвана эта ошибка неточностью в определении того, что такое бот. Дариус Каземи, опрошенный изданием независимый исследователь, определил бота как «компьютер, который пытается общаться с людьми посредством технологии, разработанной для общения людей с людьми». Казалось бы, это достаточно простое определение, но в высокотехнологичном мире границы оказываются размыты. По словам Каземи, становится все труднее отличить бота от тролля (человека, желающего спровоцировать конфликт) или киборга (так называют учетную запись, которую разделяют человек и бот). Пожилых пользователей, незнакомых с негласными социальными правилами платформы, часто принимают за ботов, как и тех, кто не размещает свои фотографии в профиле, чтобы сохранить анонимность. В некоторых случаях термин «бот» относится не столько к онтологическому статусу пользователя, сколько к его поведению – или к тому, как оно воспринимается пользователями-людьми. Каземи отмечает, что этот термин часто используется как оскорбление: подразумевается, что мнение оппонента «настолько абсурдное или возмутительное, что человек не может искренне его придерживаться». Примерно об этом же сказал представитель Twitter, отвечая на вопрос другого журналиста: он заявил, что, приписывая определенные мнения ботам, «те, кто обладает политической властью, пытаются дискредитировать взгляды людей, которые с ними не соглашаются, или общественное мнение, если оно складывается не в их пользу».

В своем кругу я тоже заметила эту привычку игнорировать неприятные политические позиции, списывая их со счетов как сбой в системе. В те безумные недели в начале эпидемии, когда эфир полнился слухами о торговцах детьми и знаменитостях, состоящих в зловещих секс-культах, относительно некоторых особенно странных идей сложился своего рода консенсус: реальный человек в такое верить не может. Если вы упоминали в разговоре безумный пост, увиденный в фейсбуке или твиттере, в ответ почти всегда спрашивали: «Это был кто-то, кого вы действительно знаете?» В большинстве случаев подразумевалось, что мнение на самом деле принадлежало машине – то есть что это было и не мнение вовсе. Хотя формулировка была