Роботы наступают - Мартин Форд

Впрочем, как я пытался показать на страницах этой книги, специализированный характер форм реализации искусственного интеллекта в реальном мире совсем не является препятствием для исчезновения огромного количества рабочих мест в результате их полной автоматизации. Задачи, выполняемые большинством работающего населения, на том или ином уровне абстракции являются рутинными и предсказуемыми. Как мы уже видели, быстрое совершенствование специализированных роботов и алгоритмов машинного обучения, способных разобраться в огромных массивах данных, ставит под угрозу существование большего числа профессий, предполагающих самый разный уровень квалификации. Ни одна из них не требует, чтобы машины думали как люди. Компьютеру вовсе не нужно воспроизводить весь спектр ваших интеллектуальных способностей, чтобы лишить вас работы; ему достаточно уметь делать те конкретные вещи, за которые вам платят деньги. Поэтому большая часть исследований и разработок в области и практически весь венчурный капитал вращаются вокруг специализированных вариантов применения искусственного интеллекта, и у нас есть все основания ожидать, что эти технологии будут становиться все более мощными и гибкими в ближайшие годы и десятилетия.

За всем этим фасадом специализированных решений, которые продолжают давать практические результаты и привлекать инвестиции, скрывается куда более грандиозная задача — создание по-настоящему «умной» системы — машины, которая способна порождать новые идеи, осознавать факт своего существования и вести осмысленную беседу, — остается священным Граалем мира искусственного интеллекта.

Увлечение идеей создания по-настоящему думающей машины восходит по крайней мере к 1950-м гг., когда Алан Тьюринг опубликовал работу, знаменовавшую начало эпохи искусственного интеллекта. В течение последующих нескольких десятилетий сфера научных исследований в области искусственного интеллекта пережила немало взлетов и падений, но что оставалось неизменным, так это завышенные ожидания, которые намного опережали технические возможности того времени, в особенности производительность существовавших тогда вычислительных машин. Когда далекоидущие надежды неизбежно оборачивались разочарованием, инвестиции заканчивались, исследования останавливались, и наступали затяжные периоды стагнации, которые получили название «зимы искусственного интеллекта». Впрочем, за зимой снова наступала весна. Необыкновенная мощь современных компьютеров вкупе с передовыми разработками в специализированных отраслях исследований в области искусственного интеллекта, а также успехи в изучении человеческого мозга — все это дает повод для оптимизма.

Джеймс Баррат, который недавно опубликовал книгу о последствиях появления развитого искусственного интеллекта, провел неформальный опрос среди двух сотен исследователей, занимающихся проблемами искусственного интеллекта в общем, а не «узком» его понимании. Сами себя они называют специалистами по универсальному человекоподобному интеллекту (УЧИ). Баррат попросил их выбрать одну из нескольких предложенных дат в качестве наиболее вероятного срока появления УЧИ. Он получил следующие результаты: 42 % уверены, что думающая машина появится к 2030 г.; 25 % заявили, что это случится к 2050 г.; 20 % не верят в возможность ее появления до 2100 г. И только 2 % сказали, что это в принципе невозможно. Любопытно, что ряд респондентов адресовали Баррату комментарии, в которых предложили ему включить в варианты ответов более близкую дату: например, 2020 г.{299}

Некоторые эксперты, работающие в этой отрасли, беспокоятся, что их коллеги дают повод для очередной волны завышенных ожиданий. В октябре 2013 г. Янн Лекан, занимающий должность директора лаборатории, недавно созданной компанией Facebook в Нью-Йорке с целью проведения исследований в области искусственного интеллекта, опубликовал пост, в котором предупредил, что «за пять десятилетий "смерть" искусственного интеллекта из-за излишней шумихи наступала где-то четыре раза: люди делали безответственные заявления (часто чтобы впечатлить потенциальных инвесторов или представителей организаций, занимающихся финансированием исследований) и не могли выполнить свои обещания. Что вызывало ответную реакцию»{300}. Аналогичного мнения придерживается и профессор Нью-Йоркского университета Гэри Маркус, являющийся экспертом по когнитивным исследованиям и ведущий собственный блог на сайте журнала New Yorker: по его мнению, вокруг недавних достижений в области нейронных сетей с возможностью углубленного обучения и даже некоторых из возможностей, приписываемых IBM Watson, был создан нездоровый ажиотаж{301}.

Тем не менее совершенно очевидно, что отрасль получила невероятный толчок к дальнейшему развитию. В частности, одним из мощных факторов прогресса стал расцвет таких компаний, как Google, Facebook и Amazon. Никогда прежде корпорации с такими большими финансовыми возможностями не рассматривали искусственный интеллект в качестве главного компонента своей бизнес-модели — и никогда прежде исследования в области искусственного интеллекта не были предметом конкурентной борьбы между столь влиятельными организациями. Аналогичная борьба разворачивается и между странами. Искусственный интеллект становится незаменимым инструментом для военных, сотрудников разведывательных организаций и представителей органов контроля и надзора в авторитарных государствах[63]. Более того, мы, вполне вероятно, стоим на пороге тотальной «гонки вооружений» в области искусственного интеллекта. Главный вопрос, думаю, не в том, существует ли реальная угроза наступления новой «зимы» в развитии искусственного интеллекта в целом, а скорее, будет ли прогресс ограничиваться искусственным интеллектом в узком понимании или же распространится также и на сферу УЧИ.

Даже если исследователям все-таки удастся совершить рывок и приблизиться к созданию УЧИ, вряд ли стоит рассчитывать на появление машины, которая будет просто повторять возможности человеческого интеллекта. По закону Мура, за УЧИ быстро последует компьютер, который будет превосходить интеллектом человека. Разумеется, у думающей машины будут все преимущества современных компьютеров, включая способность выполнять вычисления и обрабатывать информацию со скоростью, которая просто немыслима для нас. Соответственно, это неизбежно поставит нас в ситуацию, когда нам придется делить планету с чем-то совершенно беспрецедентным: абсолютно чуждым нам — да еще и превосходящим нас — интеллектом.

И это будет только начало. Исследователи искусственного интеллекта сходятся во мнении, что такая система в первую очередь обратит всю мощь своего интеллекта на саму себя. Она приложит все силы к тому, чтобы усовершенствовать собственную конструкцию, переписать свое ПО и, возможно, применить методы эволюционного программирования для создания, тестирования и оптимизации улучшений в собственной конструкции и архитектуре. Это приведет к запуску итеративного процесса «рекурсивного улучшения». Система будет становиться умнее и производительнее с каждым новым изменением. В результате постоянного ускорения произойдет самый настоящий «взрыв интеллекта», который вполне может привести к появлению машины, которая будет в тысячи или даже миллионы раз умнее человека. По словам Хокинга и его соавторов, это «станет самым большим событием в истории человечества».

Если такой скачок в развитии искусственного интеллекта действительно произойдет, это, безусловно, будет иметь самые далекоидущие последствия для всего человечества. Более того, за этим может последовать такая волна потрясений, нарушающих существующий порядок, которая полностью изменит всю нашу цивилизацию, не говоря уже об экономике. Говоря словами футуриста и изобретателя Рэя Курцвейла, она «разорвет ткань истории» и спровоцирует событие, которое получило название «сингулярность» и которое может стать началом новой эпохи.

Сингулярность

Первенство в использовании термина «сингулярность» для описания события в будущем, обусловленного развитием технологий, обычно приписывается первопроходцу в мире компьютеров Джону фон Нейману, который, как считается, сказал где-то в 1950-е гг.: «Создается впечатление, что непрерывно ускоряющийся прогресс… приближает нас к некой важнейшей сингулярности в истории человеческого рода, после которой люди не смогут уже жить так, как прежде»{302}. Эту тему снова поднял в 1993 г. математик из Государственного университета Сан-Диего Вернор Виндж, который написал статью под названием «Грядущая технологическая сингулярность» (The Coming Technological Singularity). Виндж, которого трудно упрекнуть в сдержанности, начал свою работу со слов о том, что «в течение 30 лет у нас будут все необходимые технологии для создания сверхразума. Это будет означать конец эры человечества»{303}.