Дополненный разум: как искусственный интеллект изменит человеческую идентичность

С каждым годом искусственный интеллект берет все новые высоты: в 2017 году нейронная сеть AlphaZero стала самым лучшим игроком в шахматы, спустя три года другой ИИ разработал новый вид антибиотика, халицин, уничтожающий бактерии, устойчивые ко всем остальным лекарственным препаратам. Авторы книги анализируют возможности и риски, связанные с распространением ИИ во всех сферах жизни, от медицины и финансов до правоохранительной деятельности. Публикуем фрагмент из главы, посвященной тому, как искусственный интеллект повлияет на человеческую идентичность.


Машины все чаще делают то, на что раньше был способен только человек. Что же теперь будет составлять нашу идентичность как человеческих существ? Как мы показали в предыдущих главах, ИИ расширит наши представления о мире. Он изменит то, как мы знакомимся, общаемся и обмениваемся информацией. Он изменит разрабатываемые нами стратегии и применяемые нами военные доктрины. Как мы будем воспринимать себя и свою роль в мире, когда мы станем исследовать и формировать реальность не в одиночку, а с помощью ИИ? Как это будет сочетаться с присущими нам самодостаточностью и достоинством?

Человек всегда считал себя центральной фигурой. Признавая свое несовершенство, мы тем не менее были уверены в том, что наши способности и наш опыт — наивысшая точка развития, к которой могут стремиться живые существа в этом мире. Мы чествовали людей, которые становились образцами человеческого духа, — именно такими мы хотели себя видеть. В разное время и в разных странах это были разные герои — лидеры, исследователи, изобретатели, мученики, — и каждый из них воплощал в себе разные аспекты человеческих достижений и человеческой самобытности. Сегодня наши первопроходцы, исследующие и меняющие мир силой разума, — это астронавты, изобретатели, предприниматели, политические лидеры.

Сейчас мы вступаем в новую эпоху, когда искусственному интеллекту — творению человека — все чаще поручают задачи, которые человеческий разум раньше выполнял или пытался выполнять сам. Результаты ИИ часто не уступают результатам человеческого интеллекта и иногда превосходят их, что ставит под сомнение определяющий признак того, что значит «быть человеком». Более того, ИИ способен учиться и развиваться, что позволяет ему выполнять сложные проекты, которые до сих пор были под силу лишь человеку.

С приходом ИИ изменится сама роль человека, его цели и способы его самореализации. Мы пока не знаем, какие человеческие качества станут для нас образцом и какими будут руководящие принципы этой эпохи. У нас было два традиционных способа познания мира — вера и разум — и теперь появляется третий, ИИ. Наши основные представления о мире и нашем месте в нем подвергнутся серьезной проверке и в некоторых случаях изменениям. Разум произвел революцию не только в науке, он изменил общественную жизнь, искусство и веру.


Благодаря разуму рухнула иерархия феодализма и в мир пришла демократия — принцип организации общества разумных людей, контролирующих свои правительства. Теперь ИИ проверит на прочность принципы, на которых зиждется наше видение самих себя.


В эпоху, когда реальность может быть предсказана, приближена или смоделирована ИИ, который умеет оценивать, что в действительности происходит сейчас, предсказывать, что будет дальше, и решать, что делать, роль человеческого разума, вероятно, изменится. Это может трансформировать нашу идентичность и наше понимание целей каждого человека и человеческого общества в целом. В некоторых областях ИИ может дополнить человеческий разум. В других областях ИИ может вызвать у человека ощущение, что тот не управляет ситуацией. Представьте себе ощущения водителя, автомобиль которого самостоятельно и по неизвестным причинам перестраивается в другую полосу или меняет маршрут. Представьте себе, что чувствует клиент банка, которому ИИ отказал в кредите, или кандидат на должность, которому ИИ отказал в собеседовании, или ученый, которому ИИ сообщил о наиболее вероятном результате его исследований до того, как они были начаты, — это может быть эффективно, но будет ли такой опыт удовлетворять человека? ИИ бросит вызов самовосприятию людей, привыкших к самостоятельности, централизованности и монополии на сложный интеллект.

Достижения ИИ изменяют то, как мы взаимодействуем с миром, а значит, наше представление о себе и своей роли в этом мире. ИИ делает жизненно важные прогнозы (например, прогноз ранней стадии рака груди), предлагает сложные решения (например, находит лучшие ходы в шахматных партиях), фильтрует информацию (например, выбирает самый интересный фильм или лучшие инвестиции), создает контент (от завершения предложений и абзацев до создания новых документов). Чем сложнее такая работа, тем больше люди склонны считать ее творческой или экспертной деятельностью. Тот факт, что ИИ способен делать прогнозы, принимать решения или генерировать контент, не делает его сравнимым с человеческим интеллектом. Однако результаты, которые показывает ИИ, во многих случаях сравнимы с теми, что раньше могли получать только люди, или даже превосходят их.

Вспомним тексты, написанные генеративными моделями. Почти любой человек с начальным образованием может завершить начатое предложение. Но генеративные модели, такие как GPT-3, могут создавать тексты и писать программный код — это требует сложных навыков, на развитие которых люди тратят годы в высших учебных заведениях. Таким образом, генеративный ИИ заставляет нас усомниться, что такие задачи, как завершение предложения, являются более простыми, чем создание полноценных текстов.


По мере совершенствования генеративных моделей ИИ может привести к новым представлениям об уникальности и относительной ценности человеческих способностей. Что нам это даст?


ИИ дополняет человеческое восприятие реальности и может стать эффективным партнером людей в научных исследованиях, творческой работе, разработке программного обеспечения и других областях. Но такое сотрудничество потребует от людей адаптации к миру, в котором наш разум не является единственным способом познания реальности, и это приведет к большим изменениям в человеческом восприятии мира — более значительным, чем те, что происходили на протяжении пяти веков, с момента появления печатного станка с подвижными литерами.

Общество может реагировать на ситуацию и адаптироваться к ней по мере ее развития, это путь по умолчанию. Второй путь — начать дискуссию о роли ИИ (и, следовательно, роли человека), но для этого потребуется сознательное взаимодействие политических лидеров, философов, ученых, гуманистов и т. д.

В любом случае нам предстоит решить, какие аспекты жизни оставить для человеческого интеллекта, а какие передать ИИ или сотрудничеству человека и ИИ. Сотрудничество между человеком и ИИ не будет союзом равных. Люди создают ИИ, и люди ставят ему задачи. Однако чем больше мы будем привыкать к ИИ и зависеть от него, тем дороже и психологически сложнее нам будет даваться его ограничение. Для этого нам придется понять, как ИИ меняет человеческий опыт, как это может изменить человеческую идентичность, какого потребует регулирования и какие дополнительные обязанности наложит на человека. От того, как люди определят свою роль в эпоху ИИ, зависит будущее человечества.



Трансформация человеческого опыта

Во многих странах существует небольшая, но растущая прослойка общества, в которой люди действительно понимают, что такое ИИ. Это те, кто создает ИИ, обучает его, ставит перед ним задачи и регулирует его использование, — специалисты по технологиям, руководители компаний, политики. ИИ может более эффективно, чем человеческий интеллект, распределять ресурсы, прогнозировать результаты и принимать решения, поэтому для таких людей мощь технологий и их превосходство над возможностями человеческого разума — источник удовлетворения.

Тем, кто не обладает техническими знаниями или использует ИИ как простой потребитель, пользование ИИ тоже будет зачастую доставлять удовольствие — как, например, езда на автомобиле с автопилотом, который позволяет водителю читать в дороге. Действительно, внедрение ИИ в потребительские товары и услуги позволит сделать преимущества этой технологии широкодоступными. Однако ИИ также будет управлять сетями и системами, которые не предназначены для конкретного пользователя и неподконтрольны ему. И в этих случаях результат работы ИИ — например, отказ в повышении по службе, полученный от корпоративного ИИ, — может вызывать дискомфорт.


Тем, кто руководит обществом, внедрение ИИ даст много преимуществ. Решения ИИ зачастую не менее точны, чем человеческие решения, а если приняты надлежащие меры предосторожности, то они даже могут быть менее предвзятыми.


Аналогично, ИИ может более эффективно распределять ресурсы, прогнозировать результаты и рекомендовать решения. По мере того как распространяются генеративные модели, их способность создавать новые тексты, изображения, видео и программные коды может позволить ИИ выполнять функции, которые мы обычно считаем творческими (например, создание текстов или рекламы), так же эффективно, как это делают люди. Предпринимателю, предлагающему новые продукты, менеджеру, анализирующему информацию, или разработчику, создающему более мощный ИИ, эти технологии дадут больше самостоятельности и выбора.

Оптимизация распределения ресурсов или повышение точности принятия решений полезны для общества, но для каждого отдельного человека смысл жизни чаще всего заключается в том, чтобы быть самодостаточным хозяином своей судьбы. Это позволяет добиваться осмысленных целей, а ощущение справедливости при этом обеспечивается общественным признанием и уверенностью в том, что этические принципы общества реально работают. Алгоритм же не предоставляет никаких объяснений, основанных на человеческом опыте, позволяющих понять — в том числе в масштабах широкой общественности, — почему он так делает. Тех, кто знает, как работает ИИ, такая картина мира может устроить. Но гораздо больше будет тех, кто не понимает, почему ИИ делает то, что он делает, и это будет снижать их чувство самодостаточности и понимания окружающего мира.

Поскольку ИИ кардинально меняет характер труда, он может поставить под угрозу чувство самобытности, самореализации и финансовой безопас ности многих людей. Сильнее всех пострадают обычные работники и менеджеры среднего звена, а также специалисты, которые занимаются анализом или интерпретацией данных в единых форматах и составлением более или менее стандартных документов. Правда, эти изменения могут не только повысить общую эффективность, но и создать новые рабочие места, — но тех, кто был уволен, вряд ли обрадует тот факт, что это вызвано переходом к повышению эффективности экономики и качества жизни в целом. И если одни обнаружат, что они освободились от рутины, чтобы заняться более интересной работой, другие узнают, что их навыки больше не ценятся так, как раньше, а возможно, оказались и вовсе не востребованы.

Подобное было и раньше, во времена предыдущих технологических революций. Такие изобретения, как механический ткацкий станок, вытеснили людей из производства и вызвали появление луддитов — движения протеста против новых технологий, за сохранение привычного образа жизни. Индустриализация сельского хозяйства вызвала массовые миграции в города, глобализация изменила производство и логистику, все это приводило к масштабным изменениям и беспорядкам, но в конечном итоге общество приняло преобразования ради прогресса.


И каким бы ни оказался долгосрочный эффект ИИ, в краткосрочной перспективе он, несомненно, произведет революцию в некоторых сегментах экономики, изменит многие традиционные профессии и заставит многих людей переосмыслить представления о своей личности, сформировавшиеся благодаря их работе. Общество же должно быть готово обеспечить их альтернативными источниками не только дохода, но также идентичности и самореализации.


В наше время принято, столкнувшись с проблемой, находить ее решение, в том числе путем выявления виновных. Это означает определенную ответственность и определенные полномочия каждого — и то и другое помогает нам лучше понять, кто мы есть. Теперь в этих уравнениях появилась новая составляющая, которая может заставить нас несколько потесниться на месте главных мыслителей, принимающих и исполняющих решения. Временами все люди, как создатели ИИ, так и обычные пользователи, будут невольно получать от него неожиданные и непрошеные ответы или результаты. В одних случаях (удачные и своевременные рекомендации покупок) человеку будет казаться, словно вселенная подстраивается под его личные запросы, в других (отказы в работе и кредитах или необъяснимые решения служб безопасности и правоохранительных органов) — будто весь мир, как у Кафки, ополчился против него.

Противоречия между обоснованными объяснениями и непрозрачным принятием решений, отдельными людьми и большими системами, теми, кто обладает техническими знаниями и авторитетом, и теми, кто их не имеет, не новы. Новым здесь станет только то, что источником противоречий будет другой интеллект, нечеловеческий, повсеместно распространенный и зачастую необъяснимый с точки зрения человеческого разума. Те, кому не хватает знаний об ИИ или власти над ним, возможно, захотят отвергнуть эту технологию. Люди, разочарованные кажущимися претензиями ИИ на их самостоятельность или его непредсказуемостью, могут попытаться уйти от его использования (по крайней мере сознательного) в своей повседневной жизни, в том числе отключиться от социальных медиа и других сетевых платформ.

Некоторые слои общества могут пойти еще дальше, настаивая на том, что человек должен существовать в физическом мире, а не в иллюзорном. По примеру амишей , кто-то может полностью отвергнуть ИИ, но по мере распространения технологии таких людей будет все меньше. В действительности сама возможность отказа от ИИ может оказаться иллюзорной, поскольку по мере цифровизации общества и интеграции ИИ в работу правительственных органов и в самые разнообразные продукты пользование им станет практически неизбежным.

Потенциал ИИ огромен независимо от того, как будет развиваться AGI — для широких применений или с узкой спецификой. Такие генераторы, как GPT-3, который уже может создавать тексты, будто бы написанные человеком, в дальнейшем могут стать похожими на сверхинтеллект. В настоящее время прогнозные и генеративные ИИ отличаются друг от друга, что отражает природу человеческого интеллекта, в котором аналитические навыки, необходимые для прогнозирования, как правило, сильно отличаются от навыков генерирования, используемых в творческой работе. Появятся генеративно-прогностические модели ИИ, они уже будут похожи на сверхинтеллект и, возможно, станут ступенькой к AGI, способному решать более сложные задачи благодаря использованию базовых прогностических моделей. А если отдельные аналитические и творческие аспекты человеческого интеллекта будут в некотором роде подчинены системам ИИ, это станет еще одним вызовом нашему представлению о себе.

Это особенно касается AGI, поскольку люди склонны искать некий богоподобный интеллект — «сверхчеловеческий» способ познания мира и его глубинных структур и возможностей. Даже те, кто хорошо знает ИИ, в случае появления AGI могут поддаться искушению придать ему некий квазибожественный статус.

Поделиться