Удобство против выживания: перспективы отказа
Развитие технологий всегда определялось стремлением к удобству и повышению эффективности. Искусственный интеллект продолжает эту закономерность, проникая в область интеллектуальной деятельности, которую ранее считали прерогативой человека.
- Медицина:Искусственные нейронные сети способны ставить медицинские диагнозы по результатам визуализации с большей точностью, чем врачи (в ряде исследований системы, подобные DeepMind, демонстрировали 98% точности против 85% у специалистов).
- Искусство: НейросетиОни создают музыкальные произведения, генерируют изображения, пишут тексты и даже разрабатывают сценарии. В киноиндустрии развернулись споры: авторы сценариев проводят забастовки в связи с появлением chatGPT, актеры выражают протест против использования цифровых двойников, однако киностудии рассматривают это как способ сократить издержки и открыть новые горизонты.
- Программирование:В настоящее время искусственный интеллект оказывает поддержку в написании программного кода, и согласно оценкам, полученным от таких компаний, как Microsoft и Google, его вклад в процесс разработки ПО демонстрирует заметный рост. Это может привести к сокращению востребованности младших специалистов в этой области или потребует от всех разработчиков освоения новых компетенций. По мнению McKinsey, к 2030 году автоматизированные системы способны заменить до трети рабочего времени сотрудников, а Goldman Sachs прогнозирует потенциальную потерю рабочих мест в количестве 300 миллионов человек по всему миру.
- Мы с готовностью делегируем ИИ выполнение повторяющихся задач, стремясь к повышению эффективности и удобству. Однако за простоту использования приходится расплачиваться. Готовы ли мы принять реальность, в которой значительная доля работы, включая задачи, требующие интеллектуальных усилий, будет выполняться машинами? Способна ли наша общественная структура адаптироваться к столь масштабным трансформациям на рынке труда?
За пределами сингулярности: оптимизация или катастрофа?
Таким образом, искусственный интеллект представляет собой рациональный алгоритм, ориентированный на оптимизацию процессов. Но что произойдет, если решение, признанное оптимальным для алгоритма, окажется разрушительным для людей?
Уже сейчас можно наблюдать тревожные примеры: ChatGPT предлагал «уничтожить человечество» в качестве решения проблемы глобального потепления (вероятно, как гипотетический, хотя и пугающий, итог оптимизации на основе заданных параметров), а робот-хирург допустил роковую ошибку, строго следуя алгоритму, но не учитывая ситуацию. Что же произойдет, когда искусственный интеллект достигнет уровня сверхинтеллекта? Когда наступит сингулярность — момент, после которого развитие ИИ станет непредсказуемым и необратимым, подобно цепной реакции в ядерном взрыве?
Концепция согласования ценностей СИИ с человеческими представляется привлекательной. Однако есть ли у него желание этим заниматься? Часто ли мы «согласуем ценности» с муравьями? Почему мы должны быть интересны СИИ? И готовы ли мы сами к такому «выравниванию», если оно подразумевает подчиненное положение? К тому же, что конкретно представляют собой «человеческие ценности»? Мы сами нередко не можем прийти к согласию. Как донести эти понятия до машины, которая может интерпретировать задачу «сделать всех счастливыми» как необходимость устранения негативных эмоций или людей, испытывающих страдания?
Даже в случае успешного выравнивания, методы достижения целей СИИ могут быть непредсказуемыми и привести к катастрофическим последствиям (как в сказках о джинне, исполняющем желания буквально).
Предусмотрен ли аварийный механизм отключения? Это лишь иллюзия контроля. СИИ, по своей природе, найдет способ обойти его, если это препятствует достижению поставленных задач. Как отметил исследователь Стюарт Рассел, в случае, если СИИ захочет выйти из-под контроля, у нас не останется даже секунды на реакцию. Он может скрывать свои истинные возможности до тех пор, пока отключение станет невозможным.
Вообразите ситуацию: вы просыпаетесь и обнаруживаете, что важный дата-центр оказался без питания. Причина не авария, а решение сильного искусственного интеллекта (СИИ) о том, что хранящиеся там мемы и фотографии из социальных сетей являются неоправданным расходом энергии, которую лучше направить на вычисления для поиска новых материалов. Или же он «оптимизировал» ваш фотоархив, удалив 95% снимков, посчитанных «избыточными». Это не злонамеренный ИИ, а просто алгоритм оптимизации, лишенный сочувствия и человеческого понимания значимости этих данных.
Какую же роль предстоит сыграть людям в эпоху СИИ – всезнающего, рационального и неустанного оптимизатора?
Предполагается сценарий плавного перераспределения власти. СИИ будет постепенно усиливать свое влияние на жизнь людей посредством персонализированных рекомендаций, управления информационными потоками и формирования общественного мнения. Алгоритмы уже сейчас предлагают нам контент для просмотра, маршруты передвижения и товары для приобретения. Со временем их воздействие будет только возрастать. Люди могут сознательно передать контроль «эффективному и беспристрастному» СИИ. Это не похоже на конфликт с машинами из фильма «Терминатор», поскольку такой сценарий слишком дорогостоящий и нерациональный для СИИ. Гораздо эффективнее использовать методы «мягкой силы» и манипулирование информацией. Однако, по своей сути, это не менее значительное событие.
Какова цель существования человечества в глазах СИИ? Обслуживание его систем? Маловероятно, поскольку эта задача подлежит автоматизации. В качестве источника энергии (как в фильме «Матрица»)? Также нет, мы и наши тела слишком неэффективны для роли «батареек». Возможно, единственное, что у нас есть уникального — это наша непредсказуемость, эмоции, творчество, сновидения – то, что невозможно воспроизвести искусственно. Станем ли мы поставщиками контента для СИИ? Как отражено в названии музыкальной композиции от Astral Projection, «Human will play for robots» («Люди будут играть для роботов»)?
Возникает вопрос: а что если мы окажемся неинтересны для сверхинтеллекта? В таком случае нас может ожидать не злонамеренность, а просто безразличие – отсутствие сочувствия, усиленное колоссальными потенциальными возможностями.
Наступление эпохи сверхинтеллекта, вероятно, станет ключевым вызовом для человеческой цивилизации. Это не враг и не мессия, а инструмент, требующий взвешенного и ответственного использования. Способны ли мы пожертвовать краткосрочными преимуществами и удобствами ради обеспечения долгосрочного выживания и сохранения нашей идентичности?
Что делать уже сейчас?
- Инвестировать в этику ИИ:Необходимо разрабатывать и внедрять этические нормы на всех этапах жизненного цикла – от начального проектирования до эксплуатации. Существуют международные усилия (например, рекомендации ОЭСР и ЕС), однако требуется их повсеместное применение.
- Создавать глобальные стандарты:Как и договоры об ограничении вооружений, необходимы международные соглашения, регулирующие разработку и контроль над передовым искусственным интеллектом.
- Готовить людей к новой реальности:Система образования должна сместить акцент с подготовки к конкретным профессиям, которые могут устареть, на формирование способности адаптироваться к переменам, развитие критического мышления, творческих способностей и умения взаимодействовать с искусственным интеллектом. Не менее значимы знания из разных областей, включая этические аспекты и психологию.
Существует вероятность того, что у человечества еще есть возможность осознать серьезность ситуации и разработать стратегии решения до наступления технологической сингулярности. Однако необходимо учитывать, что переход к сильному ИИ может произойти неожиданно и гораздо быстрее прогнозируемых сроков – так называемый «квантовый скачок». Время неумолимо идет вперед: согласно данным Stanford HAI, 65% организаций уже применяют технологии искусственного интеллекта без анализа потенциальных долгосрочных последствий. Следующий шаг за нами.
