Как нейросети изменят мировой порядок?

Перевод статьи Bloomberg «6 способов, которыми ИИ изменит войну и мир».

Автор — Хэл Брэндс, обозреватель Bloomberg Opinion и заслуженный профессор имени Генри Киссинджера в Школе передовых международных исследований Университета Джонса Хопкинса. Брэндс также является старшим научным сотрудником Американского института предпринимательства, соавтором книги «Danger Zone: The Coming Conflict with China» и членом Совета по политике иностранных дел Госдепартамента. Является старшим советником Macro Advisory Partners.

Искусственный интеллект сильно изменит нашу повседневную жизнь в различных сферах: как правительства обслуживают своих граждан; как мы водим машину; как мы распоряжаемся своими финансами и, как мы надеемся, защищаем их; как врачи диагностируют и лечат заболевания; даже как мои студенты проводят исследования и пишут свои эссе.

Но насколько революционным будет ИИ? Перевернет ли он глобальный баланс сил? Позволит ли он автократиям править миром? Сделает ли он войну настолько быстрой и жестокой, что она станет неуправляемой? Короче говоря, сыграет ли ИИ фундаментальную роль в мировых событиях?

Конечно, еще слишком рано говорить определенно: последствия ИИ в конечном итоге будут зависеть от решений, которые принимают лидеры и правительства стран, а технологии иногда делают неожиданные повороты. Но даже когда мы поражены и обеспокоены следующей версией ChatGPT, нам нужно разобраться с шестью более глубокими вопросами о международных отношениях в эпоху ИИ. И нам нужно рассмотреть удивительную возможность: может быть, ИИ не изменит мир так сильно, как мы, похоже, ожидаем.

1) Сделает ли ИИ войну неконтролируемой?

Рассмотрим одно утверждение: искусственный интеллект сделает конфликт более смертоносным и более сложным для сдерживания. Аналитики рисуют будущее, в котором машины смогут пилотировать истребители более искусно, чем люди, кибератаки с использованием ИИ опустошат вражеские сети, а передовые алгоритмы ускорят скорость принятия решений. Некоторые предупреждают, что автоматизированное принятие решений может спровоцировать стремительную эскалацию — даже ядерную эскалацию. Если военные планы и железнодорожные расписания стали причиной Первой мировой войны, возможно, ИИ станет причиной Третьей мировой войны.

То, что ИИ изменит войну, — неоспоримо. Возможности огромны: от обеспечения предиктивного обслуживания оборудования до повышения точности наведения. Один F-35, управляющий роем полуавтономных беспилотников, может обладать огневой мощью целого крыла бомбардировщиков, как заключила Комиссия по национальной безопасности по искусственному интеллекту.

Но здесь нет ничего принципиально нового. История войн на протяжении веков — это история, в которой инновации регулярно делают бои более быстрыми и интенсивными. Так что подумайте дважды, прежде чем принимать на веру предположение, что ИИ сделает эскалацию неконтролируемой.

США и Китай обсудили соглашение не автоматизировать процессы ядерного командования и управления — обещание, которое Вашингтон дал самостоятельно — по той простой причине, что у государств есть сильные стимулы не отказываться от контроля над оружием, использование которого может поставить под угрозу их собственное выживание. Поведение России, включая разработку торпед с ядерным вооружением, которые в конечном итоге могли бы работать автономно, вызывает большую озабоченность. Но даже во время холодной войны, когда Москва построила систему, призванную обеспечить ядерное возмездие, даже если ее руководство будет уничтожено, она никогда не отключала человеческое управление. Стоит ожидать, что сегодняшние великие державы будут агрессивно использовать военные возможности, которые предоставляет ИИ, — пытаясь при этом сохранить самые важные решения в руках человека.

Фактически, ИИ может снизить риск опасной эскалации, помогая лицам, принимающим решения, двигаться сквозь туман кризиса и войны. Пентагон считает, что разведывательные и аналитические инструменты на основе ИИ могут помочь людям «просеивать» запутанную или фрагментарную информацию о подготовке противника к войне, а также определить, действительно ли происходит угрожающая ракетная атака. Это не научная фантастика: ИИ помог аналитикам американской разведки узнать о вторжении президента России Владимира Путина на Украину в 2022 году.

В этом смысле ИИ может отчасти нивелировать неопределенность и страх, которые толкают людей к экстремальным реакциям. Предоставляя политикам более глубокое понимание событий, ИИ также может улучшить их способность управлять ими.

2) Поможет ли ИИ автократиям, таким как Китай, контролировать мир?

А как насчет связанного с этим кошмара, что ИИ поможет силам тирании контролировать будущее? Аналитики, такие как Юваль Ной Харари, предупреждают, что это, безусловно, то, на что надеется Китай. Правительство президента Си Цзиньпина разработало систему «социального кредита», которая использует ИИ, распознавание лиц и большие данные, регулируя доступ своих граждан ко всему: от кредитов с низкими процентами до авиабилетов. Повсеместное наблюдение с помощью ИИ превратило Синьцзян в антиутопическую модель современных репрессий.

Пекин намерен захватить «стратегические командные высоты» инноваций, поскольку считает, что ИИ может укрепить его внутреннюю систему и его военную мощь. Он использует силу нелиберального государства, чтобы направить деньги и таланты в сторону передовых технологий.

Однако не факт, что автократии одержат верх.

Верить в то, что ИИ принципиально благоприятствует автократии, значит верить в то, что некоторые из самых важных факторов инноваций — такие как открытые потоки информации и толерантность к инакомыслию — уже не так важны. Однако автократия уже ограничивает потенциал Китая.

Создание мощных больших языковых моделей требует огромных массивов информации. Но если эти входные данные будут испорчены или предвзяты из-за того, что китайский интернет так жестко цензурируется, качество выходных данных пострадает. Все более репрессивная система также будет бороться со временем за привлечение лучших талантов: показательно, что 38% ведущих исследователей ИИ в США родом из Китая. И умные технологии по-прежнему должны использоваться китайскими правительственными институтами, которые становятся все менее умными — то есть менее технократически компетентными — по мере того, как политическая система становится все более подчиненной пожизненному императору.

Китай будет грозным технологическим конкурентом. Но даже в эпоху ИИ Си и его нелиберальные собратья могут с трудом вырваться из конкурентного бремени, которое создает автократия.

3) Будет ли ИИ отдавать предпочтение лучшим или всем остальным?

Некоторые технологии сокращают разрыв между наиболее и наименее технологически развитыми обществами. Например, ядерное оружие позволяет таким относительно слабым странам, как Северная Корея, компенсировать военные и экономические преимущества, которыми обладают сверхдержава и ее союзники. Другие, напротив, увеличивают разрыв: в XIX веке многозарядные винтовки, пулеметы и пароходы позволили европейским обществам покорить обширные территории мира.

В некоторых отношениях ИИ усилит слабых. Чиновники США опасаются, что большие языковые модели могут помочь террористам создать биологическое оружие. Государства-изгои, такие как Иран, могут использовать ИИ для координации роев беспилотников против военных кораблей США в Персидском заливе. В то же время, ИИ может расширить доступ к базовым медицинским услугам на Глобальном Юге, создавая большие выгоды в виде увеличения продолжительности жизни и экономической производительности.

Однако в других отношениях ИИ будет игрой для богатых. Разработка современного ИИ стоит баснословно дорого. Обучение больших языковых моделей может потребовать огромных инвестиций и доступа к ограниченному количеству ведущих ученых и инженеров — не говоря уже об ошеломляющих объемах электроэнергии. По некоторым оценкам, стоимость инфраструктуры, поддерживающей чат-бот Bing AI от Microsoft, составляет 4 миллиарда долларов. Почти каждый может стать потребителем ИИ — но для того, чтобы стать его создателем, требуются огромные ресурсы.

Вот почему средние державы, делающие большие шаги в области ИИ, такие как Саудовская Аравия и Объединенные Арабские Эмираты, имеют очень глубокие карманы. Многие из ранних лидеров гонки ИИ являются либо технологическими титанами (Alphabet, Microsoft, Meta, IBM, Nvidia и другие), либо фирмами, имеющими доступ к их деньгам (OpenAI). И США с их динамичным, хорошо финансируемым технологическим сектором по-прежнему лидируют в этой области.

То, что верно в частном секторе, может быть верно и в сфере ведения войны. Вначале военные преимущества новых технологий могут непропорционально поступать в страны с щедрыми оборонными бюджетами, необходимыми для разработки и масштабирования новых возможностей.

Все это может измениться: ранние лидеры не всегда приводят к устойчивым преимуществам. Выскочки, будь то фирмы или страны, уже нарушали другие сферы. Однако на данный момент ИИ может скорее укрепить, чем революционизировать баланс сил.

4) ИИ будет разрушать или укреплять коалиции?

То, как искусственный интеллект влияет на баланс сил, зависит от того, как он влияет на глобальные коалиции. Как задокументировали аналитики Центра безопасности и новых технологий Джорджтаунского университета, США и их союзники могут значительно превзойти Китай по расходам на передовые технологии — но только если объединят свои ресурсы. Лучшая надежда Пекина — это то, что свободный мир расколется из-за ИИ.

Это может произойти. Вашингтон обеспокоен тем, что новый подход Европы к генеративному регулированию ИИ может подавить инновации: в этом смысле ИИ подчеркивает расхожие подходы США и Европы к рынкам и риску. Другая ключевая демократия, Индия, предпочитает стратегическую автономию стратегическому выравниванию — в технологиях, как и в геополитике, она предпочитает идти своим путем. Между тем, некоторые из недемократических партнеров Вашингтона, а именно Саудовская Аравия и ОАЭ, изучили более тесные технологические связи с Пекином.

Но преждевременно делать вывод о том, что ИИ фундаментально разрушит альянсы США. В некоторых случаях США успешно используют эти альянсы в качестве инструментов технологической конкуренции: посмотрите, как Вашингтон уговаривал Японию и Нидерланды ограничить доступ Китая к высококачественным полупроводникам. США также используют партнерские отношения в сфере безопасности с Саудовской Аравией и ОАЭ, чтобы ограничить свои технологические отношения с Пекином и содействовать партнерским отношениям в области ИИ между американскими и эмиратскими фирмами. В этом смысле геополитические расклады формируют развитие ИИ, а не наоборот.

Что еще более важно, предпочтения стран в отношении ИИ связаны с их предпочтениями относительно внутреннего и международного порядка. Поэтому любые различия между США и Европой могут померкнуть по сравнению с их общими страхами относительно того, что произойдет, если Китай станет превосходящим. Европа и Америка могут в конечном итоге найти свой путь к большему единству в вопросах ИИ — точно так же, как общая враждебность к мощи США подталкивает Китай и Россию к более тесному сотрудничеству в военных применениях этой технологии сегодня.

5) Сможет ли ИИ «потушить» или «разжечь» соперничество великих держав?

Многие из этих вопросов касаются того, как ИИ повлияет на интенсивность конкуренции между Западом во главе с США и автократическими державами во главе с Китаем. Никто на самом деле не знает, может ли вышедший из-под контроля ИИ действительно угрожать человечеству. Но общие экзистенциальные риски иногда создают странных партнеров.

Во время первой Холодной войны США и Советский Союз сотрудничали, чтобы управлять опасностями, связанными с ядерным оружием. Во время новой Холодной войны, возможно, Вашингтон и Пекин найдут общую цель в том, чтобы не допустить использования ИИ в злонамеренных целях, таких как биотерроризм или иная угроза для стран, находящихся по обе стороны сегодняшних геополитических разногласий.

Однако это палка о двух концах, потому что ядерное оружие также сделало Холодную войну острее и страшнее. Вашингтону и Москве пришлось пройти через такие напряжённые противостояния, как Карибский кризис и несколько Берлинских кризисов, прежде чем установилась шаткая стабильность. Сегодня контроль над вооружениями с использованием ИИ кажется даже более пугающим, чем контроль над ядерным оружием, потому что развитие ИИ трудно отслеживать, а выгоды одностороннего преимущества столь соблазнительны. Таким образом, даже несмотря на то, что США и Китай начинают зарождающийся диалог в области ИИ, технологии усиливают их конкуренцию.

ИИ находится в центре китайско-американской технологической войны, поскольку Китай использует честные и нечестные методы для ускорения собственного развития, а США применяют экспортный контроль, ограничения инвестиций и другие меры, чтобы преградить путь Пекину. Если Китай не сможет ускорить свой технологический прогресс, говорит Си, он рискует быть «задушенным» Вашингтоном.

ИИ также подпитывает борьбу за военное превосходство в Западной части Тихого океана: инициатива Пентагона «Репликатор» предусматривает использование тысяч дронов с поддержкой ИИ в случае вторжения китайского флота, направляющегося на Тайвань, для его уничтожения. Противоборствующие державы могут в конечном итоге найти способы сотрудничества, возможно, негласного, в отношении взаимных опасностей, которые представляет ИИ. Но преобразующая технология усилит многие аспекты их соперничества между настоящим и будущим.

6) Сможет ли ИИ сделать частный сектор превосходящим государственный?

ИИ, несомненно, изменит баланс влияния между государственным и частным секторами. Аналогии между ИИ и ядерным оружием могут быть поучительны, но только до определенного момента: понятие Манхэттенского проекта для ИИ вводит в заблуждение, поскольку это область, где деньги, инновации и таланты в подавляющем большинстве находятся в частном секторе.

Таким образом, компании на переднем крае ИИ становятся мощными геополитическими игроками — и правительства это знают. Когда Илон Маск и другие эксперты выступали за мораторий на разработку передовых моделей ИИ в 2023 году, официальный Вашингтон призвал технологические компании не останавливаться — потому что это просто поможет Китаю догнать его. Политика правительства может ускорить или замедлить инновации. Но в значительной степени стратегические перспективы Америки зависят от достижений частных компаний.

Важно не заходить слишком далеко в этом аргументе. Гражданско-военное слияние Китая призвано гарантировать, что государство может направлять и использовать инновации частного сектора. Хотя США, как демократия, не могут в действительности имитировать этот подход, концентрация большой власти в частных фирмах вызовет ответ правительства.

Вашингтон участвует, хотя и нерешительно, в дебатах о том, как лучше регулировать ИИ, чтобы способствовать инновациям, ограничивая при этом злонамеренное использование и катастрофические аварии. Длинная рука государственной власти действует и другими способами: США никогда не позволят китайским инвесторам покупать ведущие в стране фирмы ИИ, и они ограничивают американские инвестиции в сектора ИИ в государствах-противниках. А когда Silicon Valley Bank, в котором хранились депозиты многих фирм и инвесторов в технологическом секторе, катился к банкротству, геополитические проблемы помогли инициировать государственную помощь.

Также следует ожидать, что в ближайшие годы больше внимания будет уделяться помощи Пентагону в стимулировании разработки военных технологий — и упрощении превращения инноваций частного сектора в оружие, обеспечивающего победу в войне. Чем более стратегически важным будет ИИ, тем меньше правительства будут готовы позволять рынку делать свою работу.

Мы не можем предсказать будущее: ИИ может зайти в тупик или ускориться сверх чьих-либо ожиданий. Более того, технология — это не какая-то автономная сила. Ее развитие и последствия будут определяться решениями в Вашингтоне и во всем мире.

Сейчас главное — задавать правильные вопросы, потому что это помогает нам понять ставки этих решений. Это помогает нам представить различные варианты будущего, которые может сформировать ИИ. Не в последнюю очередь, это иллюстрирует, что, возможно, ИИ все-таки не вызовет геополитического землетрясения.

Конечно, есть основания опасаться, что ИИ сделает войну неконтролируемой, нарушит баланс сил, разрушит альянсы США или принципиально будет благоприятствовать автократиям над демократиями. Но есть также веские основания подозревать, что этого не произойдет.

Это не призыв к самоуспокоению. Предотвращение более опасных результатов потребует энергичных усилий и разумного выбора. Действительно, главная ценность этого упражнения в том, чтобы показать, что возможен очень широкий спектр сценариев — и худшие из них просто не исключат себя.

Благоприятствует ли ИИ автократии или демократии, зависит отчасти от того, проводит ли США просвещенную иммиграционную политику, помогающую им накапливать лучшие таланты. Укрепляет ли ИИ или разрушает альянсы США, зависит от того, относится ли Вашингтон к этим альянсам как к активам, которые нужно защищать, или как к бремени, от которого нужно избавиться. Поддерживает ли ИИ существующую международную иерархию или подрывает ее, и насколько он меняет отношения между частным сектором и государством, зависит от того, насколько мудро США и другие страны регулируют его разработку и использование.

Не вызывает сомнений то, что ИИ открывает вдохновляющие перспективы и ужасные возможности. Целью Америки должно быть безжалостное и ответственное внедрение инноваций, достаточное для того, чтобы в целом благоприятный мировой порядок не изменился кардинально — даже если это сделают технологии.

_____________________________________________________

✒️Подписывайтесь на наш Telegram-канал и смотрите видео
на канале в YouTube

📩Прислать статью [email protected]

📩У нас есть страница на Facebook и Вконтакте
📩Журнал «Гранит Науки» в Тeletype
✒️Читайте нас на Яндекс Дзен