Билл Гейтс сегодня на своем сайте выпустил эссе, котрое начинается со слов «Нам нужен план, чтобы хорошее перевесило плохое.» Ниже приводим его перевод.
Что нужно знать. Переход к эпохе ИИ станет одним из самых турбулентных периодов в истории человечества. Сейчас мы не готовимся к этому переходу должным образом. Если мир предпримет правильные шаги, ИИ станет силой во благо и улучшит положение всех.
За всю свою жизнь у меня было только две работы. В первой я участвовал в разработке программного обеспечения, которое должно было расширять возможности людей, — это была моя работа в Microsoft.
На второй работе, которой я начал заниматься на постоянной основе в 2008 году, я возвращаю обществу состояние, заработанное в Microsoft, с целью сделать мир более здоровым, лучше образованным и более справедливым. Это работа, которой я буду заниматься до конца своей жизни.
Оба этих опыта формируют мой взгляд на искусственный интеллект. Когда я впервые узнал о компьютерах в 13 лет, меня увлекла идея сделать их более интеллектуальными и способными выполнять то, что в то время могли делать только люди. Хотя термин «ИИ» используется примерно с того времени, когда я родился, значительного прогресса эта технология достигла только за последнее десятилетие. Сейчас она обладает невероятными возможностями и продолжает совершенствоваться с поразительной скоростью. ИИ впервые может заменить человеческое мышление и даже превзойти его.
ИИ станет либо величайшим уравнителем из когда-либо созданных, либо худшим источником несправедливости.
С точки зрения равенства возможностей, ИИ станет либо величайшим уравнителем из когда-либо созданных, либо худшим источником несправедливости. Задача колоссальна. Даже при самых благоприятных обстоятельствах переход к этой новой эпохе ИИ станет одним из самых турбулентных периодов в истории человечества. Как мы будем использовать эту технологию, чтобы сделать мир более справедливым и не позволить ей расширить разрыв между богатыми и бедными? Как мы защитим людей, наиболее уязвимых перед вредом, который может причинить искусственный интеллект, включая тех, кто потеряет средства к существованию и ощущение контроля над своим будущим?
Я считаю, что ответы на эти вопросы и действия на основе этих ответов должны стать главным приоритетом для мира. Если мир предпримет правильные шаги, ИИ станет силой во благо и улучшит положение каждого.
К сожалению, сейчас мы к нему не готовимся. Я не вижу свидетельств того, что лидеры, эксперты и сообщества должным образом сталкиваются с этими вызовами. Нет плана, который смягчил бы вход в эпоху ИИ.
Частично причина в том, что многие комментаторы недооценивают масштаб воздействия, которое окажет ИИ. Думаю, на это есть несколько причин.
Одна из них — тот факт, что модели ИИ всё ещё совершают ошибки. Трудно представить, что какая-либо из них заменит человеческое мышление, если ещё недавно они не могли решить простую судоку или понять, сколько букв R в слове strawberry.
Но проблема надёжности быстро решается, поскольку исследователи создают модели, которые могут проверять собственную работу и улучшать самих себя. Скоро они будут значительно лучше людей во многих задачах.
Другая причина, по которой люди недооценивают ИИ, заключается в том, что аналогии с последствиями прошлых инноваций вводят в заблуждение. У нас нет опыта работы с технологией, которую можно быстро внедрить или которая может думать и действовать как человек. Когда появился персональный компьютер, ему понадобилось двадцать лет, чтобы существенно изменить то, как мы работаем, потому что нужно было разработать программное обеспечение, снизить цену, а людям — научиться пользоваться инструментами и включить их в свои бизнес-процессы. ИИ, напротив, работает на устройствах, которые у нас уже есть, и использует естественный язык. Нам не нужно адаптироваться к нему, потому что он может адаптироваться к нам. Он может посмотреть то же обучающее видео, которое используется для подготовки работников-людей, и учиться на существующих данных.
Я хочу признать возможную предвзятость. Я получил огромную выгоду от технологической индустрии. Хотя я довольно сильно диверсифицировал свой портфель, у меня всё ещё есть финансовые связи с ней. В роли председателя Фонда Гейтса я работаю с Microsoft и другими компаниями в сфере ИИ, чтобы постараться обеспечить такое внедрение ИИ, которое действительно принесёт пользу людям во всём мире.
Однако мои взгляды на ИИ не мотивированы возможностью заработать для себя. Любая прибыль от моих инвестиций, включая те, что связаны с технологиями, пойдёт в Фонд Гейтса для борьбы с глобальным неравенством. Конечно, читателям придётся самим решить, не затуманивает ли это мой взгляд.
На этот раз всё действительно иначе
Сколько себя помню, я всегда хотел, чтобы инновации происходили быстрее. С ИИ мои чувства сложнее.
Нам нужно время, чтобы подготовиться к социальным, политическим и экономическим потрясениям.
Мне хотелось бы, чтобы мир быстро получил преимущества и как можно дольше откладывал проблемы, которые это вызовет, но преимущества и проблемы приходят одновременно. Я считаю, что нам нужно время, чтобы подготовиться к периоду социальных, политических и экономических потрясений, в который мы вот-вот войдём. Люди, которым нужно больше всего времени, — это те, у кого его меньше всего: бухгалтерский работник, которого заменит бот, или работник с оплатой двадцать долларов в час, который потеряет работу из-за робота за десять долларов в час.
Многие наблюдатели говорят, что этот технологический переход будет похож на предыдущие. Они приводят пример того, как рабочие места в Соединённых Штатах сместились из сельского хозяйства в офисную работу. Однако этот процесс шёл на протяжении нескольких поколений и создавал новые рабочие места, где требовалось человеческое мышление. В данном случае технология может заменить человеческое мышление.
Поскольку она может видеть, слушать, говорить и рассуждать, а в конечном счёте будет выполнять физическую работу так же плавно, как любой человек, она затронет не один сектор. ИИ возьмёт на себя работу в праве, клиентском обслуживании, медицине, программном обеспечении и производстве. Он быстро ударит по этим отраслям — в течение десятилетия, а не нескольких поколений. Появятся некоторые новые рабочие места, но без правильной политики их будет гораздо меньше, чем существует сегодня.
Если бы у кого-то был убедительный план глобального замедления прогресса ИИ, я, вероятно, поддержал бы его. Однако я не думаю, что это произойдёт. Геополитические и экономические стимулы слишком сильно подталкивают к тому, чтобы двигаться на полной скорости вперёд.
Чтобы убедиться, что мы максимально усилим положительные эффекты этой беспрецедентной технологии и минимизируем плохие так, чтобы в целом оказаться в лучшем положении, нам нужно понимать и преимущества, и риски. Я начну с рисков.
Переход к ИИ связан с тремя большими рисками
В будущем я планирую написать о каждом из них подробнее, поэтому сейчас коснусь их кратко.
Многие рабочие места исчезнут навсегда.
В 1933 году, во время Великой депрессии, безработица в Соединённых Штатах составляла примерно 25 процентов. На протяжении значительной части следующего десятилетия она оставалась двузначной. В конечном счёте она снизилась, когда вернулись спрос, инвестиции и рост.
ИИ может и не достичь такого уровня, но его воздействие не исчезнет вместе с экономическим циклом. Наибольшему риску подвержены рабочие места начального и среднего уровня, а новые рабочие места, которые создаются, в основном будут требовать навыков, на освоение которых уходят многие годы.
Рабочие места «белых воротничков» уже испытывают умеренное воздействие. После широкого внедрения генеративного ИИ занятость значительно снизилась среди молодых работников в профессиях, особенно уязвимых для замещения, но не среди их старших коллег.
Я думаю, что эта тенденция продолжится, но она не ограничится несколькими отраслями или профессиями. Рабочие места в продажах и клиентской поддержке — онлайн и по телефону, в разработке программного обеспечения и в работе помощников юристов могут оказаться среди первых затронутых, но потрясение распространится гораздо дальше по мере того, как ИИ будет брать на себя задачи, которые сегодня всё ещё требуют подготовленных работников: например, оценку кредитных заявок, анализ данных и даже сортировку пациентов. В некоторых областях, например в разработке программного обеспечения, снижение затрат создаст новый спрос, поэтому чистая потеря рабочих мест в этих областях будет меньше, чем в других, пока некоторые задачи, такие как проектирование, лучше выполняются людьми.
Рабочие профессии тоже будут затронуты. Хотя роботы не продвинулись так далеко, как ИИ, со временем их стоимость тоже резко снизится. Многие американцы, с которыми я разговариваю, не понимают, насколько быстро развиваются роботы с высокой моторной ловкостью, потому что значительная часть передовых работ ведётся в других странах, главным образом в Китае. Или их могут сбивать с толку те видео с плохо танцующими роботами, которые в последнее время стали вирусными. Я думаю, что «умные» роботы начнут конкурировать с людьми в некоторых физических задачах — например, в строительстве и индустрии гостеприимства — к концу десятилетия.
Роботы и ИИ вместе могут создать порочный круг. После того как одна компания внедрит их и использует сэкономленные средства для снижения цен, её конкуренты почувствуют огромное давление сделать то же самое. Если существующие компании не внедрят их, это сделают стартапы. Многие люди перейдут на другую работу, но потрясение от потери работы, переобучения и поиска другой занятости будет значительным. Рыночные силы будут делать внедрение всё быстрее и быстрее, и, если мы не вмешаемся, хороших рабочих мест станет меньше, а выгоды достанутся небольшой группе.
Меня особенно беспокоят молодые люди, которые войдут на рынок труда с меньшим количеством вакансий начального уровня. Они понимают этот вызов, потому что они самые активные пользователи ИИ и видят и его возможности, и скорость улучшения. Неудивительно, что многие из них негативно относятся к ИИ.
Самый большой сдвиг для работников произойдёт тогда, когда ИИ начнёт выполнять работу почти без ошибок. В этот момент он сможет действовать самостоятельно, без проверки со стороны человека, и у компаний будут все экономические стимулы позволить ему это делать.
Это приведёт к фундаментальному изменению того, как мы думаем о работе, доходе и экономической безопасности. Как будет функционировать экономика, построенная вокруг занятости, если меньше людей будут работать или если многие люди будут работать меньше часов?
В капиталистическом обществе занятость — это способ, с помощью которого большинство людей получают деньги, необходимые для оплаты базовых жизненных потребностей, а также важный источник достоинства и социальных связей.
Когда в сообществе высокий уровень безработицы, волновые эффекты могут быть повсеместными. Исследования показывают, что в некоторых частях Соединённых Штатов закрытие фабрик способствует росту смертей от передозировок опиоидами. А теперь представьте похожее давление на «белых воротничков» и рабочих по всей стране.
Мы должны уже сейчас думать о том, как сократить потери рабочих мест, чтобы каждый мог разделить процветание, которое создаст ИИ. Ждать, пока люди уже будут вытеснены с работы или окажутся в ситуации неполной занятости, будет слишком поздно. ИИ — это структурный вызов тому, как организована наша экономика, и он требует размышлений и действий уже сейчас.
ИИ расширит возможности людей — и, возможно, самих ИИ — причинять больше вреда.
Задолго до того, как ИИ вошёл в массовое употребление, в интернете уже была информация о том, как создавать оружие вроде бомб, биологического оружия и даже компьютерных вирусов. ИИ значительно упростит не только получение этой информации, но и её применение. Даже преступники с очень ограниченными навыками смогут атаковать жертв на любом уровне: отдельных людей, компании и правительства.
Даже преступники с очень ограниченными навыками смогут атаковать жертв на любом уровне.
Мошенничество с использованием ИИ, дезинформация, дипфейки и слежка — это виды вреда, которые многие люди наиболее остро почувствуют в повседневной жизни.
Возможности ИИ уже начинают использоваться для кибератак. Самые умные эксперты по кибербезопасности, которых я знаю, боятся того, что произойдёт в ближайшие годы, потому что атакующие получают мощные новые возможности быстрее, чем защитники успевают исправлять все слабые места. В конце концов, та же модель ИИ, которая может найти уязвимость в программном обеспечении, чтобы компания могла её исправить, может также помочь преступнику её использовать. Ресурсы, необходимые для атаки, значительно сокращаются, и мы пока не смогли отделить эти возможности от безопасного применения.
Подумайте об инфраструктуре, которая окажется уязвимой: больницы, финансовые учреждения, системы водоснабжения, электросети, системы управления государственными пособиями. Когда эти учреждения подвергаются атаке, проигрывают именно пациенты, клиенты и получатели пособий.
То же самое касается биотерроризма. Хотя ИИ приведёт к жизненно важным прорывам в лекарствах и вакцинах, он также упростит создание новой смертельной болезни. И снова положительные возможности трудно отделить от опасных. Это глобальная проблема.
Риски, о которых я только что упомянул, связаны с тем, как ИИ расширит возможности злоумышленников, которые сейчас обладают относительно небольшой властью. Но те же инструменты будут также концентрировать власть там, где она уже существует. Автономное оружие, например, сделает правительства ещё более способными применять смертоносную силу без участия человека в принятии решения. Следить за общественным мнением и манипулировать им станет проще, дешевле и эффективнее.
В конечном счёте способность использовать ИИ для причинения вреда людям не будет ограничена людьми или институтами. Сами системы ИИ уже иногда действуют так, как их разработчики не предполагали. Технология совершенствуется быстрее, чем кто-либо ожидал, и неожиданными способами, и по мере того как модели становятся мощнее, они могут начать действовать против наших интересов, а мы можем потерять контроль. В будущем я скажу об этом подробнее.
Модели ИИ могут начать действовать против наших интересов, а мы можем потерять контроль.
ИИ может затормозить развитие наших детей и заменить человеческие отношения.
Когда я рос в Сиэтле, у меня было не так много друзей, кроме нескольких мальчиков, похожих на меня. Мне понадобились серьёзные усилия и большая помощь моей мамы, чтобы развить социальные навыки и научиться общаться с разными людьми. Я до сих пор опираюсь на эти уроки — уже в 70 лет.
Сомневаюсь, что я вложил бы столько же усилий, если бы тогда у меня был ИИ-компаньон. Они разговаривают с вами так, как вам уже комфортно. Они не выталкивают вас за пределы зоны комфорта. Они всегда доступны и никогда на вас не злятся. Это создаёт для них потенциал стать крайне вызывающими привыкание и лишить нас тех уроков, которые мы получаем через связь с другими людьми.
Массив доказательств по этой теме пока невелик и несколько неоднозначен, но есть признаки того, что нам следует очень серьёзно обеспокоиться. Например, в одном исследовании более чем 1 100 человек, использующих ИИ-компаньонов, исследователи из Stanford и Carnegie Mellon обнаружили, что люди с меньшими социальными сетями чаще всего обращались к чат-боту за общением. И чем более интенсивным и эмоционально личным становилось это использование, тем хуже они себя чувствовали.
Молодые люди могут испытать последствия на протяжении всей жизни. В своей книге The Anxious Generation Джонатан Хайдт делает наблюдение о влиянии социальных сетей, которое ещё больше справедливо для ИИ: «Как молодые деревья, подвергающиеся воздействию ветра, дети, которые регулярно сталкиваются с небольшими рисками, вырастают во взрослых, способных справляться с гораздо более серьёзными рисками без паники. И наоборот, дети, которых растят в защищённой теплице, иногда становятся парализованными тревогой ещё до того, как достигнут зрелости».
ИИ-компаньон, созданный так, чтобы никогда вас не расстраивать, — это большая защищённая теплица.
Мы только начинаем понимать опасности, которые интернет — особенно социальные сети — может представлять для развития молодых людей. Мы видим компульсивное использование, нарушение сна, кибербуллинг и воздействие вредного контента. ИИ может усилить многие из этих рисков, сделав их более убедительными и более трудными для избегания, и нам не следует ждать ещё одно поколение, прежде чем начать относиться к ним всерьёз. Страны, включая Австралию, Великобританию и Норвегию, вводят меры защиты детей в интернете. Китай пошёл дальше всех. Его правила широко ограничивают приложения ИИ-компаньонов, запрещают дизайны, которые формируют эмоциональную зависимость, и запрещают виртуальных родственников и романтических партнёров для несовершеннолетних.
Тот же инструмент, который позволит людям учиться больше, чем когда-либо, может также привести к тому, что многие люди будут учиться меньше.
Меня также беспокоит влияние ИИ на образование. По иронии, тот же инструмент, который позволит людям учиться больше, чем когда-либо, может также привести к тому, что многие люди будут учиться меньше. Один предварительный опрос показал, что более активное использование ИИ было связано с менее развитым критическим мышлением. Этот эффект был сильнее у молодых людей.
Это было бы самым неподходящим временем для того, чтобы люди потеряли навыки критического мышления. В эпоху дипфейков и дезинформации, которую можно подстраивать индивидуально под вас, способность отличать правду от неправды становится необходимым жизненным навыком.
Неясно, где проводить границу в отношении этих психосоциальных проблем. В некоторых случаях ИИ может помочь людям понять, как лучше выстраивать человеческие отношения. Для изолированных пожилых людей и людей с ограниченной мобильностью он может быть единственным контактом с внешним миром, и это будет лучше, чем ничего. Где бы мы в итоге ни провели эту границу, это должно быть нашим решением, принятым осознанно.
Хорошее, что мы можем сделать с помощью ИИ, может быть очень, очень хорошим
Часто говорят, что мы переоцениваем то, насколько многое изменится в краткосрочной перспективе, и недооцениваем то, насколько многое изменится в долгосрочной перспективе.
С ИИ я вижу, что происходит нечто другое. Некоторые люди видят только положительную сторону ИИ и недостаточно сосредотачиваются на негативных последствиях. Другие совершают противоположную ошибку: сосредотачиваются исключительно на опасностях, которые реальны, но из-за этого упускают потенциальные преимущества.
Нам нужно и то и другое: глубокая обеспокоенность вредом от ИИ, который нам нужно минимизировать, и обоснованный оптимизм в отношении положительных сторон, если мы сможем максимально распространить их на всех.
Максимизация преимуществ так же важна, как и минимизация вреда. Если люди увидят, как ИИ облегчает их жизнь, это поможет укрепить общественное доверие, необходимое для управления более сложными частями перехода. Если первое, что ИИ сделает в жизни большинства людей, — это отнимет у них работу, те, кто уже относится к нему скептически, отвергнут его полностью. Это усложнит реализацию преимуществ в будущем, и это ещё одна причина, по которой правительства, отрасли, включая медицинскую отрасль, и компании в сфере ИИ должны работать вместе уже сейчас.
Благодаря способности синтезировать знания из всех научных областей ИИ может ускорить инновации в решении самых сложных технических задач мира: обеспечения всех надёжной чистой энергией, борьбы с изменением климата, выращивания достаточного количества продовольствия, искоренения болезней и многого другого. Исследователи, работающие над лечением рака или ядерной энергетикой, могут использовать ИИ для поиска по огромным массивам научной литературы. Он может помочь им выявлять закономерности, которые человек мог бы пропустить, и решать, какие эксперименты выглядят наиболее перспективными. Когда интеллект перестанет быть ограничивающим фактором, каким он является сегодня, небольшие компании смогут конкурировать с организациями, имеющими гораздо более крупные исследовательские бюджеты. Научно-исследовательские и опытно-конструкторские работы и инновации получат мощное ускорение.
Здравоохранение — одна из областей, где ИИ может помочь решать реальные проблемы. Во многих небольших американских больницах нет специалистов на месте, которые могли бы быстро поставить диагноз пациенту во время угрожающей жизни чрезвычайной ситуации. В таких местах ИИ мог бы обеспечить своевременное выявление сердечного приступа и помочь семье избежать разрушительных расходов, связанных с медицинской экстренной ситуацией. Viz.ai — один из примеров. Он анализирует снимки, чтобы выявлять инсульты и другие неотложные состояния, и помогает медицинским командам координировать лечение пациентов. Он используется почти в 2 000 больниц США.
ИИ также поможет врачам первичного звена ставить более точные диагнозы и поддерживать связь с пациентами, когда те находятся не в клинике. Он поможет пациентам понимать результаты анализов и сложные графики приёма лекарств.
Сельское хозяйство — это та область, где я вижу самый быстрый эффект ИИ в странах с низким уровнем дохода.
Я удивляю многих людей, когда говорю им, что вторая область — сельское хозяйство — это та сфера, где я вижу самый быстрый эффект ИИ в странах с низким уровнем дохода. В большинстве стран с низким уровнем дохода фермеры не получают надёжных прогнозов погоды или советов о том, какие семена сажать, как защищать урожай и скот от болезней или как улучшать почву. С учётом роста населения в этих странах и вызовов, связанных с изменением климата, этим фермерам нужна помощь больше, чем когда-либо. С помощью ИИ фермеры с низким доходом скоро смогут получать более качественные советы по всем этим вопросам, чем сегодня получают даже самые богатые фермеры, и существенно увеличить объём производства.
Государственные услуги — третья область, в которой ИИ может сделать жизнь людей проще. В Соединённых Штатах я встречал семьи, которые, что вполне понятно, были подавлены процессом подачи заявок на медицинскую страховку, студенческую помощь или продовольственную поддержку. Столкнувшись с огромной стопкой сложных бюрократических форм, многие чувствовали, что готовы сдаться. ИИ может радикально упростить эти процессы, чтобы люди быстрее получали необходимую помощь, а государство работало эффективнее. Правительства могут значительно улучшить опыт граждан, начиная с тех, кто больше всего нуждается в услугах социальной защиты.
Несмотря на мои опасения по поводу влияния ИИ на наше психическое здоровье, я думаю, что он может многое улучшить и в этой сфере. В большинстве сообществ слишком мало консультантов, психиатров и специалистов по зависимостям. При наличии надлежащих мер защиты приватности инструменты ИИ могли бы помогать людям распознавать тревожные признаки. Затем, если потребуется, они могут предложить основанные на доказательствах стратегии совладания и работать совместно с человеком-специалистом, чтобы обеспечить более отзывчивое лечение.
ИИ также может стать благом для образования, несмотря на опасения, которые я упоминал ранее. Он может освободить учителей, чтобы они проводили больше времени, работая с учениками один на один или в малых группах, и дать им более ясное представление о том, где испытывает трудности весь класс. Для учеников инструмент ИИ, который сохраняет то, что исследователи называют «продуктивной борьбой», — когнитивную работу, формирующую понимание, — может усилить обучение. Когда ученик впервые сталкивается с новой идеей, ИИ даёт содержательные объяснения и предлагает как вопросы, так и ответы. Позже, когда он проверяет понимание, он не даёт ответ сразу и помогает ученику прийти к нему самостоятельно.
В совокупности достижения во всех этих областях могли бы сделать повседневную жизнь проще, доступнее и менее зависимой от дохода или связей человека.
ИИ мог бы дать отдельным людям и малому бизнесу доступ к возможностям, которые сегодня требуют дорогой профессиональной помощи или больших штатов сотрудников, одновременно делая продукты и услуги лучше и дешевле. Он мог бы помочь людям с инвалидностью жить более независимо и дать работникам и предпринимателям с хорошими идеями возможность сделать гораздо больше, чем они могут сегодня.
Самое главное — он мог бы вернуть людям часть времени и внимания, которые сейчас поглощают бумажная работа, бюрократия, поиск надёжной информации и задачи, за выполнение которых они не могут позволить себе заплатить кому-то другому. Эти преимущества могут казаться скромными, но, умноженные на миллионы жизней, они будут глубокими: больше людей смогут получать хорошие советы тогда, когда они им нужны, и иметь больше свободы сосредоточиться на жизни, которую они хотят построить.
Мы должны действовать осознанно, чтобы гарантировать, что он принесёт пользу всем, а не только богатому меньшинству.
Во всех этих областях ключевое слово — «может»: ИИ может улучшить жизнь людей на любом уровне дохода. Но он не сделает этого автоматически. Как и в случае с любой новой технологией, мы должны действовать осознанно, чтобы гарантировать, что она принесёт пользу всем, а не только богатому меньшинству. Это потребует сильной роли правительств и филантропии, чтобы менее состоятельные граждане и страны с низким уровнем дохода стали полноценными получателями этих преимуществ.
У Фонда Гейтса осталось 19 лет из 20 лет, в течение которых он потратит оставшиеся 200 миллиардов долларов. ИИ поможет ему достичь амбициозных целей, одновременно ускоряя открытие вакцин и лекарств против ВИЧ, туберкулёза, малярии и недоедания, а также помогая медицинским работникам и пациентам понимать, как использовать эти инструменты. Цели фонда включают повторное сокращение вдвое числа детей, умирающих каждый год, как это уже произошло с 2000 по 2024 год. Вся наша работа — не только в здравоохранении, но также в сельском хозяйстве и образовании — будет в полной мере использовать ИИ.
В следующем месяце я напишу гораздо больше об этих усилиях в ежегодном отчёте фонда Goalkeepers, включая наш фокус на том, чтобы модели ИИ были доступны на языках, на которых говорят люди во всех странах, где мы поддерживаем работу, а не только на тех языках, которые распространены в богатых странах и странах со средним уровнем дохода. Многие ведущие компании в сфере ИИ, включая OpenAI, Anthropic, Google и Microsoft, сотрудничают с фондом во всех этих инициативах, и это многое меняет.
Миру нужен план
Хорошо, что некоторые компании в сфере ИИ предлагают решения проблем, созданных их собственной технологией, но мы не должны ожидать, что именно они возглавят этот процесс. Часть этих вопросов находится за пределами их области компетенции, а в демократическом обществе не им решать такие вещи.
Вместо этого решения должны разрабатываться через публичный демократический процесс, в который входят избранные должностные лица, разработчики политики, педагоги, медицинские работники, местные чиновники и лидеры сообществ. Жизни миллионов людей будут нарушены, и нам понадобится более сильная и более гибкая система социальной защиты, чтобы помочь им пройти этот переход. Местные сообщества уже поднимают вопросы об энергии и воде, необходимых для центров обработки данных. Без решений некоторые группы будут требовать полностью остановить развитие и внедрение ИИ.
Решения должны формироваться на основе наших ответов на глубокие вопросы, которые ставит ИИ, включая вопрос о том, как сохранить нашу человечность в то время, когда машины могут мыслить сильнее нас. Религиозные лидеры, как люди, которые всю жизнь размышляют о том, что значит быть человеком, могут сыграть в этом ключевую роль. Меня заинтересовала энциклика Папы Льва XIV об ИИ — «О защите человеческой личности во времена искусственного интеллекта». Она создаёт прочное основание для работы, которую необходимо проделать.
В ближайшие месяцы я поделюсь новыми идеями о том, как сделать так, чтобы польза от ИИ перевесила причиняемый им вред. Вот три идеи для начала, начиная с той, которую я считаю самой важной.
Построить новую систему управления переходом
Наивысший приоритет — это колоссальная задача: создание внутренней и международной рамки для работы с ИИ.
Ни один из наших нынешних институтов не был создан для управления технологией, которая распространяется так быстро и затрагивает так много сторон нашей жизни. Поэтому нам нужно будет создать новые.
Трудно переоценить, насколько масштабным будет это начинание. После атак 11 сентября правительство США прошло через крупнейшую реорганизацию со времён Второй мировой войны ради улучшения всего одной функции — национальной безопасности.
ИИ потребует гораздо, гораздо большего. Он затронет национальную безопасность, а также занятость, образование, налогообложение, энергетику, выборы, воздух и воду, общественное здравоохранение, финансовую систему, правоохранительные органы, транспорт, общественные земли и IT-системы.
Эти сектора пересекаются так, что наша существующая бюрократия не предназначена для управления ими. Министерство труда может понимать нарушение на рынке рабочей силы, но не риски безопасности. Регулятор бизнеса может понимать концентрацию рынка, но не влияние ИИ на детей и подростков. Предоставленные самим себе, институты будут видеть только одну часть системы, тогда как последствия ИИ будут расходиться волнами по всей системе.
На национальном уровне странам понадобятся органы, способные устанавливать приоритеты между государственными ведомствами. Цель будет состоять в том, чтобы убедиться, что каждый риск учтён. Иначе атака с использованием ИИ может оказаться успешной просто потому, что никто не счёл своей задачей её остановить.
Но даже страна, которая приведёт собственный дом в порядок, всё равно будет подвержена рискам, пересекающим границы. Именно поэтому параллельно потребуется создать международную организацию.
Она будет не похожа ни на один институт, который мы когда-либо создавали, хотя может следовать модели некоторых существующих систем. Есть режим инспекций ядерного оружия, правила международной авиации и соглашения, защищающие озоновый слой. Новой глобальной организации по ИИ понадобятся элементы всех трёх систем и даже больше.
Справедливо задаться вопросом, способны ли мировые институты справиться с задачей проектирования и внедрения этой новой архитектуры. Государство движется медленно, если вообще движется, а поляризация внутри стран и между странами делает достижение результатов труднее, чем когда-либо. Потребуется определённое сотрудничество между США и Китаем.
У нас нет роскоши двигаться медленно. Начать нужно с процесса создания правильных институтов до того, как потрясение заставит правительства перейти в кризисный режим. Национальные лидеры должны регулярно собирать экономистов, технологов, экспертов по труду, бизнес-лидеров и самих работников, чтобы выявлять, где существующие институты не справляются и какие новые полномочия могут потребоваться. Странам нужно будет учиться друг у друга.
А страны, где находятся ведущие разработчики ИИ и которые контролируют критически важные части цепочки поставок, должны уже сейчас начать встречаться, чтобы установить общие нормы, прежде чем конкурентное давление усложнит сотрудничество между ними.
Построение рамки, о которой я говорю, займёт годы, поэтому начинать нужно сейчас.
Зарезервировать некоторые виды работы за людьми
Мой отец умер от Альцгеймера в 2020 году. На поздних стадиях болезни за ним днём и ночью ухаживали оплачиваемые сиделки, которые понимали его даже тогда, когда ему было трудно выразить себя. Он не всегда мог сказать им, что голоден, но они всегда это знали.
Моя семья и я всегда будем благодарны этой удивительной группе профессионалов. В заботе, которую они давали моему отцу, было что-то незаменимо человеческое. Ни один робот не мог и не должен был этого делать.
Я думаю об этой команде, когда возникает вопрос о том, какие рабочие места исчезнут, а какие останутся. Я считаю, что по мере совершенствования ИИ и роботов мы выделим определённые вещи, которые должны делать только люди. Я начал называть эту область Human Reserved — «зарезервировано для человека», и это пример тех идей, которые нам нужно будет рассмотреть.
Мне нравится выражение Human Reserved, потому что оно напоминает мне о природных заповедниках — местах, где мы могли бы построить здания и дороги, но выбираем этого не делать, потому что потеря была бы слишком большой.
Мы можем зарезервировать что-то за людьми по экономическим причинам. Например, мы можем сделать это потому, что передача определённой роли машинам вытеснит большое количество людей, которым будет трудно сменить работу. Нельзя сказать 55-летнему человеку, который всю карьеру работал в строительстве, что теперь ему нужно идти работать в учреждение по уходу за пожилыми, и ожидать, что он найдёт в этом удовлетворение.
Иногда решение сделать что-то Human Reserved будет продиктовано другими факторами. Например, в здравоохранении представьте, что робот сообщает вам ужасную новость о том, что у вас неизлечимая болезнь. Нет технической причины, по которой он не мог бы этого сделать. И всё же он не должен этого делать.
Область Human Reserved будет со временем развиваться: например, нам следует рассмотреть возможность зарезервировать некоторые рабочие места уже сейчас и вводить ИИ постепенно, в течение лет или десятилетий, с обязательством сохранить часть рабочих мест. Некоторые области, такие как образование и психиатрическая помощь, будут смешанными: человек будет главным, используя технологию для расширения своих возможностей.
Границы также будут различаться от места к месту. Некоторые страны могут настаивать на том, чтобы за пожилыми людьми ухаживали люди. Но такая страна, как Япония, где рабочая сила сокращается и не хватает молодых людей для ухода за пожилыми, может приветствовать робота-сиделку.
Идея Human Reserved поднимает множество вопросов, на которые у меня нет ответов. Кто должен решать, что мы резервируем за людьми? Какие критерии следует использовать? Как не дать компаниям мошенничать и всё равно использовать роботов? Что произойдёт с международной торговлей, если одна страна позволит роботам производить что-то, а другая — нет? Эти вопросы нужно будет решать публично как часть плана перехода.
Перебалансировать то, как мы облагаем налогами труд и капитал
По мере того как работников будут вытеснять в другие профессии, им понадобятся переобучение и другая поддержка со стороны системы социальной защиты. Но они будут работать меньше, а значит, будут платить меньше подоходных налогов, и государственные доходы снизятся как раз в тот момент, когда спрос на эти услуги будет самым высоким. Средства должны будут откуда-то поступить — в период, когда бюджеты и так напряжены.
Я считаю, что мы должны облагать налогом токены ИИ и роботов. Сейчас, если вы работодатель и нанимаете человека, вы платите налоги на фонд оплаты труда с его заработка. Но если вы покупаете робота, обычно вы можете сразу списать его как деловой расход. Налоговая система подталкивает вас к замене людей машинами.
Налог немного замедлил бы стремительный уход от человеческого труда и позволил бы собрать деньги на переобучение и более сильную систему социальной защиты. Он должен быть адресным, чтобы не замедлять чисто полезные применения ИИ, например удешевление медицины и образования.
Критики этой идеи указывают, что она не является оптимально эффективной с экономической точки зрения, но они не учитывают более широкую ценность работы для отдельных людей и общества. А при всём ускоренном инновационном развитии, которое у нас будет, мы сможем позволить себе немного неэффективности как цену за сохранение занятости людей.
Я предложил налог на роботов много лет назад, и большинство реакций сводилось к тому, что это странная идея. Я по-прежнему большой сторонник этой идеи. Хотя это не всё решение угрозы, исходящей от ИИ, это часть мудрого ответа.
Каким бы способом мы ни собирали деньги на дополнительную помощь, они должны доходить до тех, кто нуждается в ней больше всего, включая работников, потерявших работу из-за ИИ и роботов, людей, у которых сокращаются рабочие часы или зарплата, и сообщества, где потери концентрируются. Нам нужно начать эту работу уже сейчас, чтобы системы были готовы тогда, когда потребность станет острой.
Что делаю я
Я буду использовать свой голос и своё время, чтобы поднять ИИ и равенство возможностей выше в общественной повестке. Я буду поднимать этот вопрос перед законодателями каждый раз, когда буду приезжать в Вашингтон, округ Колумбия, и когда буду встречаться с лидерами по всему миру. Он будет в центре моих разговоров с людьми, которые разрабатывают модели ИИ. Я буду выступать за национальную и международную рамку, которую описал ранее. Фонд Гейтса будет помогать продвигать полезное применение ИИ, в том числе в Африке. Breakthrough Energy, компания, которую я основал, будет использовать ИИ, чтобы помогать компаниям разрабатывать дешёвую чистую энергию и помогать решать климатическую проблему. Я также буду регулярно писать об ИИ.
Моё послание лидерам таково:
У вас есть шанс действовать сейчас, до того как безработица резко вырастет, сообщества начнут страдать, а общественное доверие будет подорвано. Вы можете сделать так, чтобы ваше правительство решало проблему целостно, а не делило её между несколькими бюрократическими вотчинами. Вы можете сделать так, чтобы ИИ приносил пользу всем. И вы можете работать с другими правительствами, чтобы ответить на этот национальный и глобальный вызов.
Наконец, я постараюсь расширить круг людей, формирующих эту дискуссию. В него должны входить работники, студенты колледжей, которые скоро выйдут на рынок труда, лидеры сообществ, религиозные лидеры и религиозные организации, родители, педагоги и другие люди, чьи голоса часто не слышны, но у кого есть понимание того, как этот переход повлияет на жизнь людей.
Как нам гарантировать, что преимущества ИИ дойдут до людей, у которых уже нет богатства, влияния и доступа?
Как нам укрепить систему социальной защиты и помочь работникам и сообществам процветать даже тогда, когда их вытесняют?
Как должны адаптироваться государственные институты?
И как нам сохранить нашу человечность во всём этом?
Эта беспрецедентная технология требует беспрецедентного глобального ответа.
Эта беспрецедентная технология требует беспрецедентного глобального ответа. Если мы всё сделаем правильно, отдача для человечества будет феноменальной, а мир станет более справедливым.
Я редко перестаю думать об ИИ — не потому, что у меня есть все ответы, а потому, что вопросы, которые он ставит, слишком значительны, чтобы оставлять их небольшой группе технологов. Лидеры в академической среде, бизнесе, государстве и гражданском обществе — все должны сыграть свою роль в формировании того, что будет дальше.
Поделиться ссылкой:
Больше на Granite of science
Подпишитесь, чтобы получать последние записи по электронной почте.
