Представляем интервью с Рэем Курцвейлом, в котором он рассказал об экзистенциальных проблемах искусственного интеллекта, а также объяснил, почему развитие технологий вопреки рискам — это моральный долг общества, и почему не стоит запрещать роботов-убийц.
— Начнем с того, что вы объясняете Закон ускорения возвращения, который является одним из фундаментальных постулатов современности.
— Приведу пример с проекта о «Геноме человека». За первый год исследований ученые смогли изучить лишь 1% генома. Тогда критики стали прогнозировать, что при таком темпе программа будет завершена только через 700 лет. Однако каждый год темпы работы ускорялись, и в итоге проект был завершен спустя 7 лет. Более того, расшифровка индивидуального генома в самом начале проекта стоила миллиард долларов, а теперь процедуру можно провести за $ 1000.
Я упомянул только одно из последствий закона ускорения отдачи, поскольку он имеет много эффектов воздействия — и он действительно стоит за цифровой революцией, которую мы видим, — это 50-процентная дефляция в информационных технологиях. Поэтому я могу получить то же вычисление, связь, генетическое упорядочение и данные мозга. Вот почему вы можете купить iPhone или Android-телефон мощнее и дешевле сейчас чем два года назад.
Девушка из Африки сегодня может купить себе смартфон за $ 75, и эта цена считается экономически обоснованной, хотя в 1960-х смартфон стоил бы триллионы долларов, а в 80-х — не меньше миллиарда.
Все это изменится: мы будем печатать одежду с помощью трехмерных принтеров. Не сегодня; мы как бы находимся в фазе шумихи трехмерной печати. Но в начале 2020-х годов, мы сможем распечатать одежду. Появится много интересных проектов с открытым исходным кодом, которые вы сможете скачать бесплатно. Но индустрия моды продолжит свое существование, так же как у нас все еще есть музыка, кино и книжная индустрия, ассоциирующиеся со свободными продуктами с открытым исходным кодом, которые являются отличными игроками и проприетарными продуктами.
Мы сможем создать дешевую еду, используя вертикальное сельское хозяйство: используя гидропонные растения для фруктов и овощей, in-vitro клонирование мышечной ткани для мяса.
Все эти различные ресурсы станут частью информационных технологий. В Азии недавно было собрано здание, в качестве демонстрационного примера, с небольших модулей, сложенных в стиле Lego, которые были напечатаны из трехмерных принтеров, через несколько дней уже собрали трехэтажное офисное здание. Это будет характер строительства в 2020-х годах. 3-D принтеры распечатывают необходимые нам материальные вещи.
— Давайте поговорим об интеллекте и о том, когда наступит срок сингулярности и слияние с гаджетами?
— Искусственный интеллект достигнет уровня человеческого сознания в период до 2030 года.
В 1989 году я говорил, что ИИ сможет пройти тест Тьюринга в период между 2020—2030-ми годами. В 1999 году я определил срок 2029 годом. На недавней конференции по этике ИИ в Асиломаре я сказал, что сингулярности стоит ожидать через 13 лет.
Тест Тьюринга является валидной методикой тестирования машины на весь спектр человеческого интеллекта. Чтобы пройти ее, необходимо иметь не меньшую гибкость разума, нежели у настоящего человека. Здесь невозможны фокусы, жульничество. Как только человек не увидит разницы между ИИ и другим реальным человеком, этот момент можно будет считать наступлением сингулярности. Также добавлю, что дефляция инноваций касается не только аппаратного, но и программного обеспечения. Поэтому революция в сфере ИИ «уже не за горами».
Вместе с тем, пока искусственный интеллект только добирается до уровня человека, слияние человека с технологиями уже начало происходить. Давайте рассмотрим смартфоны, как продолжение нашего мозга. Хотя они и не внедрены внутрь в форме имплантов, всевозможные гаджеты уже непрерывно сопровождают человека и его мыслительный процесс.
Технологии не вытеснят нас, они нас модернизируют, делают лучше. И этот процесс уже происходит: можете ли вы оставаться столь же продуктивным без различных гаджетов? Нет. И это только начало.
Люди говорят, что только богатые смогут воспользоваться плодами технологической революции. Я им отвечаю: «Ага, как и в случае смартфонов, которыми сегодня владеет около 3 млрд человек».
Мы собираемся буквально слиться с технологией ИИ, для того, что бы стать умнее. Это уже есть. Эти устройства являются расширителями мозга, и люди действительно так думают об этом, и это новая вещь. Люди не думали о своих смартфонах именно так несколько лет назад. Они буквально войдут в наши тела и мозг, но я думаю, что это произвольное различие. Даже несмотря на то, что они находятся вне наших тел, они все же расширяют мозги и они сделают нас умнее и смешнее.
— Что вас беспокоит в будущем? Ваши взгляды оптимистичны?
— Меня обвиняют в том, что я оптимист. Чтобы быть предпринимателем нужно быть оптимистом, потому что, если бы вы знали все проблемы, с которыми вы столкнулись, вы, вероятно, никогда бы не начали свой проект.
Технологии современности очень мощные, и поэтому я беспокоюсь об этом, хоть я и оптимист. И я думаю, что мы справимся. Я не настолько оптимистичен, что не будет трудных эпизодов. Вторая мировая война, 50 миллионов человек погибли, и это, безусловно, усугублялось силой технологий в то время. Я думаю важно то, что люди осознают, что мы добиваемся прогресса.
— Какую профессию следует выбрать, чтобы быть востребованным в будущем?
— Я скажу сейчас банальные вещи, но я полагаю, что нужно следовать за своей мечтой. Конечно, некоторые люди имеют труднореализуемые намерения, им я рекомендую выбрать такой путь, который позволит изменить мир и который им по силу. Используйте те инструменты, которые вам доступны.
В свое время я начинал работу над проектами, которые стали в принципе реализуемыми на практике только через несколько лет. Нужно уметь видеть, куда следуют тренды. Всего несколько лет назад у нас в руках были устройства, лишь отчасти похожие на смартфоны, которые, к тому же, работали отвратно. Теперь, спустя пять лет, мы пользуемся ПО, которое трудно было себе представить всего несколько лет назад.
Выбирая себе профессию или работая над проектами, нужно действовать и мыслить таким образом, чтобы впоследствии вы успели на технологический поезд.
— Способны ли технологии решить острые и болезненные проблемы современности?
— Технологии всегда будут палкой в двух концах. Как огонь, который нас согревал и помогал готовить пищу, но в то же время мог спалить весь дом. Технологии И И всегда будут обладать огромной мощностью, а потому несут в себе огромный риск. Но и в данном случае человечество, скорее всего, традиционно пройдет все три фазы, которые люди всегда проходят в принятии новых технологий.
Первая — это желание решить давние проблемы с помощью инноваций, например, истребить болезни и устранить нищету.
Вторая фаза — это тревога из-за разрушительного характера технологий и даже чисто экзистенциальных рисков.
И третья фаза — это ощущение морального долга, обязывающего продолжать разработки вопреки всему.
Мы должны развивать технологии, потому что несмотря на весь достигнутый прогресс, нам все еще необходимо избавить человечество от страданий. И только дальнейший прогресс, особенно в области ИИ, поможет нам бороться с бедностью, болезнями и экологическими катастрофами. Многие люди думают, что человечество постепенно погружается в пучину бездны, на самом деле это не так. Я полагаю, что человечество справится с рисками.
Показательный пример. Недавно социологи провели опрос 24 000 человек из 26 стран. В нем респондентов спросили, уменьшилось или увеличилось количество бедных людей в мире за последнее время? 90% сообщили, что ситуация с бедностью стала хуже. И только 1% респондентов ответил правильно: количество бедных на планете уменьшилось на 50%.
— Давайте поговорим об этических вопросах. Нормах и правилах действий тех, кто стоит за разработкой новых технологий, которые имеют прямое влияние на человечество в целом?
— Несложно представить сценарии, при которых технологии приведут к уничтожению человечества. Яркий пример — биотехнологии, которые могут стать орудием в руках террористов, намеревающихся создать убийственный штамм вируса.
Однако, за последние 40 лет разработки в этой области не нанесли вред ни одному человеку. Во многом этого удалось добиться благодаря этическим нормам и четко обозначенным стратегиям.
Число людей, пострадавших от злоупотребления биотехнологиями, по-прежнему равно нулю. Это хорошее предзнаменование, поскольку сегодня это только капля, а завтра эти технологии наводнят все вокруг.
Да, мы можем запретить оспу или сибирскую язву, потому что мы и без них проживем. Но технологии, лежащие в основе автономного вооружения, имеют и другие сценарии применения. Дрон, доставляющий медикаменты в африканскую больницу, может использоваться и как оружие.
Так что наша задача состоит в том, чтобы воспользоваться возможностями и проконтролировать риски. Простых алгоритмов тут нет, потому что интеллект по своей сути не контролируем, нужно исходить из обстоятельств.
Источник: Bad Android
__________________________
Читайте нас в телеграм
https://t.me/granitnauky
Поделиться ссылкой:
Больше на Granite of science
Subscribe to get the latest posts sent to your email.
