«ИИ может привести к исчезновению человечества». А может, страх отвлекает от реальных проблем?

«Искусственный интеллект может привести к исчезновению человечества», — с таким апокалиптическим предупреждением выступила группа руководителей и ученых из технологических компаний, включая OpenAI и Google DeepMind.

«Уменьшение риска исчезновения человечества из-за развития искусственного интеллекта должно стать глобальным приоритетом наряду с другими рисками, такими как пандемии и ядерная война», — говорится в заявлении, опубликованном на сайте Центра безопасности ИИ, некоммерческой организации из Сан-Франциско.

Это — весь текст заявления, которое его авторы сознательно сделали максимально коротким, чтобы «не разбавлять мысль». Заявление уже подписали более 350 руководителей, исследователей и инженеров в области ИИ, в том числе Сэм Альтман из OpenAI, Демис Хассабис из Google DeepMind и Дарио Амодей из Anthropic.

А может, все не так страшно?

Далеко не все эксперты по искусственному интеллекту разделяют подобные настроения. Например, Ян Лекун, вице-президент и ведущий AI-исследователь корпорации Meta, считает их сильно преувеличенными. «Я думаю, что масштабы проблемы уравнивания ИИ с человеческим интеллектом были смехотворно преувеличены, а наша способность решить ее — сильно недооценена», — написал он.

С ним согласны и другие эксперты, которые полагают, что страхи перед ИИ во-первых, нереалистичны, а во-вторых, отвлекают внимание от реальных проблем. «Ныне существующий ИИ не настолько развит, чтобы подобные опасения материализовались», — сказал Би-би-си профессор Принстонского университета Арвинд Нараянан.

Напомним, что в марте профессор лингвистики Массачусетского технологического института Ноам Хомский опубликовал эссе о ChatGPT в New York Times вместе с профессором лингвистики Яном Робертсом и директором по искусственному интеллекту технологической компании Джеффри Ватумаллом. В эссе авторы написали, что ChatGPT и другие ИИ-системы неспособны к независимому мышлению. Более того, ответы ChatGPT демонстрируют «банальность зла: плагиат, апатию и уклончивость».

Одним из тех, кто разделяет страх перед возможностями ИИ, но решил взять развитие технологии под свой контроль, — предприниматель и инженер Илон Маск. В апреле он сообщил, что создал компанию X.AI для разработки решений в сфере искусственного интеллекта. А месяцем ранее он, и еще более 1000 экспертов, подписали открытое письмо, призывающее лаборатории ИИ по всему миру приостановить разработку моделей мощнее GTP-4 из-за «значительных рисков для общества и человечества». У Илона Маска есть свое видение каким должен быть подход к развитию ИИ.

Громкой была история, которая произошла летом 2022 года, когда 41-летнй инженер Google заявил, что ИИ обрёл сознание.  Его отстранили от работы, а затем уволили.

История развития человечества помнит научно-технические революции, которые вызывали страх и опасения людей, что они будут заменены машинами. Монахи, которые переписывали рукописи от руки, осуждали печатный станок, а камеру объявили ​​​​смертью живописи в середине 1800-х годов. Вспомните движение Луддитов, возникшее в первой четверти XIX века в ходе промышленной революции в Англии. Тогда рабочие ломали машины и оборудование в знак своего протеста. Научно-техническая революция – вещь неизбежная…

Читайте «Эпоха сингулярности: как ИИ заменяет людей в работе, и что с этим делать?»

_____________________________________________________

✒️Подписывайтесь на наш Telegram канал «Гранит науки»
✒️Читайте нас на Яндекс Дзен

📩У нас есть страница на Facebook и Вконтакте
📩Журнал «Гранит Науки» в Тeletype
📩Прислать статью [email protected]
📩Написать редактору [email protected]