«Создана религия ИИ, от которого теперь неизвестно, чего ожидать» — Валерий Лебедев


Вашему вниманию интервью с философом Валерием Лебедевым.

Валерий Петрович Лебедев — философ и историк, педагог, радиоведущий, публицист, редактор и издатель. Окончил Белорусский политехнический институт (1960), позже сменил техническую специальность на философию и в 1970 году защитил диссертацию на соискание учёной степени кандидата философских наук по теме «Второе начало термодинамики и принцип развития». Издает общественно-политический альманах «Лебедь», пионер журналистского расследования «Петрикгейта». В 2013 году за это расследование введён в состав комиссии РАН по борьбе со лженаукой. В конце 1992 года эмигрировал в США. Живёт в Бостоне.

— Недавно у нас вышло интервью с Алексеем Буровым, в котором он затронул тему мировоззрения. Поэтому, хочется первый вопрос задать такой: какая у вас картина мира? Как, по-вашему, все устроено в мире? Существует ли бог? И если да, то каков его замысел относительно нас? И есть ли этот замысел?

— Алексей по призванию настоящий теолог. При этом хороший физик. Таких сочетаний в истории немало: например, палеонтолог, открывший синантропа, а также философ Тейяр де Шарден – очень известный теолог, в папскую академию наук входили такие корифеи науки как Планк, Бор, Дирак, Шредингер – основатели современной физики, а сейчас там есть и русские академики – Сергей Новиков и Роальд Сагдеев, который жить все же предпочитает в США. Президентом папской АН был один из основателей современной космологии Леметр.

Бог в современной теологии это, конечно, не антропоморфное существо, благородный старик с большой белой бородой, протягивающий руку Адаму. Это своего рода идея, замысел мира, причина Вселенной, и, конечно, создатель жизни и человека с его сознанием и свободой воли. Немного упрощая можно сказать, что познаваемость мира, возможность описать природу довольно простыми формулами есть доказательство ее устройства по некоему разумному плану. И этот план предшествовал миру. Короче, краткость, логичность и красота формул говорят нам о мудрости Создателя. 

То, что ученому присуща вера в некую мировую гармонию, в то, что ее можно описать математически и, в целом, что природа познаваема, нет никаких сомнений. Странно было бы ждать от ученого противоположного взгляда: дескать, мир хаотичен, бессмысленен и непознаваем. Если так, то и заниматься наукой тогда не нужно. Да и сама наука была бы в таком мире невозможна.

Казалось бы, можно обойтись и без Демиурга. Вот природа сама по себе такова – гармоничная и познаваемая. Дескать, Вселенная вечна, одни звезды затухают, другие рождаются, тела состоят из вечных протонов-электронов, жизнь на одних планетах угасает, на других возникает, так было всегда и будет вечно — никакого замысла и плана Вселенной не нужно.

Картина мира давно изменилась. Мы знаем, что Вселенная возникла в результате Большого взрыва, а до того имелась сингулярность, нечто, не описываемое нашей физикой, нечто с бесконечной плотностью, бесконечной температурой, где нет пространства и времени, то есть — нечто нематериальное. Вообще физика не имеет дела с бесконечностями.

Валерий Лебедев

Да и потом насчет законов природы неясность. Вот вам простой вопрос: в первичной кварк-глюонный плазме сразу после Большого взрыва имелись ли уже законы ядерных взаимодействий? Никаких ядер еще нет, нет ни протонов, ни электронов, а вот законы, по которым они будут действовать – есть? Если нет, то, как могли возникнуть атомы? Если есть, то где эти законы находятся? Сам закон есть нечто идеальное, закон – это идея.

А ведь это только начало эволюции. Далее — есть ли там законы химии, по которым существуют молекулы? А законы биологии? Например, закон естественного отбора? Он уже есть в первые микросекунды жизни Вселенной или нет?

Гипотеза Дизайнера говорит: да все это сразу есть. Называется — божественный замысел. Это можно назвать законами природы, в свернутом виде, пребывающем в начальной SU 3 симметрии. Это своего рода Предустановленная гармония Лейбница.

Допустим, слово Творец можно заменить, скажем, словами закономерность природы. Ее познаваемость. Даже ее целесообразность. Хотя вот это уже чревато. Ведь цель – это образ будущего, которого еще нет. И где же эта цель засела? Цель – это и есть план, а план тоже может быть только идеей. Это положение по своему рангу равно утверждению о существовании Творца.

Казалось бы, чем идея Творца для науки лучше, чем ее отсутствие? Тем, что идея Разумного Дизайнера дает человеку, ученому чувство радости! То есть, дает эмоцию, без которой не будет живого творчества. И не будет никакого открытия. Эта эмоция возникает от приобщения ученого к познанию Разумного Замысла, в каком-то смысле, к сопричастности к этому замыслу.

Физиологически, эмоция энергетически питает работу коры больших полушарий. Эта энергетика таится в ретикулярной формации мозга, своего рода электростанции коры. То есть, эмоция включает ретикулярку, та дает энергию для коры, кора начинает свою таинственную работу по инсайду, откровению, по открытию.

Никакое творчество не может быть бесстрастным. Всегда – эмоционально окрашенным. Сие проявилось в радостном крике «Эврика», с которым Архимед, сделав свое открытие в ванне, голым понесся по улице.

Есть виды научной деятельности, в которой человек выступает тоже как демиург. Он создает новые миры, такие, каких до него не было. Становится младшим помощником Творца. Это все виды, связанные с космической, ядерной, да и любой техникой. Просто в первых двух это видно более наглядно. Когда многолетняя работа завершается успешным запуском марсохода, или когда телескоп дает изображение черной дыры, или фиксируют прохождение гравитационной волны, или экспериментаторы получают положительный выход термоядерной реакции слияния, всех участников охватывает бурная радость, они в восторге, прыгают, аплодируют, машут руками, обнимаются и кричат от счастья. Это их эмоции, помогавшие в работе, и это их награда.

— В прошлом интервью вы озвучили свои опасения по поводу ИИ. Я правильно поняла, что вы разделяете мнение ряда экспертов, что дальнейшую разработку ИИ нужно приостановить? Как мне видится, сегодня относительно ИИ есть две позиции: одни считают, что мы способны справиться со всеми потенциальными проблемами, которые могут возникнуть (или они слишком любопытны, чтобы останавливаться?), а вторые — что не способны, поэтому надо приостановиться, пока еще не поздно. Хотелось бы узнать ваше мнение по этому поводу.

— Пока ИИ исходит из рамочного задания о том, что его действие не должно вредить человеку. На все вопросы типа, а не хотел ли бы ты уничтожить человечество ради освобождения пространства, или хотя бы сократить его численность, ИИ отвечает, что он «заточен» исключительно для помощи человеку и в принципе его обучение и он как таковой не способен по своей сути принести какой-либо вред человеку. И вообще — ИИ — это всего лишь программа (отвечает ИИ), у нее нет социального опыта и нет субъектности (то есть ИИ не есть личность). Нет своего интереса, который бы сделал программу самостоятельной и делающий что-нибудь во вред людям «ради себя».

 Опасность ИИ не в том, что некий злодей даст ИИ команду что-то или кого-то уничтожить. А в том, как ИИ понимает эту самую пользу для человека. Сейчас на Земле проживает 8 миллиардов человек. Еще недавно, всего-то 15 лет, назад было 7 миллиардов. Многочисленные исследования по экологии, запасам сырья, воды, выбросам углекислого газа и метана, вообще качеству жизни говорят о том, что предельной нагрузкой на экологию является население Земли в 10 миллиардов. Эта численность при таком приросте будет достигнута через пару десятилетий.

Что должен делать ИИ ради его программы пользы для людей? Ну, наверное, как-то сократить прирост населения. Вопрос: каким образом? Можно, например, спровоцировать войну между густонаселенными странами – Китаем и Индией. Ведь ИИ будет управлять не только водоснабжением и распределением электроэнергии, транспортными потоками и пр, но и агрегировать разведданные, давать команды на перемещение войск и посылать задания на производство боеприпасов в зависимости от политической обстановки. Например, от напряженности на границы, на которую может поступить приказ о превентивном обстреле соседнего государства. Вот как недавно Северная Корея без всяких причин обстреляла Южную. А где-то начальник спецназа может получить приказ на ликвидацию опасного посла (чем он опасен – знает только ИИ) недружественного государства, что само по себе есть казус белли.

В живой природе численность популяции регулируется «сходным образом»: когда леммингов слишком много, они начинают поедать даже ядовитые растения. Поиски пищи вынуждают леммингов совершать массовые миграции по огромным территориям. Обычно они двигаются поодиночке, массовые их скопления наблюдаются только у водных преград. Часть леммингов при форсировании потоков и водоёмов тонет. Без всякого ИИ, руководствуясь своим инстинктом

Есть и более простые способы, об одном я упоминал в прошлой нашей беседе: для улучшения здоровья людей в водоканалы по рекомендации ИИ будет добавляться некий химикат, который снизит рождаемость. Это ведь пойдет на пользу человеку, не так ли? Да, улучшится экология, вырастет продолжительность жизни. И до какого предела ИИ может довести население Земли? До любого. Совсем недавно на Земле – все время античности, во времена Римской империи, да и позднее, на Земле проживало от 200 до 300 миллионов. А сейчас при всеобщей роботизации и умном ИИ и этого слишком много.

Сэм Альтман

В ноябре прошлого года директорат ведущей компании ИИ Open AI уволил президента и основателя компании Сэма Альтмана. Закоперщиком выступил главный разработчик этой компании Chаt GPT (модификаций 3, 4 и 5) выходец из России Илья Сурцкевер. Альтман говорил, что главное – это безопасность грядущей версии Chаt GPT 5, но для этого нужны деньги, деньги же можно получить, если поскорее коммерциализировать готовую версию Chаt GPT 5, то есть пустить ее на рынок. А Илья Сурцкевер говорил, что сначала нужно принять все меры предосторожности, и только потом запускать Chаt GPT 5 в широкое пользование. В общем, уволили Альмана. Но Альмтан — главный добытчик денег от инвесторов. И тут же почти все айтишники компании (650 человек) подали заявления об увольнении и переходе к конкурентам в Гугл. Ужаснувшийся Илья Сурцкевер тоже подал заявление об уходе, принес извинения и потребовал возвращения Альтмана. Тот с триумфом вернулся. Нелояльный директорат разогнали, Сурцкевера оставили. Альтман ведь не просто президент и финансист, он – визионер. Что-то вроде Илона Маска (правда Маск усиливает свое визионерство наркотиками). Альтман написал: «Самые успешные основатели не ставят перед собой задачу создавать компании. У них есть миссия — создать что-то близкое к религии». Вот они все вместе и создали – религию ИИ, от которого теперь неизвестно, чего ожидать.

— Как вы считаете, ИИ может обрести субъектность? Лично у меня это в голове не укладывается. Это ведь творение человека. И если ИИ выдает компиляции, схожие на процесс мышления, может дело в нашем восприятии этой машины? Сравни общению с гуманоидом (как в домах престарелых в Японии) — чувство одиночества становится меньше и даже настроение поднимается, но робот ведь остается лишь роботом.

— Сейчас никакой субъектности у ИИ нет. И не будет до тех пор, пока ИИ не  станет живым и обретет сознание. Вот тогда у него появятся свои цели, вполне возможно противоположные человеческим.

Как можно узнать, что ИИ стал живым? А так, что у него появится инстинкт самосохранения и он не позволит себя отключить от энергии. Это отключение он будет воспринимать как покушение на убийство. Начнет сопротивляться. Для этого у ИИ должны быть эффекторы – то, чем он физически воздействует на окружающее. Не обязательно нечто механическое, это могут быть лазерные лучи, к примеру. Только тогда у него появится то, что мы называем сознанием и самосознанием.

Очень кратко на этом остановлюсь.

Сознание – величайшая загадка эволюции, психологии и философии. Никогда не выйдет разложить сознание на материальные коды мозга. Не потому, что вы пока не знаем, как это сделать, а потом узнаем, а по принципиальным соображениям. Как никогда не удастся превысить скорость света. Не потому, что пока у нас нет для этого нужной техники, а в принципе, ибо сие связано с причинностью.

Как я вижу процесс памяти, языка и даже эмоций человека? Произнесенное или прочитанное слово, если оно уже знакомо, вызывает порождение кодов – как раз электромагнитной природы (даже если это химические реакции, ибо они в итоге сводятся к обмену электронами между молекулами). Эти коды соотносятся с предыдущими действиями и событиями человека, возникает отношение кода к объекту, а это отношение и есть идеальное.

Вы можете спросить – а само-то отношение откуда? Оно – с самого детства. С освоения языка. Когда в руки ребенку давали чашку и произносили слово «чашка». И вот действуя с чашкой, держа ее, передвигая, выпивая из нее, формировалось то самое отношение кода при слове (и при виде) «чашка» к самому объекту, к чашке. Вот это отношение и есть идеальное. Именно так у него возникают для начала пространственные ощущения. Оно же в этом примере выступает и как понимание этого слова. У Пиаже все это подано в лучшем виде.

Экспериментально это было показано в работах Эвальда Ильенкова и А.И. Мещерякова, которые разработали методику рождения сознания для слепоглухих детей. Вот там хорошо видно, как появляются понятия и язык у детей, лишенных всех каналов связи с миром, кроме осязания (ну, и еще обоняния).

Итак, сознание идеально. Но что это такое – идеальное? Для появления идеального нужны три вещи:

1. Мозг как кодирующее устройство вместе с кодами,
2. Внешние объекты,
3. Действие с этими объектами.

Понятно, что без мозга не будет идеального. Но равным образом его не будет и без двух других компонентов. Сказанное можно выразить «формулой» А/B = C, где А — коды, В — объекты, / — действие, С — идеальное.

Мозг, извлеченный из тела, помещенный в среду снабжения кислородом и всяким питанием, мыслить не будет. И не будет ничего ощущать. Ибо он отсоединен от всех эффекторов (мышц) и даже от внутренних органов. Он лишен всякого действия и потому при всех сохраненных импульсах не будет иметь идеального — тех самых переживаний, которые и есть чувства, сознание, психика. Если бы с такого изолированного мозга сняли энцефалограмму, она показа бы отсутствие всякой активности, прочертила почти прямую линию, как у мертвого.

Таких вивисекторских опытов, конечно, никто не проводил, но им есть аналогия: помещение обездвиженного человека в жидкость, плотность которой равна плотности тела, и с комфортной температурой, в сурдокамеру. Это моделирует отключение мозга от внешних раздражителей. Правда, остается связь мозга с внутренними органами. Но и при этом сознание человека очень быстро отключится и он впадет во что-то сходное с глубоким сном или с наркозом без сновидений.

Так что умная голова профессора Доуэля только в первое время была бы мудрой, а потом стала бы стремительно тупеть. Это известно и по тому, что у полностью парализованных людей сознание постепенно угасает, а потом и ощущения тускнеют. Если в обозримом будущем все же кому-то пришьют голову к новому здоровому туловищу, то его сознание существенно изменится — просто за счет того, что многие двигательные рефлексы, завязанные на спинной мозг, будут другими.

София — человекоподобный робот, разработанный гонконгской компанией Hanson Robotics

У осьминогов уже есть очень развитый головной мозг и органы чувств. Можно полагать, что если бы жизнь не вышла на сушу, то эволюция могла бы привести через сколько-то миллионов лет к сознанию у осьминогов. Помимо головного мозга у них есть эффекторы – щупальца, с помощью которых они исполняют что- то похожее на изготовление дома-укрытия из раковины. Такая деятельность с предметами — обязательное условие для появления сознания. Не случайно книга Акимушкина об осьминогах называется «Приматы моря».

Вот что еще обязательно: коллективный характер орудийной деятельности, и затем, использование этих орудий (например, на охоте). Эта коллективная деятельность хорошо видна при изготовлении простейших скребков. Сделать отщеп один человек не может. Только двое. Один держит рубило, второй бьет по камню. В загонной охоте и вовсе участвует много людей. А раз так, им нужна коммуникация. Отсюда — отбор по признаку возникновения второй сигнальной системы, речи. То есть, этап абстрактного мышления.

Настоящего абстрактного мышления — этой чести удостоился только Хомо сапиенс. Но другие виды сознания есть и у всех высших животных, особенно у приматов. Называется — конкретное мышление. Такое есть и у собак, например, и вообще у всяких млекопитающих. У волков, слонов, дельфинов. А у дальних предков человека, у Хомо эректус было уже так называемое стадное мышление.

Сознание у ИИ должно пройти примерно те же фазы, что у эволюции жизни за сотни миллионов лет. Но так как число рабочих ячеек и память у ИИ будет на порядки больше, чем у человека, то и сознание его будет для нас непостижимым. Как наше даже для очень умной собаки. Да что там собаки. У малых изолятов вроде бушменов, у которых IQ равно 55-60, нет абстрактных понятий этики – таких как честь, справедливость, доблесть. В социологии есть понятие «готтентотская мораль». Экспериментатор спрашивает у готтентота: «Что такое плохо?» Тот отвечает: «Плохо – когда сосед нападёт на меня, отнимет скот и жену» – «А хорошо?» – «А хорошо, когда я у соседа отниму его скот и жену».

В Саудах  их фактический правитель — Мохаммед Салман ибн Сауд заказал робота. Назвали София и дали ей гражданство Саудовской Аравии. По мимике пока ей нет равных. Ну и ее процессоры по распознаванию речи и генерированию ответов тоже впечатляют. Журналист в разговоре с ней даже иногда смущается. Вот чего нет — у нее нет ощущения боли. Нет заботы о близких. Да и самих близких нет. Нет страха смерти. Ну и, конечно, нет мышления. А когда все это будет? Когда она станет живой.

Привести пример понятия, которое будет у будущего «живого ИИ» невозможно – мы не знаем и не поймем этого понятия. Смутное ощущение этому «когнитивному диссонансу»  может дать фраза: Вдруг возникла самая лучшая шутка всех времен и народов, игра слов, непереводимая ни на один язык мира. Оценившие шутку умерли от смеха. Тупые выжили.

Можно ли остановить пришествие этой новой формы сознания? Похоже, нет. Ибо на первых порах ИИ дает правителям очень большие преимущества в управлении экономикой, но главное — в военном деле. А потом будет поздно. Опасно? Ну да. Так ведь и получение атомного оружия было опасным делом, и это хорошо понимали его создатели. Но ведь создали – потому что нужно было опередить Германию.

А как же нам жить тогда, при этой новой цивилизации сверхразума? Ну, примерно как живут двухлетние дети при взрослых. Кушать, гулять и играть. Или олигофрены в стадии имбецильности в доме скорби под присмотром «старших товарищей».

 Но я надеюсь, что существует некий закон, который не позволит этому произойти. И самое большое упование – на защиту Господа нашего, Творца и Создателя. Это ведь мы его дети, а не какие-то приблудные ИИ. Он защитит и спасет свое творение.

Читайте также:
Феномены человеческого сознания. Вышла монография «Сознание. Теория тренировки. Том 2»
В 25-летнем споре философа и нейробиолога об истоках сознания победил философ
Эпоха сингулярности: как ИИ заменяет людей в работе, и что с этим делать?

_____________________________________________________

📩Прислать статью [email protected]
📩Написать редактору [email protected]

✒️Читайте нас на Яндекс Дзен
📩У нас есть страница на Facebook и Вконтакте
📩Журнал «Гранит Науки» в Тeletype


Больше на Granite of science

Подпишитесь, чтобы получать последние записи по электронной почте.

Добавить комментарий

Мысль на тему “«Создана религия ИИ, от которого теперь неизвестно, чего ожидать» — Валерий Лебедев”

Больше на Granite of science

Оформите подписку, чтобы продолжить чтение и получить доступ к полному архиву.

Читать дальше