Чума искусственного интеллекта

Автор — Валерий Петрович Лебедев — философ и историк, педагог, радиоведущий, публицист, редактор и издатель. Окончил Белорусский политехнический институт (1960), позже сменил техническую специальность на философию и в 1970 году защитил диссертацию на соискание учёной степени кандидата философских наук по теме «Второе начало термодинамики и принцип развития». Издает общественно-политический альманах «Лебедь», пионер журналистского расследования «Петрикгейта». В 2013 году за это расследование введён в состав комиссии РАН по борьбе со лженаукой. В конце 1992 года эмигрировал в США. Живёт в Бостоне.

В продолжение недавнего интервью с Валерием Лебедевым.

Я уже говорил в беседе с редактором журнала, что ИИ не антропоморфен, он не устроен как мышление человека, ему чужды такие понятия как эмпатия, сострадание, милосердие, моральные нормы, ценность жизни и пр. Этот ИИ будет встроен в управление экономикой, он будет управлять энергетикой, водораспределением, финансами, социальными программами и всем прочим. И ему придется доверять, как мы сейчас доверяем расчетам компьютеров полетов к другим планетам, а не проверяем их умножением в столбик, что технически невозможно, ибо заняло бы сотни лет.

А что, если этот ИИ сформирует свои цели, по которым он посчитает человека вредной плесенью, омрачающий экологию Земли? В общем, опасности явные.

В человеческой цивилизации европеец и пигмей — это вообще ближайшие родственники. Естественно, они могут найти некое взаимопонимание. Да и собаки наша родня. Более того, даже крокодилы, виду которых 80 млн. лет — это тоже (дальние) родственники. Поэтому вы вполне можете понять его, например, то, что он хочет вас сожрать.

Между какой-то бактерией и нами гораздо больше общего, чем между героем лемовского «Соляриса» Крисом Кельвиным и мыслящим океаном Солярисом. Ибо весь куст жизни имеет один исток, белковые молекулы построены по одному плану, равно как и ДНК. И то…

У вас есть сведения о том, что человек общался с осьминогом? А ведь это — приматы моря. У них развитый мозг и есть эффекторы. Был какой-то осьминог Пауль в Германии, который предсказывал результаты футбольных игр. Знаете как? Он сидел в своем аквариуме и шевелил щупальцами, а некто расшифровывал это как предсказания. Точнее, в его аквариуме размещалась кормушка — два разделённых куба (бокса) из прозрачного пластика; снаружи на стекле аквариума перед очередным матчем напротив каждого куба устанавливали (прицепляли) большие флаги стран-участниц. И почти всегда осьминог как бы предугадывал победителя. А ведь нас разделяет всего-то каких-то 500 млн. лет.

Представьте себе, что может существовать жизнь не на основе углерода, а, скажем, кремния. И те существа живут при температурах в сотни градусов Цельсия (как саламандры). Или вообще какие-то плазмоиды, как-то измысленные Лефевром. Да что там плазмоиды, если Лем уже провел мысленный эксперимент с Солярисом.

Станислав Лем

Если нет общности происхождения чего-то мыслящего в самих основах, то, скорее всего, не будет и понимания. В наше время — это ИИ. Похоже, что мы не сможем понять «тайных замыслов» этого будущего ИИ. А он нас? Пожалуй, тоже. Так, какая-то плесень, которая стремится размножаться и пожирать все вокруг себя, которую нужно ликвидировать.

Распространен тезис: «ИИ — «всего лишь» созданная людьми программа (пусть сложная, разветвлённая). У неё нет собственно интеллекта — своего. Она не мыслит и не осознаёт себя. Она не живёт».

Это не так. В том то и дело, что у ИИ есть интеллект. Уже вариант ChatGPT-5 планируют подключить ко всей data base цивилизации, к примеру, ко всей библиотеке Конгресса и еще к ряду крупнейших хранилищ информации.

ИИ вовсе не программа, как ее понимают по прошлому опыту. Это самообучающаяся система, нейросеть, которая, как полагают, сможет иметь собственные цели. Интеллект ИИ не такой, как у нас. Наш произрос на базе ощущений, восприятий, рефлексов, инстинктов, первичных форм конкретного мышления. То есть под ним лежит миллиард лет биологической эволюции.
У нас неокортекст занимает всего 2% всей деятельности мозга, остальные 98% занимаются управлением телом.

Тела у ИИ нет, и ее основанием сразу является вся информация человечества. Нет у ИИ никакого обмена веществ, в этом смысле ИИ «не живет». А вот энергия ИИ нужна. И вот как раз тут может возникнуть конфликт между человеком и ИИ.

Условно говоря, ИИ — это как бы вторая ступень ракеты. Она никак не связана со стартовым столом на земле. Она не знает сопротивления атмосферы, ее ареал — космос.

Что такое этот ИИ в своем развитии мы не можем сказать. Можем только думать, что ему не будет свойственна никакая эмпатия, помощь ближнему и так наз. любовь. Эффекторами ИИ на первых порах будут сами люди — они ведь будут вынуждены выполнять решения ИИ по управлению экономикой. Вот как сейчас космонавт в корабле выполняет команды бортового компа.

Каковы будут решения ИИ в близком будущем — никто не только не знает, но и представить не может. Отсюда и опасения и почти паника ученых мужей.

Многие находят утешение в том, что пусть у ИИ есть интеллект, но вот разума нет. Разум – это наше все, разум есть только у человека. Разум неявно включает в себя самосознание, чувства, ощущения, желания, потребности. Вот все перечисленное – это и есть разум. Пусть так. И тогда выходит, что разума у ИИ нет, и бояться поэтому его нечего.

Это у нас давняя привычка, идущая от схоластики, давать всему подряд дефиниции и говорить, что то, что не подпадает под вот это определение, оно – другое и даже не существует.

Кроме разума есть еще понятие «мышление», есть «сознание», есть близкое «понимание». И каждому из них дается десяток и больше определений.
Вот навскидку:

Мышление – это сущностное свойство человека. Декарт утверждал: «Я мыслю, следовательно, я существую». Результатом мышления является мысль (понятие, смысл, идея, гипотеза). Мышление противопоставляют «низшим» способам освоения мира в форме ощущения или восприятия, которые свойственны, в том числе, и животным.

Созна́ние — состояние психической жизни организма, выражающееся в субъективном переживании событий внешнего мира и тела организма, а также в отчёте об этих событиях и ответной реакции на эти события.

Есть ли все это у ИИ? Можно сказать – нет. А можно, что некие части названного есть. Исчезнет ли при этом опасность от ИИ? Не исчезнет.

Начнем с того, что у ИИ нет обмена веществ. Разве что, если не считать потребления им энергии и выделения при этом тепла. Вот такой как бы аналог обмена веществ. Но как-то это не совсем то, не правда ли?

Берем одно из определений жизни (их много):

ЖИЗНЬ — специфическая форма организации материи, сопровождающая совокупность явлений, происходящих в живых организмах, и характеризующаяся единством трех моментов:

  • наследственной программой, записанной в совокупности генов (геном), т.е. в соответствующих последовательностях нуклеотидов дезоксирибонуклеиновой кислоты (ДНК);
  • обменом веществ, специфика которого определяется наследственной программой;
  • самовоспроизведением в соответствии с этой программой.

Ничего из этого в ИИ нет. Стало быть, ИИ – нечто неживое. А раз так, то разума, мышления и сознания у него нет. Хорошо-то как!

Вы знаете, ничего этого нет и у вирусов. Они, некоторым образом, неживые и способность к размножению получают только попав в живую клетку. Впрыскивают в нее свою РНК и в клетке начинается размножение вируса. А представляют ли некоторые вирусы угрозу человеку? Ответ очевиден. Вот тут есть аналогия с ИИ. Он и неживой, и разума-мышления-сознания у него нет, а вот опасность – есть.

Запретить? Именно это и предлагают столпы вроде Илона Маска. Кстати, петицию о запрете ИИ уже подписали около ста тысяч человек и подписи растут как снежная лавина. Вместе с тем, выгоды использования ИИ в разных областях экономики, и в военном деле таковы, что никакая ведущая страна от этого не откажется. Примерно, как в свое время от атомной бомбы.

Ну вот и будем жить как есть, пока бог даст. 

Мы знаем, что у вирусов и микробов нет никакого целеполагания. Но их жизнедеятельность, тем не менее, может быть выражена в наших категориях цели. Их цель – занимать все более широкую экологическую нишу, для чего заражать все большее число людей, повышать свою вирулентность (заразность), плодиться и размножаться. Смерть человека есть следствие жизнедеятельности бацилл, выделения ими токсинов, а не «цель» умертвить как можно больше людей. Но ничто не мешает нам метафизически считать, что у неких враждебных людям сил есть стратегическая цель: извести род людской. В Средние века примерно так и полагали, объясняя чумные эпидемии карой Господа за грехи человека.

Питер Брейгель Старший, «Триумф смерти», 1562

В принципе, чума легочной формы дает стопроцентную летальность. Она останавливалась тогда только потому, что полностью вымирало поселение, оттуда никто не выходил, в него никто не входил. Потом туда входили очень редкие люди с иммунитетом против чумы в черных балахонах, в масках с клювами (в них помещали «целебную» траву против заразы), сжигали все тела и вещи вместе с переносчиками чумы – блохами, и вот так эпидемия заканчивалась. При нынешней мобильности населения дело могло бы закончиться полным вымиранием. Получилось бы: цель наказания людей за их грехи достигнута. То, что при этом исчезли бы и бациллы – не имеет значения, некая высшая цель наказания реализована.

Теперь ситуация с ИИ в чем-то схожа, но есть и важное отличие: ИИ обладает интеллектом, и это очевидно потому, что он вполне осмысленно ведет диалог с человеком. Более того, дает советы и указания, как и что делать (например, в сфере финансов или энергетики). Поэтому ликвидация народонаселения (если таковая начнется) уже не будет трактоваться как кара за грехи и переноситься в некие надмирные сферы, а будет истолковываться как злонамеренная цель ИИ. На самом же деле, у нас нет других понятий, кроме как «цель» для понимания деятельности ИИ. Но ИИ может действовать по совсем иным мотивам, для которых у нас просто нет понятийного аппарата. Элиминация людей может быть просто побочным следствием функционирования ИИ.

В качестве аналогии: когда выяснилось, что электрон, излученный из электронной пушки, при одних и тех же условиях попадает в разные места экрана, то была выдвинута гипотеза о свободе воли электрона. Вот было тогда понятие о свободе воли, взятое из сферы человеческого выбора. Только потом ввели понятие вероятности как характеристики, правильно описывающей суть «жизни» электрона.

Что-то в этом духе может иметь место с пониманием действий ИИ, с той только разницей, что у нас в принципе не будет адекватного языка для понимания происходящего.

 Еще утешение. Говорят: «система не может создать другую систему, превышающую первую систему по возможностям».

Это – одно из следствий теоремы Мак Каллока-Питтса (McCulloch-Pitts). Сам Мак Каллок – пионер нейросетей и персептрона. И это следствие правильно. Но оно перекрывается следующим фактором: эволюция за счет некоего внутреннего отбора может создавать из менее развитого и менее сложного более сложное и развитое.

Пример: 170 тыс. лет назад из области Омо Кабиш (это место появления первых кроманьонцев) на границе Эфиопии и Кении вышла волна кроманьонцев и расселилась на юге Европы. Там она столкнулась с неандертальцами, вышедшими из Африки гораздо раньше. Между этими двумя популяциями хомо сапиенс периодически возникали скрещивания, в результате чего появился человек европеоидного вида, то есть мы с вами (несем от 2 до 4% неандертальских генов), сложнее (умнее) своих прародителей то есть мы умнее и неандертальца, и кроманьонца. Наш предок европеоид появился 40 тыс. лет назад, то есть весь эволюционный процесс занял 170-40=130 тыс. лет. По масштабам эволюции очень быстро. Казалось бы неандертальцы — не совсем удачный проект эволюции. И речи у них толком нет, и корявые они какие-то. А вот поди ж ты — каким-то образом небольшая добавка их генов оказалась полезной и дала европейского (и азиатского) человека. Тут возможна вот такая аналогия: олово мягче меди, но его добавка в сплав с медью дает бронзу, которая тверже и олова, и меди. Науке еще предстоит выяснить, каким образом сыграла роль эта добавка неандертальских генов в наследственность кроманьонцев и в возникновении европейцев.

Итак, ИИ вполне может эволюционировать, называется этот процесс – самообучение ИИ. Именно это и представляет опасность, которую видят мэтры этого дела.

Тезис о нематериальности человеческой мысли, то есть об идеальности психики — это базовое представление любой философии, кроме архивного вульгарного материализма. Естественно, нет никаких оснований от него отказываться.

Есть ли вот идеальное у ИИ? Пока – нет. Для появления идеального, как мы это понимаем, нужно, чтобы ИИ стал живым, то есть, чтобы у него возник инстинкт самосохранения и чтобы он имел эффекторы для действия с окружающей средой. Внешне это выглядело так, как если бы ИИ не давал себя отключить от питания, от энергоснабжения. Каким-то образом, ликвидировал техника, который это хочет сделать.

Но ИИ несет опасность без всякого своего живого вида, и без того, чтобы у него возникло сознание (идеальное) как у человека. ИИ может действовать по аналогии как вирусы, просто по неким свои внутренним законам (нам как раз неизвестным) и ликвидация людей вместе с техником будет простым следствием этих действий. Как видите, для этого не нужно ни сознания, ни злого умысла.

Читайте также интервью с Валерием Лебедевым о его беседе со Станиславом Лемом.

Вам может понравится:

«Логика» GPT4 или почему машины не могут мыслить
• Феномены человеческого сознания. Вышла монография «Сознание. Теория тренировки. Том 2»
• В 25-летнем споре философа и нейробиолога об истоках сознания победил философ

_____________________________________________________

📩Прислать статью [email protected]
📩Написать редактору [email protected]

✒️Читайте нас на Яндекс Дзен
📩У нас есть страница на Facebook и Вконтакте
📩Журнал «Гранит Науки» в Тeletype

 


Больше на Granite of science

Подпишитесь, чтобы получать последние записи по электронной почте.

Добавить комментарий

Больше на Granite of science

Оформите подписку, чтобы продолжить чтение и получить доступ к полному архиву.

Читать дальше