Анализ моральных последствий использования искусственного интеллекта в медицине, вопросы компьютерной и информационной этики – вот круг интересов PhD Дмитрия Михайлова, постдокторанта в Южно-восточном университете (Нанкин, Китай). Если вы следите за публикациями «Гранита науки», то вас наверняка заинтересовало интервью-дискуссия с ним Саши Долгого о философии техники. На этот раз мы публикуем текст лекции Мити, подготовленной им для PinchukArtCentre в рамках публичной программы Future Generation Art Prize о месте технологий в глобальной трансформации общества и искусства.
Я выберу классический маршрут: чтобы пояснить определенные вещи, для начала требуется дать дефиниции. Начну с определения религии и техники, заметив в скобках, что определения сами по себе – это большая проблема: если мы возьмем опыт философии или религиеведения, то сразу оказываемся в ситуации, когда нет стандартного определения, а если оно есть, то существует очень много дискуссий, насколько оно адекватно ухватывает суть понятия.
Для целей моей лекции я выбрал стандартное определение из словаря Dictionary of Philosophy of Religion (Taliaferro & Marty 2010: 196-197; 2018, 240) и несколько его упростил, то есть выбрал ключевые компоненты, на которых хотел бы остановиться в рамках своего материала.
Религия – это учение про сакральную реальность или универсальное (абсолютное) бытие, которое мы можем называть «трансценденцией». Плюс это набор духовных практик (молитва, медитация), которые изменяют отношение верующего к сакральной реальности и помогают приобщиться к ней, получить религиозный опыт и т.д.
Если упростить, можно сказать, что благодаря этим практикам верующий может получить опыт трансценденции, то есть контакта с трансценденцией или абсолютным бытием.
Из этого определения я хочу выделить 3 ключевых компонента религии, которые сформируют каркас для моего анализа современной техники.
Первый компонент это трансценденция, и для данного понятия я оставил почти энциклопедическое определение: (от латинского слова transcend – переступать, то, что переступает или превосходит, что выходит за границы) нечто недоступное опытному познанию или не опирающееся на опыт. В терминах предыдущего определения религии трансценденцией можно назвать сакральную реальность или универсальное состояние бытия, которое находится за рамками нашего повседневного ежедневного опыта; другими словами, мы не видим трансценденцию ежедневно, то есть, она находится за границами нашего будничного опыта, и это ее ключевая составляющая. Но несмотря на то, что она пребывает за границами этого опыта, она его обусловливает, поскольку является сакральной реальностью, или универсальным бытием – тем, что обусловливает наш повседневный опыт сам по себе. В рамках христианской традиции такой трансценденцией является Бог.
Практика персонального трансцендирования (приближения к трансценденции) – это выход за собственные рамки, переступание границы персонального опыта. В рамках религии трансцендирование происходит благодаря религиозным практикам, в случае правильного использования которых мы можем изменить свой опыт, изменить горизонт своего опыта и получить контакт, или лучше сказать приближение к трансцендентному.
Еще одним важным компонентом является связь с индивидуальностью, персоной, потому что верующий должен самостоятельно, через собственный личностный опыт, выполнять эти практики,
Третий компонент это личное и/или коллективное спасение. Это финальная цель религиозной практики, любого религиозного опыта. Достижение этого коллективного, чаще, спасения происходит благодаря практикам персонального трансцендирования.
Итак, субъект, благодаря религиознм практикам (персональному трансцендированию) – может достичь трансценденции и персонального спасения. Насколько тождественны эти понятия, трансценденция и спасение? Они очень близки друг с другом, хотя чтобы понять их связь в полной мере, нужно анализировать их в рамках соответствующих религий.
В моей схеме отсутствует одна очень важная составляющая религиозного опыта, это вера. Я сделал это сознательно. Само понятие веры очень сложное, и непонятно, в какую часть схемы его поместить. Мы можем сказать, что субъект приходит к определенным религиозным практикам через акт веры, но с другой стороны, акт веры возникает в результате определенных практик или усиливается ими, поэтому органичнее отнести его ко второй части схемы. Хотя также можно предложить идею, что вера «прорывает» схему, и ее можно к любому компоненту структуры. Не раскрываю глубже понятие веры, которая так или иначе является важной составляющей религии: как видите, с этим может возникать много противоречий. Пойдем дальше.
Техника – это любой материальный (или цифровой) объект (артефакт), созданный человеком для достижения соответствующей цели. Другими словами, техника – это рационально оформленная материальность
Дискуссия, насколько информация имеет материальность, ведется давно. Промежуточным ответом является, что она имеет гибридную материальность. Мы не можем сказать, что цифровые объекты являются полностью материальными – но при этом не можем и полностью исключить их из этого перечня, потому что они очевидно являются технологическими объектами. Возможно, сейчас их даже больше, чем стандартных материальных технологических объектов.
Когда я только начал заниматься философией техники и начинал читать англоязычные исследования, они употребляли понятие «технологический артефакт». Оно хорошо коррелирует с проблемами и религиозного опыта, потому что артефакт имеет и религиозную коннотацию.
Само понятие техники рассматривается покомпонентно: материальность техники – отвечает на вопрос, что это. Затем для чего он существует: цель и функция. В разных теориях существует это различение на материальность и функциональность, но понятно, что это различение схематично, потому что любой технологический объект должен объединять в себе эти оба аспекта.
Сейчас попробую расширить понятие техники, «распаковать» его в более широком контексте. Техника способна расширять границы нашей телесности. Это расширение я и называю технологическим трансцендированием. Это что-то что по моему мнению очень глубоко соединяет современную технику и религиозные практики. Коротко, о каком типе расширения идет речь. Я выделяю разные типы расширения и начну с когнитивного, потому что оно лежит на поверхности нашего современного технологического опыта.
О каких артефактах идет речь: телевидение+интернет, например, это расширенная нервная система человека. Эта идея была еще у Маршалла Маклюэна, но с появлением интернета она получило радикально другую форму. Он видел эту идею в зародыше, а затем она получила новый формат существования
Другие примеры: контактные линзы – это расширенная (улучшенная) версия зрения. Телефон – расширенная память. Сегодня мы перманентно находимся в процессе технологического трансцендирования.
Следующим уровнем этого расширения является временное. Оно может быть рассмотрено в двух перспективах. Первая – это временное ускорение. Вспомним цифровые технологии и скорость передачи данных: сегодня это происходит практически моментально. Как успел заметить Маршал Маклюэн, раньше наши сообщения двигались со скоростью почтальона, сегодня они перемещаются со скоростью света. Цифровые технологии и передача данных также затрагивает разнообразные версии сингулярности. Есть разные сценарии: медленный и быстрый, но каждый из них так или иначе завязан на концепцию времени и того, что техника изменяет наше переживание временности как таковой.
Более того, данное изменение целом трансформировало наше представление о времени. В границах планеты мы находимся везде, это время – это всегда «сейчас». Люди постоянно онлайн, можно любому написать сообщение и он его прочитает. Понятия времени и пространства – ключевые категории для нашего опыта, они вообще его формируют. И тот факт, что современная техника настолько радикально изменяет наш опыт переживания времени – это тоже фундаментальная трансформация, очень серьезная в границах концепции технологического трансцендирования.
Пространственное сужение – концепция, которая также связана с новыми формами переживания временности. Как оно происходит? За счет новых технологических объектов, которые появляются у нас: автомобили, самолеты, орбитальные станции, что-то, что дает нашим телам двигаться быстрее. Идея ускорения, к слову, еще в начале ХХ века так поражала итальянских футуристов, что они вообще ставили ее в центр своей художественной практики!
Очевидно, что пространство и время, пребывая в этом континууме, изменяется в границах новых технологий, которые появляются, и это очень сильно трансформирует и нашу телесность, и наше переживание определенных категорий.
Еще несколько компонентов, как техника трансформирует наш опыт. Я выделяю два механизма, которые усиливают элементы нашего опыта. Технологическое фокусирование легко рассмотреть на примере очков: когда человек их использует, то определенная часть реальности усиливается. Видеть реакции человека – новое умение роботов: наши лица отражают сложную палитру эмоций, и робот, чтобы выбирать правильный курс действий, должен правильно ее анализировать.
Итак, техника способна открывать новые феномены (делать невидимое видимым), которые не были доступны предварительно (и которые не доступны за границами этой техники). Научные инструменты, которые используются для получения научного знания – телескопы и микроскопы -открыли для нас новый мир микро- и макрообъектов, который был для нас недоступен до тех пор, за границами этих технологических систем.
Приведу один пример, который я очень люблю. В начале 20 века наука считала, что существует только одна галактика – наша. С появлением радиотелескопов наше представление о космосе изменилось коренным образом. Сегодня мы изучаем, как взаимодействуют галактики, каковы их структуры. И это движет нас к очень интересному и важному наблюдению: техника никогда не бывает нейтральной. Даже больше: она всегда является активным трансформатором нашего опыта. И в этом плане она близка к религии. Эта «ненейтральность», как ее называют в современной философии техники, формирует важный каркас и делает технику активной, а не просто пассивным инструментом человека.
Техника формирует наш практический горизонт и открывает новые возможности. Наличие очков на лекции создает целый класс практик, которые остаются для меня недоступными без этого объекта: читать с доски, писать в тетради. Забыв очки, ты отрезан от целого кластера действий, да и от принятия участия в реальности в целом.
Новые технологические экосистемы создают новые социальные практики, открывают новые возможности в разных доменах. Например, в искусстве: с появлением синтезатора изменяется музыкальный ландшафт, появляется целый ряд новых жанров. Создавая новые эстетические практики, мы начинаем по-новому понимать себя в мире.
Чтобы продемонстрировать, как техника и религия взаимодействуют между собой, я обращусь к истории христианства. Вы увидите, что эта связь имплицитно уже заложена в рамках религиозного опыта. На самом деле, можно было взять любую мировую религию, но учитывая наш культурный контекст, правильнее взять опыт христианства.
Покажу эту связь на примере трех ключевых технологических артефактов, которые создали новый формат функционирования христианства как определенной религиозной институции в мировом контексте. Эти артефакты правильнее даже назвать технологическими экосистемами. Идея данного понятия проста: технологические объекты существуют в определенной сети, и мы не можем их использовать отдельно один от другого; у меня есть такая идея, что чем сложнее технологический объект, тем сильнее он изменяет наш опыт и тем больше компонентов находится в его сети.
Итак, начнем с печатного станка, без которого было бы невозможным распространение христианской литературы. До того, как появилось изобретение Гутенберга, были специальные книги, которые переписывали избранные люди, которые проходили длительный курс обучения перед тем, как приступить к этому сложному и кропотливому процессу. Книги, соответственно, могли быть только у очень обеспеченных людей. Этот сценарий замечательно описан в романе «Имя розы» Умберто Эко. Изобретение станка сильно изменило эту траекторию, а также целевую аудиторию книг. Библия, напомню, была первой книгой, напечатанной Гутенбергом. Техника никогда не является нейтральной, а всегда выполняет трансформативную функцию – это мы уже отметили.
Далее: трансокеаническая навигация (компас, астролябия и другие навигационные технологии) сделали возможным широкое миссионерство христианской церкви. И, наконец, иконы, позволяющие верующим получить опыт сакрального, непосредственный доступ к трансцендентному – также являются примером технологической экосистемы. В Византии, как вы помните, спор и критика икон привели к серьезному религиозному кризису…
Время приступить к анализу современной техники как «новой религии». Почему я употребляю именно такое понятие, «новая религия»: техника не просто становится религией, а добавляет определенные контексты к нашему пониманию религиозного опыта и того, что такое религия вообще. Техника и трансценденция, техника и персональные методы трансцендирования, техника и личное/коллективное спасение — эти сюжеты сейчас активно обсуждаются не только в научной, но и околонаучной литературе, на них много спекулируют. Снова-таки, остановимся на определении:
Технологическое трансцендирование – эффект, который возникает вследствие использования технологических артефактов и приводит к изменению нашего персонального опыта. Такая трансформация происходит блакодаря технологическому расширению или технологическому фокусированию нашего внимания.
Ритуал является важной составляющей любой религии. Обычно в центре ритуала лежит соответствующий набор повторяемых действий, благодаря которым субъект может реализовать опыт персонального трансцендирования.
Ритуал — важнейший компонент религиозной практики, а важнейшей составляющей ритуала является его повторяемость. Современная техника работает по аналогичному сценарию ритуальности. Любой технологический объект имеет свой алгоритм использования (use plan) – свой ритуал. Если мы не знаем этого алгоритма, то не сможем пользоваться этим объектом, то есть, не сможем реализовать акт технологического трансцендирования (который становится возможным только в контексте реализации и использования объекта)
Примеров много, самый простой — бутылка с водой: чтобы выпить воду, надо сначала открутить крышку, и т.д. Дело усложняется, когда мы говорим о более комплексных артефактах, где последовательность действий и их вариативность усложняется. И усложнение ритуала имеет религиозную функцию. Чем сложнее ритуал, тем сильнее технологический объект изменяет наш опыт, следовательно, тем сильнее этот эффект технологического трансцендирования.
Итак, вот составляющие технологического ритуала:
- Последовательный алгоритм действий (если последовательность неправильна, то мы просто не сможем использовать технологический объект)
2. Цикл итераций (повторов), который приводит к глубоким нейротехнологическим изменениям, созданию новых типов нейронных связей – новой нейронной архитектуры. Обращаясь к опыту молитвы, верующий должен повторять ее регулярно. Когда человек пребывает в постоянной молитве – высший уровень практики: молитва становится составляющей его опыта тотально. А вспомните, какой у вас первый контакт с реальностью после сна? Чаще всего он происходит именно с телефоном. Там тоже присутствует алгоритм: разблокировать, зайти в инстаграм или проверить какой-то мессенджер.
Мы знаем, что мозг можно за-/перепрограммировать определенным способом, и это происходит именно за счет определенных алгоритмов и итераций. С появлением новых информационных технологий наша нейронная архитектура, за счет нейропластичности как эволюционного механизма, стала меняться. Легко увидеть это на примере разных поколений: у старших отсутствует технологическая ритуальность, и они отрезаны от этого кластера опыта.
3. В конце ритуала мы трансформируем наш персональный опыт и можем реализовать новую форму расширения.
Поговорим о связи техники, веры и персонального спасения. Я не люблю трансгуманизм именно с позиции научности, поскольку часто он просто спекулирует идеями, которые могут лишь казаться научными. Поэтому я решил критиковать веру в технологическое спасение как сомнительную по причине своей ограниченности, и эти ограничения заложены в самой технике.
Техника не может полностью спасти нас от болезней и смерти – а следовательно, не может подарить нам вечную жизнь. В общем-то, пандемия это явно показала. Да, техника может улучшить нашу жизнь, решить определенные проблемы – но какие-то фундаментальные проблемы болезней, смерти техника полностью решить не в состоянии.
Также, любое технологическое усовершенствование всегда является частичным. Например, общение через интернет дает возможность видеть и слышать собеседника, но не дает возможности коснуться или ощутить вкус. То есть, техника дает нам пуск к трансцендированию, но он всегда частичный.
При этом, современная техника сильно изменяет наши представления о морали и углубляет наши «переживания» фундаментальных составляющих человеческого бытия. Появление медицинских технологий, которые могут автономно поддерживать жизнь больных – например, аппарат искусственной вентиляции легких — изменяет наши представления о том, что такое смерть, по-новому открывает экзистенциальные проблемы.
Технологии редактирования генома трансформируют наши представления о жизни и о нашем влиянии на будущие поколения, что, в свою очередь, усиливает нашу ответственность по отношению к тому, что сегодня реализуется нами, как в экологической перспективе, так и в перспективе внесения изменений непосредственно в структуру жизни.
Говоря о связи техники и трансценденции, я немного отойду от религиозности техники, так как трансценденция является целью религии, но не религии самой по себе. Именно поэтому я говорю о технике как о новой религии, не похожей на предыдущие. Если мы обратимся к анализу ключевых иудео-христианских религий, мы увидим, что в центре этих религий пребывает Бог, или Абсолют – чаще всего он непознаваем и в то же время радикально иной. Сегодня мы являемся зрителями появления такого нового «другого» в форме искусственного интеллекта. Почему?
В мире сегодня усиленно ведутся дискуссии об алгоритмах как «черных ящиках» (algorithmic black box). Суть их в том, что в современных искусственных нейронных сетях мы уже не можем объяснить до конца, как именно программа принимает решения. Комплексность программы и ее архитектуры настолько сложна и настолько «другая», что мы в самом деле не до конца понимаем, как это происходит. Даже благодаря сложным математическим моделям верификации мы можем лишь приблизиться к пониманию решений системы. А такие системы уже имплементированы и принимают много решений, от которых зависит наша жизнь, Мы уже существуем в поле этого Другого – мы его не понимаем , часто не видим, но ощущаем последствия его решений на собственной жизни, собственном поведении, собственных выборах. Самый банальный пример – рекомендации на Youtube: в самом деле это довольно сложный механизм, который включает в себя много технологических параметров.
В качестве вывода из всего вышесказанного я хочу предложить альтернативный вариант, контр-технологические практики. Понятие это может стать хорошим мостиком для понимания процессов, которые происходят в контексте свободы выбора и того, как современная техника влияет на эту свободу.
Современная техника похожа на религию в определенной форме своей тотальности. Мы уже рождаемся в этой технологической религии, и мы ее не выбираем. Мы рождаемся в этом контексте, и он формирует наши действия, наше поведение. Это проблема выбора. Разные религиозные традиции формировались в разные периоды времени и на разных этапах были разные моменты выбора. Даже в рамках истории христианства были периоды очень репрессивные, когда не было возможности выбирать другую религию или не быть приобщенным к соответствующему контексту.
Сейчас мы оказались в похожей ситуации: мы рождаемся в этой технологической религии, и у нас на самом деле нет возможности выбрать другой формат. Эта проблема свободы сознательного религиозного выбора является мировоззренчески важной.
Мы используем технику все больше. И у нас все меньше сознательного выбора не пользоваться техникой. Мы оказались в реальности, где технологические решения носят характер тотальности. Если я решу не пользоваться своей почтой, то не смогу вести полноценную социальную жизнь.
Парадокс современной техники в том, что даже если бы мы захотели сегодня избавиться от техники, то мы были бы вынуждены использовать для этого технологические практики. Технику, направленную против самой себя! К таким практикам можно отнести разнообразные селф-трекинги, которые нацелены на анализ и регистрацию того, как и как долго мы пользуемся техникой, какие программы используем чаще или меньше — и соответственно, направлять свою жизнь к большему уровню освобождения от техники. Которая, на самом деле, создана, чтобы быть аддиктивной, и об этом необходимо не забывать.