Источник : Телеканал Дождь
Расшифровка нового выпуска Generation ИИ, так как подписка на Дожде платная, доступ есть не у всех.
Речь о психологии искусственного интеллекта. Можно ли вовлечь робота в свою контекстную среду так, чтобы он полностью понимал собеседника-человека и правильно реагировал на его слова? И возможно ли обучить программу эмоциям, как у человека, при этом не основанным на биохимии?
Спорят:
- Аркадий Сандлер, директор центра искусственного интеллекта ПАО «МТС»
- Игорь Пивоваров, организатор открытой конференции по искусственному интеллекту OpenTalks.AI, главный аналитик по направлению «искусственный интеллект» МФТИ
Пивоваров: Здравствуйте. Это программа «Generation ИИ». Меня зовут Игорь Пивоваров, я главный аналитик Центра искусственного интеллекта НТИ МФТИ, организатор ведущей конференции по искусственному интеллекту Open Talks AI
Сандлер: Я Аркадий Сандлер, директор Центра искусственного интеллекта компании МТС.
Пивоваров: И сегодня мы будем говорить про психологию искусственного интеллекта.
Сандлер: Что такое психология, это свойство человека? А передастся ли оно искусственному интеллекту, или искусственный интеллект научится работать с этим свойством человека, мы пока не знаем, но будем сегодня обсуждать.
Пивоваров: 60 лет назад Джозеф Вейценбаум сделал программу «Элиза».
Сандлер: И это самый первый, кстати, чат-бот на свете.
Пивоваров: Точно. И очень крутой чат-бот, который пародировал речь психоаналитика, психиатра, просто перефразируя то, что ему говорит человек. Он говорит: «У меня болит голова». А ему говорит: «Почему у вас болит голова?». И оказалось, вот такое перефразирование, такое активное слушание элементарное, очень многие люди восприняли реально…
Сандлер: Как психоаналитика.
Пивоваров: Как психоаналитика, да. При этом понятно, что в ней ничего не было, чистый алгоритм. И даже многие восприняли ее неправильно, хотя сам Джозеф считал, что это будет просто такая пародия своего рода. Но реально ли вообще создать такую программу, которая на самом бы деле, пыталась понять человека, пыталась понять его, как он устроен по языку, по общению с ним?
Сандлер: Смотри, если не перегружать понятие «понимание» разными свойствами этого понятия, которые к нему мало имеют отношения, то в общем да, конечно, в этом-то и особенность систем искусственного интеллекта, которые взаимодействуют с живыми людьми.
Пивоваров: Скажи, программа, которая будет со мной разговаривать, прямо задавать мне вопросы и выводить меня из какого-то состояния или переключать меня на какое-то состояние, прямо будет делать это осмысленно и осознанно?
Пивоваров: ИИ-психиатр возможен?
Сандлер: Ну, подожди, если мы говорим про возможность систем искусственного интеллекта понимать, то давай попробуем хотя бы приблизиться к определению этого термина. Мы с тобой друг друга понимаем, когда разговариваем?
Пивоваров: Ну, смотри, есть практические аспекты понимания и философские.
Сандлер: Подожди, это же очень простой вопрос. Мы с тобой друг друга понимаем, когда разговариваем, или нет? Ты можешь адекватно реагировать на мои вопросы, а я на твои?
Пивоваров: Верно. Смотри, практическое применение понимания будет именно адекватная реакция. Если ты задаешь какой-то вопрос, ожидаешь от меня какую-то реакцию, если я делаю эту реакцию, то можно сказать, в практическом смысле я понял. Но что такое настоящее понимание, это более серьезный вопрос, на мой взгляд.
Сандлер: Когда ты знакомишься с новым человеком, и он тебя спрашивает: «Как вас зовут?». Ты говоришь: «Меня зовут Игорь». Это значит, что ты понял его вопрос, отреагировал на него, и он понял твой ответ.
Пивоваров: Верно. Но это очень простой инструментальный пример.
Сандлер: Да, но этот простой инструментальный пример постепенно усложняется. Когда в следующий раз вы встречаетесь, то тебе уже не нужно представляться, потому что он уже сразу понимает, кто ты такой. И вы, по идее, можете начать свой диалог с того места, где остановились в предыдущий раз, и вы тоже друг друга будете понимать. То есть получается, что понимание это нахождение, условно, в общем терминологическом поле, то есть мы говорим на одном языке, одними и теми же словами называем одни и те же понятия, и плюс у нас есть совместный контекст.
Пивоваров: Тем не менее, каждый человек внутри себя выстраивает, знаешь, свое внутреннее пространство понимания.
Сандлер: Ну, да, такой типа…
Пивоваров: Отдельные объекты, я как бы их устраиваю внутри себя, в своем некотором идеальном мире, соотношу их с этим миром, с внешними людьми, с окружающими событиями, и это понимание позволяет мне реагировать на то, что происходит, какие-то действия совершать.
Сандлер: У каждого из нас некое пространство знания есть, которым мы пользуемся, внутреннее.
Пивоваров: Да, внутреннее.
Сандлер: Ну, наверное, математическую модель этого пространства можно выразить в виде графа, граф знаний. И настолько, насколько обсуждаемая тема у нас с тобой совпадает, вот эти самые графы знаний, настолько и совпадает наше с тобой понимание соответствующей темы. Соответственно, понимание возникает в диалоге между людьми, между текстом и человеком, потому что когда мы читаем книгу, мы тоже понимаем эту книгу, потому что мы там читаем, это тоже взаимодействие, текста и человека. Это немножко шире, но…
Пивоваров: Слишком шире. Есть такая наука, герменевтика, понимание текстов, очень многие люди послойно очень по-разному понимают, что читают.
Сандлер: Да, но дело в том, что системы искусственного интеллекта, которые мы здесь обсуждаем, они генерируют смыслы в виде текстов. Они потом могут озвучиваться, они могут формироваться в виде реплик в диалогах, или же это смыслы в виде текстов более длинных, но это то, каким образом работает система, поэтому я и сказал, понимание это взаимодействие тебя, человека, и какого-то текста, который может быть, например, сгенерирован машиной. И вопрос, понимает ли машина тебя? Ну, да, возвращаясь обратно, если вы находитесь в общем контексте, говорите на одном языке, называя одни и те же понятия одними словами, то вы друг друга понимаете. Есть простые примеры. Когда ты звонишь человеку, в колл-центр оператору, и разговариваешь с живым оператором, вы же друг друга понимаете. Вы называете одни и те же вещи одними и теми же словами, вы находитесь в одном неком контекстном поле, и когда ты задаешь вопрос, ты получаешь ответ, и ты этот ответ тоже понимаешь, на основании него генерируешь следующий вопрос или благодаришь.
Пивоваров: На очень простых контекстах да, безусловно. А вот, допустим, представь себе, что я вижу потрясающий закат. При этом у меня создаются некоторые впечатления, но это понимание сильно выходит за рамки инструментального практического определения.
Сандлер: Вот представим себе, что ты делишься со мной своими впечатлениями о последней поездке, где ты созерцал великолепный закат, сфотографировал его и мне показываешь эту картинку и рассказываешь, какое у тебя было интересное путешествие. Смотри, ты предполагаешь, что я тебя понимаю. Что такое в этом случае «я тебя понимаю»?
Пивоваров: И если говорить о понимании, как понимании через слова, то, наверное, безусловно ты понимаешь эти слова.
Сандлер: А почему слова? Потому что ты мне показываешь картинку и говоришь: «Смотри, друг мой, вот он, великолепный закат, смотри». А я такой говорю: «Ну, обычный закат». Ты говоришь: «Ты не понимаешь, он для меня великолепный, потому что…», и погружаешь меня в свое контекстное поле. Понимаешь? И тогда я начинаю тебя понимать. И сейчас, когда я жду от тебя реакцию, я задаю тебе вопрос: «Ты меня понимаешь?», перефразируя «Мы с тобой в одном контекстном и терминологическом поле или нет?».
Пивоваров: Ну, да. Да.
Сандлер: То есть получается, что если мы робота можем обучить быть в одном контекстном поле с человеком, то он может человека понимать и адекватно реагировать.
Пивоваров: То есть для тебя это все равно вопрос контекста так или иначе.
Сандлер: Я изучаю этот вопрос. Мне очень интересно, я считаю, что это в основном понятие, понятие это вопрос контекста. Понимание это вопрос контекста.
Пивоваров: У меня ощущение, что многие слова, многие понятия, многие смыслы, их невозможно определить через какое-то одно слово, они все равно у тебя определяются через множество разных не только слов, через отношения с другими понятиями. Это как бы некоторая сложная внутренняя карта такая.
Сандлер: Это связанный граф знаний, где есть зависимости, связи, зависимости, какие-то веса, объемы элементов.
Пивоваров: Ну, окей. Знания, это одна часть, это как бы некоторые понятия, которые у нас есть внутри. Другая составляющая наша, это эмоции. Часть из них это просто реакции на внешнюю среду какую-то, часть из них это наше внутреннее состояние, которое все эти эмоции наполняют, раскрашивают нашу жизнь.
Сандлер: Говорят, это часть человеческой биохимии.
Пивоваров: Вот ты опять утилитарно на это смотришь. Я бы сказал, что это как бы связка эмоций с этими ожидаемыми реакциями, с пониманием текущего момента, текущей ситуации с твоими реакциями. В моем понимании их принято называть некими психологическими реакциями, когда мы понимаем, что человек адекватный, если, условно говоря, я ему дарю торт на день рождения, он по идее должен радоваться, а если он этим тортом дает мне в физиономию, то я буду воспринимать его как неадекватного, потому что его эмоциональные реакции сильно не совпадают.
Сандлер: Отличный пример. Знаешь ли ты, что в большом количестве сообществ, когда человека поздравляют с днем рождения с помощью торта, то в самый последний момент этот торт отправляют ему в лицо? Понимаешь?
Пивоваров: Я чувствую, хорошо что у меня нет реального торта.
Сандлер: Это как раз тема общности контекста. И там в общем никто ни на кого не обижается, более того, какие-то похожие истории, они ожидаемы.
Пивоваров: Если в этом сообществе это принято, да. Я про другое. Я про то, что эмоциональность является частью твоего мира.
Сандлер: Намного интереснее, я хочу продолжить. Торт, прилетевший тебе в лицо, вызывает у тебя определенные эмоции.
Пивоваров: Вот уж точно!
Сандлер: И если ты к этому готов и знаешь…
Пивоваров: Я уже обдумал, с каким тортом я к тебе на день рождения приду!
Сандлер: И знаешь, что это весело, что, в общем-то, ты это ожидаешь, что это может с тобой произойти, в общем-то, в целом нужно это воспринимать как достаточно веселую историю, то торт, который прилетает к тебе в лицо, не вызывает у тебя негативных эмоций. А если сейчас я достану из-за спины торт и отправлю тебе его в лицо, то оно у тебя вызовет негативные эмоции, потому что контекст другой, не принято так, не к месту и все такое. Понимаешь? И тут вопрос эмоций. Получается, эмоции, которые у нас есть, они тоже связаны с контекстом, они тоже связаны с нашим терминологическим полем.
Пивоваров: Часть, часть тоже такая большая контекста.
Сандлер: Ну как часть? Вся! Все, пойми.
Пивоваров: Я бы сказал, некое другое измерение внутри.
Сандлер: Мы эмоционально тоже очень выучены.
Пивоваров: Да-да-да.
Сандлер: Так же, как мы учим, что обозначают те или другие слова, мы интерпретируем вызываемые у нас эмоции на уровне биохимии и определенным образом на них дальше реагируем. Это тоже выученные реакции, выученные какие-то способности. Эмоциям можно научить человека. Если можно научить человека эмоциям, можно научить искусственный интеллект.
Пивоваров: Что такое научить человека эмоциям? Что такое научить? Эмоции ― это как бы некоторая составляющая тебя.
Сандлер: Послушай, у тебя происходит…
Пивоваров: Ты же не учишь ей…
Сандлер: Происходит определенная реакция в организме там. Представим себе на этом уровне, что эмоция ― это некий набор биохимических реакций.
Пивоваров: Это очень утилитарно.
Сандлер: У тебя происходит биохимическая реакция. Дальше твой мозг на это реагирует, интерпретирует и выдает следующее действие.
Пивоваров: Для меня это субъективное впечатление, это не биохимическое действо. Я сам биофизик по образованию, я знаю всю эту историю. Но это субъективное впечатление.
Сандлер: Нет, друг мой, торт, прилетающий тебе в лицо в случае позитивного контекста…
Пивоваров: Как тебе понравился этот торт, а!
Сандлер: Я прямо представляю себе! Торт, прилетающий тебе в лицо, вызывает у тебя на уровне тела одинаковую реакцию. Но на уровне интерпретации, понимания ― разную в зависимости от того, в каком ты контексте находишься. Ты начинаешь смеяться с друзьями, или непроизвольно твой кулак летит в лицо того, кто отправил к тебе этот торт. То есть это совершенно разные реакции, которыми ты научаешься интерпретации больше на эмоции, которые возникают на низком уровне. Просто я не биохимик, не биофизик, но мне очень интересна эта тема, я довольно давно стараюсь ее изучать и интерпретировать именно через понятийный аппарат скорее специалиста ближе к математике и computer science.
Пивоваров: Да, естественно. Ты учишь ботов, условно, быть логичными, рациональными и, видимо, эмоциональными, я так уже начинаю подозревать. То есть ты в пределе считаешь, что мы сможем научить машину не только понимать, то бишь расставлять какие-то, не знаю, понятия, смыслы, слова в каком-то внутреннем поле, но еще и правильно эмоционально реагировать, так что мы это будем воспринимать, условно, как правильное психологическое поведение?
Сандлер: Есть такая концепция, что каждый здоровый человек после 30 лет обретает своего психоаналитика.
Пивоваров: Тьфу-тьфу-тьфу, у меня еще нет. Но, может, еще впереди, да.
Сандлер: И что это за работа с психоаналитиком? Во-первых, психоаналитики, психологи, психотерапевты работают по определенной технологии. Технология равно это можно алгоритмизировать, просто это может быть достаточно сложно.
Пивоваров: Вот эта ELIZA ― это прямо прямая алгоритмизация, да.
Сандлер: Абсолютно, в чем суть работы часто этих людей? Это помочь своим клиентам разобраться в том, что с ними происходит, с эмоциями и реакциями, увеличить уровень осознанности того, что с ними происходит, и переобучиться реагировать на те или иные эмоции. Это же на самом деле получается одна из основных вещей, которыми занимаются психотерапевты. Они помогают людям, в общем-то, довольно взрослым уже, переобучиться реагировать на определенные… . То есть отсюда всякие истории про психосоматику, про вот это все. И получается, что мы можем переобучаться. Значит, мы можем менять свое контекстное поле, свой понятийный аппарат. А если там технология, а здесь понятное инструментальное применение, то я туда готов поставить машину…
Пивоваров: Тебя послушать, так…
Сандлер: Которая будет анализировать своего клиента по количеству, намного большему количеству разнообразных параметров просто потому, что у нее вычислительных мощностей много и количество параметров, которые машина способна анализировать, больше, чем количество параметров, которые способен анализировать человек, даже условно подсознательно.
Пивоваров: Тебя послушать, так еще и скоро мы придем к ситуации, когда психоаналитик будет обучать эту нейронную сетку, разговаривая с ней и правильно ее переобучая на правильные реакции.
Сандлер: Конечно, да, а как?.. Как создать?
Пивоваров: А может быть, даже тысячи психоаналитиков…
Сандлер: Вот!
Пивоваров: Одну нейронную сетку, да-да.
Сандлер: Психоаналитиков, психотерапевтов, которые будут, конечно же, обучать такие системы, которые потом будут помогать конкретным клиентам. Конечно, так и будет. А откуда взять экспертизу? Существуют исторические данные, но исторические данные очень часто предвзяты, и далеко не всегда на исторических данных можно построить адекватную моменту экспертную систему на базе искусственного интеллекта. Поэтому, по большому счету, нужно собирать гибридные модели, обученные на исторических данных, а также на экспертных данных. Искусственный интеллект ― лучший психотерапевт будущего!
Пивоваров: Все-таки люди много десятков лет над этим размышляли и поняли, что невозможно понять со стороны, что там внутри у машины, есть у нее это понимание или нет. И собственно, есть знаменитый…
Сандлер: Это обычная, обычная история. Не можем посчитать количественно ― давай придумаем, качественно как оценить.
Пивоваров: Ну да. Типа да. И придумали такой тест Тьюринга, который ты прекрасно знаешь.
Сандлер: В чистом виде качественный тест, конечно.
Пивоваров: Да, качественный тест Тьюринга, да. Если ты общаешься с кем-то через экран компьютера и не можешь понять, кто на той стороне, человек или компьютер, то как бы… А если там на самом деле компьютер? То, значит, мы делаем вывод, что он…
Сандлер: Прошел тест.
Пивоваров: Прошел тест Тьюринга, да.
Сандлер: Но ты забываешь одну вещь. Этот тест сформулирован так, что время этого общения ограничено.
Пивоваров: Верно.
Сандлер: В ограниченное время, если оценщик, асессор общается с собеседником и через это ограниченное время не может сказать, он общался с человеком или с роботом, и если там робот, то считается, что робот прошел этот тест.
Пивоваров: Если он прошел определенное количество этих асессоров, да, не меньше, чем N процента какого-то.
Сандлер: Он прошел.
Пивоваров: Верно-верно, да.
Сандлер: Он для этого асессора прошел тест.
Пивоваров: Да. Но я к чему? Заметь, что определения какого-то внутреннего понимания не было и люди подошли через инструментальное.
Сандлер: Через качественное, да. Конечно. Но он такой, на мой взгляд, в сегодняшнем мире тест малоприменимый. Он больше такой, как развлечение используется.
Пивоваров: Потому что люди научились его проходить.
Сандлер: Почему проходить? Смотри, робот разговорный, чат-бот, который мы построили в Центре искусственного интеллекта МТС для обслуживания наших клиентов, проходит этот тест, не знаю, сотни, а то и тысячи раз в день.
Пивоваров: Конечно, не проходит.
Сандлер: Конечно, он проходит.
Пивоваров: Конечно, не проходит.
Сандлер: Конечно, проходит. Приходит клиент, в соответствующем канале взаимодействует с какой-то системой, решает свой вопрос, удовлетворяется и уходит.
Пивоваров: Но это же очень узкий контекст, вот прямо очень, предельно узкий. Он же задает там очень конкретные вопросы, типа «Какой у меня баланс?», «Включите мне такую-то услугу». Он же там не будет разговаривать о погоде, я не знаю, стихи просить прочитать или просто початиться. То есть в этом смысле нельзя назвать это тестом Тьюринга.
Сандлер: Во-первых, ты очень плохо оцениваешь количество тем, которые мы умеем обслуживать. Во-вторых, да, у нас есть люди, которые просто чатятся. И если бы у нас…
Пивоваров: О чем можно чатиться с ботом МТС?
Сандлер: О, это огромная, широкая тема, и крайне интересная! Минимум четверть людей, которые взаимодействуют с этим чат-ботом, решив свой текущий вопрос, продолжают с ним просто болтать в режиме поболтать.
Пивоваров: Одиночество людей, что они болтают как бы с оператором этого колл-центра.
Сандлер: Да, я просто тебе хочу сказать, что если бы у нас не было принципиальной позиции, что мы отделяем человека от робота и клиенту сразу говорим, что он взаимодействует с машиной, то в этой точке, если бы мы этого не делали, то вот этот самый тест Тьюринга даже формально бы проходился тысячи раз в сутки.
Пивоваров: Слушай, может быть, он потому и разговаривает с ним, потому что он уже знает, что с ним робот. И он пытается его там вывести из себя, найти какие-то слабые стороны.
Сандлер: Мы проверяли, мы тестировали это и так, и так, и сяк, и по-разному. Нет. Да, конечно, люди любят поболтать с роботом. Но когда нам нужно было понять, можем ли мы обслуживать так же, как человек, да мы иногда этим роботом обслуживаем человечнее, чем оператор, потому что у оператора есть свои какие-то особенности, у оператора есть необходимость как можно быстрее закончить диалог, а у робота нету. Знаешь ты или не знаешь, что это робот, но с ним общаться комфортнее.
Пивоваров: Это вот ты сейчас сказал: «Человечнее, чем оператор». Комфортнее и человечнее.
Сандлер: Конечно.
Пивоваров: Это одно и то же?
Сандлер: То есть это очень, очень серьезный, очень важный вопрос, потому что для любой компании работа каждого отдельно взятого сотрудника ― это довольно дорого. Собственно, поэтому внедрение разговорных интерфейсов автоматизированных ― это и есть очень хорошее решение для такого рода обслуживания, потому что единичный разговор клиента с роботом стоит, условно, ноль, а значит, может длиться, условно, всегда. И клиенту это нравится намного больше, чем когда он точно понимает, что от него хотят как можно быстрее избавиться.
Пивоваров: Меня удивляет твой тезис, который ты сказал, что люди любят разговаривать с роботом. Я вот не могу себе представить. Я люблю разговаривать с людьми!
Сандлер: А меня уже нет. Я столько лет разговариваю с разговорными интерфейсами, что меня перестало это удивлять. Получается, что психология ― это некая неотъемлемая часть человеческого контекста как набор его реакций на раздражители, внутренние и внешние. То есть, предполагая, что мы таки можем расширить контекст знания для робота примерно до того же размера, до которого он есть у каждого отдельно взятого человека, мы можем создать робота, обладающего психологией своей персональной.
Пивоваров: «Психо» ― это же «душа».
Сандлер: Да.
Пивоваров: Психология ― это как бы изучение души такое.
Сандлер: Да.
Пивоваров: То есть ты в пределе говорить о том, что мы сможем сделать робота, который будет обладать неким аналогом души.
Сандлер: Но, послушай, раньше считали, что молнию Зевс кидает, а теперь мы знаем, откуда берется молния. Назвали эту науку, потому что никто не предполагал, что психология является неким расширением нашего персонального контекста.
Пивоваров: Я недавно читал одно интересное исследование про то, что… Как бы там философ один, он видит в новых технологиях, в том, что мы делаем искусственный интеллект и наделяем его некоторыми чертами, он видит такие отголоски древнего мифа про создателя и его творение, который начинался еще с каких-то там лохматых времен. Пигмалион и Галатея, множество разных этих примеров. И везде красной нитью как раз проходит вот это, когда творение вдруг обретает какую-то свою независимость, душу, сознание. И мы, получается, идем прямым…
Сандлер: То есть сложность и количество реакций на раздражители внешние у создания становится такое же, как и у создателя.
Пивоваров: Интересная реальность, в которую мы идем, однозначно.
Сандлер: С нетерпением ее жду.
Пивоваров: Да уж!
Читайте наш Телеграм-канал Телеграм