Что значит эффект зловещей долины
Эффект зловещей долины или почему мы боимся клоунов?
Для этого блога также существует видеоверсия, с бОльшим количеством примеров и диктором.
Всем привет! Слышали ли вы когда-нибудь об эффекте зловещей долины? Задумывались ли о том, почему говорящие игрушки из мультика вызывает у нас умиление, а клоуны из популярных фильмов — неприязнь? Сегодня мы планируем подробнее рассказать об эффекте зловещей долины и о том, как он связан с главным героем фильма ОНО.
Эффект зловещей долины — это гипотеза, согласно которой робот или любой другой объект, который выглядит или действует как человек (речь идет именно об имитации) вызывает неприязнь и отвращение у людей-наблюдателей. В первую очередь данная гипотеза применяется именно к роботам, однако она справедлива и для таких объектов, как мультипликационные герои, куклы, манекены и даже сами люди (тут речь, конечно же, о клоунах).
Коулрофобия или боязнь клоунов также связана с эффектом зловещей долины. Коулрофобия (страх перед клоунами) не признана медициной как психиатрическое заболевание, но тем не менее включена в неофициальный список специфических фобий. Боязнь клоунов можно отметить у многих детей и взрослых, о подобном страхе упоминал даже известный киноактер Джонни Депп. Панику может вызвать не только встреча с клоуном в реальной жизни, но даже его появление на телеэкране. Термин «коулророфобия» (coulrophobia) появился относительно недавно, но само тревожное расстройство существовало задолго до того, как о нем стали говорить и писать средства массовой информации. Формируется эта фобия обычно в раннем детстве, при первой встрече ребенка с человеком в костюме клоуна. Психологи считают, что в основе этой боязни лежит страх перед неизвестностью. Современные исследователи называют в качестве причины коулрофобии трудности с идентификацией. Дело в том, что клоунские костюмы склонны преувеличивать черты лица и некоторые части тел (кисти рук, ступни, носы). Поэтому подобные деформации можно воспринимать не только как комичные, но и как страшные. Незнание того, кем на самом деле является объект в клоунском костюме, вызывает у человека беспокойство и даже панику. Клоун всегда загримирован так, что трудно разглядеть его истинные черты лица и параметры фигуры. С помощью грима меняется разрез глаз, форма носа и рта, их размеры. За цветным париком скрыт истинный цвет волос. Объемный костюм полностью скрывает тело, становится невозможным понять, мужчина это или женщина. В 90-х годах прошлого столетия всплеск коулрофобии был спровоцирован появлением на экранах фильма ужасов «Оно», снятого по роману Стивена Кинга. Главным героем экранизации является клоун, убивающий детей. Сегодня этот персонаж по-прежнему является культовым героем многих кинолент, поэтому неудивительно, что страх перед ним находит новых жертв. В качестве классического примера можно назвать также Джокера из кинофильма про Бэтмена.
Точно неизвестно почему нас пугают человекоподобные существа. Есть теории, что мы не можем понять чувства похожих на себя объектов, соответственно и сопереживать ему. Другие же теории утверждают, что человекоподобное существо неспособно к взаимности и какой-либо обратной эмоциональной связи. Эмоциональная реакция человека зависит не только от человекоподобности наблюдаемого объекта, но и его поведения. Поэтому движущиеся роботы и куклы пугают нас намного сильнее неподвижных объектов. Снова вернемся к коулрофобии. Иногда данная фобия распространяется не только на клоунов, но и мимов. Исполнители пантомим не имеют деформаций человеческого тела, однако страх могут вызывать их движения, не свойственные людям в повседневной жизни. Данный прием используется в фильмах ужасов. Как правило для демонстрации оживших покойников, зомби и людей, в которых вселяются демоны. Поэтому чувство страха и неприязни у нас вызывают человекоподобные объекты, имеющие даже небольшие отклонения от нормы. Это могут быть странные движения тела, мимика, наличие необычных черт лица, которые мы обычно видим.
Для индустрии кино огромный вклад в развитие этого эффекта внёс актёр, чьё проклятие одновременно стало его даром.
Почему нас пугают роботы-андроиды. Разбираем «эффект зловещей долины»
В чем суть «эффекта зловещей долины»
«Эффект зловещей долины» — это гипотеза о том, что робот или любой другой объект, который выглядит или ведет себя как человек, вызывает неприязнь и отвращение у людей-наблюдателей. Пугает не само сходство, а любое отклонение от нормы в поведении — например, заторможенная мимика.
Впервые об «эффекте зловещей долины» заговорил японский ученый-робототехник Масахиро Мори. В 1970 году он написал эссе Bukimi No Tani, а через восемь лет название его работы перевели на английский как Uncanny Valley («Зловещая долина»). Мори выдвинул идею: чем сильнее мы будем стараться, чтобы роботы были похожи на людей, тем больше отторжения они будут вызывать. Это будет происходить, пока не удастся преодолеть гипотетический провал, обозначенный как «зловещая долина». Для наглядности ученый создал график того, как может выглядеть этот путь развития человекоподобных роботов.
С момента выхода эссе Мори ученые неоднократно проводили исследования, чтобы подтвердить или опровергнуть гипотезу. Например, в Индианском университете опросили группу людей, предлагая оценить андроидов разной степени «человечности». Большинство исследователей сходились во мнении, что говорить об эффекте зловещей долины еще рано: нет достаточных доказательств. Но с 2018 года эффект стал подтверждаться все чаще. Например, в публикации Хельсинкского университета было обозначено, что явление стало более устойчивым. Перейти эту «долину» до сих пор не смог ни один робот.
Какие роботы вызывают «эффект зловещей долины»
Не каждый андроид способен довести до мурашек. Чтобы это произошло, мы должны подсознательно поверить, что перед нами человек. Тогда любая его оплошность — неестественная речь, дерганная улыбка или странное выражение эмоций — может привести к «эффекту зловещей долины».
Евгений Магид, профессор Казанского федерального университета, руководитель Лаборатории интеллектуальных робототехнических систем (ЛИРС), PhD:
«Набор винтиков, датчиков и программ не вызывает у нас страха и недоверия — такой робот не выглядит как человек. Мы не ожидаем от него сногсшибательных успехов или подвохов. Зато роботы, которые близко подошли к нам по внешнему виду и интеллектуальным способностям, например геминоиды (роботы, имитирующие человеческую внешность. — РБК Тренды) гения XX века профессора Хироси Исигуро или робот София вызывают ту самую смесь разочарования, страха и недоверия, опуская нас на самое дно «зловещей долины».
Одного из самых реалистичных роботов в мире Geminoid DK вполне можно перепутать с человеком, если увидеть его на фото. Но в движении его мимика может создать жутковатые ощущения.
Кроме того, «эффект зловещей долины» могут вызывать:
Немецкие ученые нашли область мозга, которая отвечает за «эффект зловещей долины». Она находится в префронтальной коре — той зоне, благодаря которой человек может размышлять. Одна часть коры пытается отделить людей от не людей, а другая, исходя из этого, оценивает, приятен ли мозгу этот субъект. Это значит, что, если однажды ученые создадут робота, которого мозг не сможет отличить от человека, «эффект зловещей долины» не возникнет.
Почему нас пугают антропоморфные роботы
Ученые до сих пор расходятся во мнениях, почему мы испытываем смешанные чувства к человекоподобным роботам. Разберем основные причины.
Влияние теории восприятия угрозы. Люди подсознательно чувствуют угрозу от неизвестного им объекта. Историк Минсу Канг предположил, что из-за этого может возникать когнитивный диссонанс при виде андроида. С одной стороны, он выглядит и ведет себя как человек, с другой — сохраняет повадки машины. Непонятно, к какой категории относить такого реалистичного робота, — отсюда тревога и неприязнь.
Невозможность сопереживать. Люди привыкли проявлять эмпатию к живым существам. Для этого им нужно распознать их эмоции и сопоставить со своими. Но не все проявления в поведении и речи робота возможно идентифицировать. В результате люди испытывают тревогу: кажется, что рушится контроль над ситуацией. Такую гипотезу выдвинула исследовательница Катрин Миссельхорн. По ее мнению, из-за невозможности сопереживать роботу сильнее всего «эффект зловещей долины» чувствуется, когда андроид стоит совсем близко к нам.
Невозможность получить адекватную обратную реакцию. Ученая Анжела Тинвелл считает, что проблема не в том, что люди не могут сопереживать роботу, а в том, что он сам не может проявлять эмпатию. Если живое существо, похожее на человека, неспособно к обратному эмоциональному отклику — например, не может рассмеяться над вашей шуткой или кивнуть головой, когда вы рассказываете историю, — это пугает. Люди могут воспринять такого робота как психопата, который может сделать все что угодно, ведь эмоции ему чужды.
Евгений Магид:
«Во-первых, у пользователей слишком большие ожидания, которые роботы пока не в состоянии оправдать. Они общаются с роботом как с живым человеком. Но технологии еще далеки от успехов природы, поэтому первое чувство восторга постепенно сменяется разочарованием и отвращением. Все как в жизни, когда человек не оправдал доверия.
Во-вторых, подсознательно люди могут чувствовать страх. Они боятся, например, что робот опасен для их жизни и здоровья, может отнять работу и даже заменить их в семье. Страх подпитывается современным кинематографом, причем настолько активно, что образованные и вполне адекватные люди спрашивают меня как эксперта: «А скоро ты сделаешь Терминатора, который нас всех уничтожит? Может, не стоит? »
В-третьих, многие люди просто не доверяют роботам — из-за общего непонимания робототехнических технологий, процессов дизайна, конструирования, программирования и тестирования роботов. Мы стараемся пролить свет на эти вещи — в Казанском федеральном университете наши магистры программы «Интеллектуальная робототехника» изучают вопросы, связанные с «эффектом зловещей долины», и принципы дизайна робота, который должен взаимодействовать с человеком».
Как работают с «эффектом зловещей долины» в сфере робототехники
Магид выделяет два способа решения проблемы зловещей долины: избегание и преодоление.
Избегание. Этот подход требует от дизайнера остановиться на кривой графика Масахиро Мори до того, как наступит пик правдоподобности.
Для большинства роботов внешнее сходство с человеком не требуется, объясняет Магид. Главное — качественное выполнение заложенного функционала: «Например, нам не нужен человекоподобный робот-сварщик с двумя ногами и головой, потому что статический промышленный манипулятор для сварки и обойдется гораздо дешевле, и справится со своей специализированной задачей лучше».
Компании-производители хотят продавать функциональный и полезный продукт, а не отпугивать потенциальных пользователей своими экспериментальными разработками.
Преодоление. Этот способ сложнее: он бросает вызов «эффекту зловещей долины» и предлагает создать робота, максимального похожего на человека.
При разработке роботов-геминоидов требуется преодоление «эффекта зловещей долины», когда робот — как минимум по физиологическим характеристикам в статике и динамике — не будет отличаться от человека. Это сложный и трудоемкий подход: по мнению Магида, пройдет еще минимум 20-30 лет, прежде чем мы увидим первых антропоморфных роботов, которые способны поддерживать восхищение пользователя продолжительное время.
Массовое производство таких роботов ученый ожидает не ранее конца XXI века. Однако, учитывая религиозные и нравственные нормы общества, которые нередко становятся преградой на пути развития науки и технологий, возможно, что роботы, которые могли бы перепрыгнуть «Марианскую впадину» «зловещей долины», так и останутся единичными лабораторными экземплярами.
Сможем ли мы преодолеть эффект зловещей долины: мнение эксперта
Евгений Магид:
«Я считаю, что технически «эффект зловещей долины» — явление временное. Когда мы сможем создать геминоида, который будет постоянно поддерживать в пользователе чувство восхищения, мы победим первичные признаки этого эффекта. Но есть и более глубокие подсознательные причины: страх и недоверие. Чтобы побороть их, нужно постепенно внедрять роботов во все сферы жизни и обучать детей так, чтобы они еще в детсаду понимали базовые принципы робототехники и учились программировать роботов.
Чем больше роботов появится вокруг нас — промышленных, сервисных, домашних, — тем более привычными предметами они станут для нас.
Представьте себе страх неандертальцев перед огнем или луддитов перед станками — и вы поймете, что я имею в виду. Когда роботы станут привычным элементом жизни, а принципы их работы будут понятны каждому, страх неизведанного уйдет. И роботы сделают нас лучше».
Зловещая долина: terra incognita, в которой расставлены нейронные сети
Не припомню, чтобы в детстве я боялся клоунов. За все детство я побывал в цирке-шапито, может быть, два раза. Зато я определенно испытывал отвращение и настороженную злость к деду Морозу, поскольку примерно в семь лет прочел сказку Евгения Шварца «Два брата», а также был впечатлен завязкой фильма «Сказка странствий» (примерно 4.30 – 8.00). Много позже я стал понимать, что ощущение жуткой фальшивости деда Мороза было настоящим проявлением эффекта «зловещей долины». Этот эффект, получивший широкую известность в трактовке Масахиро Мори (род. 1927) в 1970 году, в дальнейшем стал предметом серьезных исследований и моделирования. В сегодняшней статье будет рассмотрено, как был обнаружен и как изучался этот феномен. Постараемся поговорить о нем с точки зрения психологии, распознавания образов и соотношения гармонии и уродства.
Статья написана в соавторстве с Екатериной Черских @MarkOcean аспиранткой Санкт-Петербургского ФИЦ РАН.
Актуальность и история понятия
Феномен «зловещей долины» до сих пор обладает скорее эмпирическим, чем научным обоснованием. По-английски он называется «Uncanny valley» и под «valley»понимается «яма» на графике, характеризующем степень воспринимаемой «жуткости» наблюдаемых антропоморфных объектов, в особенности масок, кукол и роботов.
В самой общей форме такой феномен «жуткости» отмечал еще в начале XX века немецкий психиатр Эрнст Йенч (1867-1919). В 1906 году он писал, что «жуткость» как психологическое явление может возникать из-за наблюдения чего-то очень знакомого в тревожно-непривычном контексте. Он связывал такие переживания с неуверенностью, «является ли некоторая фигура человеком или, допустим, автоматом», либо «является ли безжизненный объект одушевленным».
Итак, Масахиро Мори обратил внимание, что в робототехнике робот-машина воспринимается пользователем настороженно и враждебно, но для снижения такой тревожности и отторжения достаточно повысить сходство робота с человеком. Подобная «гуманизация» робота плавно улучшает восприятие робота человеком, пока не приводит к резкому спаду на этапе чрезмерно реалистичной имитации человечности. Мори также впервые отметил, что данный эффект интенсифицируется, если «страшный» объект движется. Сам Мори следующим образом описывал, как пришел к этой идее:
Я заметил, что, стремясь добиться максимальной человекоподобности роботов, мы постепенно начинаем ощущать все большее «сродство» с ними, пока их возрастающая реалистичность не приводит нас к своеобразной «долине» [на графике], которую я назову «зловещей».
Далее он упоминает, что в его детские годы как раз разрабатывались первые реалистичные протезы, которые во многом и навели его на такие мысли:
Кто-то может сказать, что рука-протез во многом сближается по внешнему виду с человеческой рукой, подобно тому, как вставные зубы похожи на настоящие. Но на самом деле, когда мы догадываемся, что перед нами протез, а только что нам казалось, что эта рука настоящая – нас охватывает жуткое чувство. Например, если при рукопожатии мы ощутим протез вместо руки, то сразу отметим, что он бескостный, холодный и по текстуре отличается от кожи. «Сходство» протеза с рукой улетучивается, и искусственная рука становится жуткой.
Впоследствии данный эффект был отмечен не только в робототехнике, но и в компьютерной графике, и в компьютерных играх, где разнообразно моделируется сходство персонажей с человеком. Вот этот знаменитый график:
График демонстрирует, что, в сущности, роботы и андроиды не попадают в «зловещую долину». То есть, большинство роботов все-таки находятся левее нее, а андроиды (из фантастических произведений), отдельно на этом графике не указанные – вероятно, правее, ближе к здоровому человеку. К 2009 году робототехника, вероятно, прочно обосновалась на правом склоне долины.
Туда ее вывел Хироси Исигуро (род. 1968), профессор Осакского университета, сконструировавший целую серию гуманоидных роботов; первых из них он назвал «геминоидами». Геминоид, выполненный в мужском облике, является приблизительным двойником самого Исигуро:
Этот робот обладает 50 степенями свободы (каждая степень свободы – это независимая координата перемещения или вращения; совокупность степеней свободы определяет возможные положения механизма в пространстве). Он настолько похож на человека, что даже читает в аудитории лекции самого Исигуро. Обратите внимание: даже состарившийся примерно на 10 лет профессор все равно очень похож на робота, а в 2009 году был от него практически неотличим.
Женская модификация геминоида движется как человек, сидя без движения она может вполне сойти за человека:
Вернемся, однако, к левому краю долины, чтобы конкретизировать, с чего она начинается. Вот, например, киновоплощение робота C-3PiO из «Звездных войн». Он подчеркнуто механистичен, и при этом вполне антропоморфный. C-3PiO в большей степени похож на игрушку, чем на человека. Очевидно, что с человеком его не перепутать, и страха он, как правило, не вызывает:
Зловещая долина как художественный метод
С распространением анимационных технологий кинофантастика преобразилась. Уже никого не удивишь воссозданием лиц и аватаров, неотличимых не то что от персонажей «Final Fantasy», но и от настоящих людей. Писатели-фантасты и киносценаристы сыграли немалую роль в развитии технологий, после чего некоторые из этих разработок, воплощенные и обкатанные в реальном мире, вернулись в кино. Гиперреализм, который стал гораздо более достижим благодаря компьютерной графике, быстро взяли на вооружение режиссеры-авангардисты, естественно, сразу оказавшиеся в «зловещей долине».
Так, в фильме «Еда» чешский режиссер Ян Шваркмайер использует собственный стиль монтажа и анимации для вывода зрителя на грань любопытства, страха и отвращения. Здесь показано обращение людей в машины. В одном из эпизодов этой картины человек заходит в помещение, посреди которого стоит обеденный стол, а за столом сидит мужчина. Но сидящий будто погружен в сон, а на его шее висит инструкция по применению. Человек читает ее и при этом не воспринимает «сонного» как человека – вскоре становится понятно, почему. Оказывается, это машина. У нее раскрывается грудная клетка, представляющая собой шахту лифта, через которую доставляют еду. Руки, глаза и голова – это кнопки, «пользовательский интерфейс». Пообедав, герой занимает место «сонного», а недавний «манекен» оживает и уходит. Эффект зловещей долины здесь особенно нарочит, так как человек и машина смешиваются в одном образе. Зритель уверен в том, что в кадре живой человек, но человек этот вынужден стать машиной и выполнить свою функцию доставки еды для следующего посетителя ресторана.
Насильственное превращение людей в роботов, чьи корпуса и лица повторяют анатомию человеческого тела используется и в сериале «Доктор Кто». Казалось бы, внешний вид механистических персонажей далек от человеческого; тем не менее эффект долины присутствует из-за подобия: черные дыры на месте глаз, механическое звучание голоса, механические внутренности, но живой мозг. Этот случай отличен от механизации Шваркмайера тем, что здесь человек искореняется и заменяется машиной, в то время как в «Еде» человеческое все еще составляет значительную часть робота. В обоих случаях граница восприятия размывается, наблюдатель не знает робот ли перед ним или же человек, что вызывает у него чувство ужаса, отвращения. В более жутких и гротескных формах подобные сочетания организма и механизма выведены в книгах Чайны Мьевиля о Нью-Кробюзоне. «Переделанные» в его романах являются целой кастой; «переделке» подвергают как по решению суда, так и для занятия экзотическими профессиями, малопригодными для человека, а также просто ради забавы.
Более экзотические киносюжеты, связанные со «зловещей долиной», уже играют не на страхе, а на замешательстве и невозможности сориентироваться, человек перед тобой или машина. О природе подобного замешательства будет рассказано ниже.
Главный герой фильм «Ex Machina» 2014 испытывает подобное чувство, обнаруживая себя в окружении человекоподобных роботов. В какой-то момент он, смотря на себя в зеркало, исследует черты своего лица в попытке доказать себе то, что он человек. Но прежде герой восхищен демонстрируемой ему машиной, он говорит с роботом, обучает его и в какой-то мере очеловечивает безупречную машину. В картине зрителю представлены люди, создающие образ роботов посредством актерской игры и использования технологий компьютерной графики. Постепенно можно заметить, как идеальные лица начинают кровоточить мелкими недочетами, которые пугают как главного героя, так как зрителя. Все в порядке, но что-то не так. Что же именно не так? Вы приблизились к зловещей долине.
В аниме «Trinity Blood» роботы представлены практически живыми людьми, с эмоциями, кровью, потребностью в еде – но это роботы, поскольку они являются искусственными. Люди, выращенные в лаборатории, вводят в свои организмы наномашины «крусники», чтобы выжить, в результате превращаясь в киборгов. Крусники-люди, совершенно не пугают нас до того момента пока не превращаются в киборгов-убийц. «Наномашины, Крусник 02!» – вызывает главный герой свою вторую ипостась и на наших глазах преображается в робота, чьи действия – уже в пределах зловещей долины. Несмотря на то, что визуальный ряд как таковой страха не вызывает, зритель сознает, что перед ним искусственно выращенный человек, в какой-то степени управляемый наномашинами. Авторы подчеркивают различия в поведении, внешнем виде и действиях людей и крусников-людей в результате чего образ машины закрепляется в сознании зрителя, вызывая отторжение.
В компьютерной игре «Detroit: become human» (2018) машины также очеловечиваются, но их образы постоянно возвращают наблюдателя к тому, что перед ним не человек. Главные герои-роботы проявляют эмоции: они смеются над шутками, беспокоятся, проявляют интерес. Все эмоции объясняются как результат чисто статистического анализа: ИИ изучает разнообразные ситуации и реагирует на них. Но суть игры неотделима от очеловечивания машины. Здесь игрок получил возможность управлять роботом, влиять на ход событий и «вырастить» своего героя в машину или человека. Но каким бы ни стал робот, роботом он остается: застывшее лицо, рваные движения, моменты неуправляемого холодного расчета при принятии решений, появление копии машины при «смерти» напоминают игроку об этом. В этом мире люди свободно общаются с человекоподобными роботами, но существует и оппозиция, выступающая против появления новых машин (эта позиция в игре также обосновывается). Но важно заметить, что таких людей-диссидентов значительно меньше тех, кто пользуется роботами так же буднично, как мы пользуемся смартфонами.
Машины такого типа, как роботы из «Detroit become human» и «Ex Machina», до сих пор не сошли в реальный мир с киноэкранов и книжных страниц; тем не менее их физическое воплощение прокрадывается в мир реальный. Человек уже в состоянии проектировать лица и тела роботов с такой степенью антропоморфизма, что неосведомленный наблюдатель не сразу обнаружит «подмену». Все это – уже правый склон «зловещей долины», заметными ранними представителями которого в кинофантастике были, вероятно, вышеупомянутые андроиды из «Чужих», пилот Калдер, а также терминатор Т-800 и Санни из фильма «Я, робот». 2004, C-3PO из «Звездных войн», но искусство продолжает совершенствовать образ робота и способы воздействия на зрителя, пользуясь зловещей долиной для провоцирования чувства страха у наблюдателя.
Оно больное или притворяется
В статье Кристины Лузер и Талии Уитли делается интересное обобщение тех «неправильных» черт, которые могут вызывать эффект «зловещей долины». В первую очередь, человек реагирует на несоответствие мимики ожиданиям.
Людям свойственно выискивать потенциальные угрозы в окружающей среде. Если куст выглядит как обычный куст, это значит, что он неопасен – поэтому можно расслабиться. Если перед нами – лев, внешне и всеми повадками безошибочно распознаваемый как лев, то понятно, что от него нужно спасаться. Если же у куста просматриваются львиные черты, то мы оказываемся в замешательстве, поскольку не знаем, как реагировать. Тот же принцип может срабатывать и в случае с гиперреалистичными андроидами, поскольку мы не уверены, человек перед нами или робот. Данное явление сближается с парейдолией — склонностью всюду подмечать контуры лиц, даже там, где их нет.
Человек отлично приспособился не только различать лица, но и считывать их выражение: это ключевой навык, необходимый уже ребенку для распознавания родных, а взрослому человеку – для отличия «своих» от «чужих» и «друзей» от «врагов». Именно поэтому эффект зловещей долины может быть более выраженным при рассматривании лиц, чем, например, рук-протезов.
Минимальные и трудноуловимые отличия андроида от человека также могут восприниматься как нездоровье, что вызывает инстинктивное отторжение. Исторически человек не всегда отличал инфекционные заболевания от психических. Поэтому «неадекватность» реакций робота также может восприниматься как заразная.
Эволюционное объяснение данного сценария позволяет предположить, что отбор поддерживал развитие отвращения к нездорово выглядящему человеку. Чем более по-человечески выглядит робот, тем сильнее выделяются его «нечеловеческие» детали: например, белизна покровов может восприниматься как бледность кожи. Кроме того, учитывая вышеуказанную склонность человека к распознаванию лиц, синтетическое лицо может вызывать отвращение из-за любого, даже минимального, нарушения пропорций, а также из-за плохого «качества кожи». Вполне возможно, что здесь также задействованы байесовские механизмы оценки правдоподобия. Лицо или тело, отдающее зловещей долиной, не оправдывает наших ожиданий.
Учитывая, что в самой нижней точке зловещей долины находится «зомби» (и находится он там, поскольку является подвижным; прямо над ним на схеме располагается «труп»), отторжение может быть связано не столько со страхом заражения, сколько со страхом смерти. Подобно зомби, андроид может казаться «ожившим» мертвецом, который, однако, неуклюже движется, не контролирует или не имеет эмоций, а его лицо проявляет симптомы, напоминающие инсульт.
Все эти допущения приводят нас к следующим промежуточным выводам, которые отражаются на практике:
Если эффект зловещей долины имеет эволюционные корни, то он может наблюдаться у обезьян
Если эффект зловещей долины связан с тем, что робот или андроид воспринимается как психически (неврологически) нездоровая особь, то этот эффект должен быть сильнее выражен у взрослых, чем у детей
Если мимика играет не меньшую (а то и большую) роль в формировании эффекта зловещей долины, то он должен проявляться и на синтетических лицах, создаваемых генеративно-состязательными нейронными сетями.
Опыты по изучению эффекта зловещей долины как у обезьян, так и у детей, уже проводились. В Тюбингенском университете группа под руководством Питера Тира проверяла наличие этого эффекта у макак-резусов. О данном исследовании есть хорошая статья на сайте N+1. При помощи компьютерного моделирования были получены каркасные модели обезьяньих лиц, а также анимированные движущиеся лица разной степени реалистичности. Мимика моделировалась с применением МРТ, смоделированное лицо выражало разные эмоции, в частности, удивление, агрессию или оставалось нейтральным.
Оказалось, что резусы более дружелюбно реагируют на наиболее реалистичные лица, видимо, относя их к «сородичам». Авторы исследования полагают, что повышенная реалистичность не вызывает эффект «зловещей долины» как таковой, а снижает толерантность к аномалиям в мимике. Компьютерная модель не может передать всех тонких движений лицевых мышц, поэтому реалистичные лица скорее приводили резусов в замешательство, тогда как безжизненные каркасные модели, вероятно, воспринимались как более неприятные, обезьяна рассматривала динамическое лицо дольше, чем статическое. Имея дело с синтетической мимикой, обезьянам сложно распознать «намерения» этого лица, но по-настоящему неприятными им кажутся иные составляющие: (безжизненная) текстура кожи и вообще отсутствие шерсти на лице, непривычная компоновка черт лица, размеры тех или иных черт лица.
Замешательство, проявленное обезьянами при разглядывании динамичных реалистичных лиц, согласуется с предположением об «обманутых ожиданиях». Человек может бессознательно (статистически) оценивать мимику и язык тела, опираясь на имеющийся опыт, делая это практически по байесовскому принципу оценки правдоподобия, о чем я упоминал выше. Наблюдая хаотичную или противоречивую мимику, как обезьяна, так и человек затрудняется интерпретировать намерения «существа», а также категоризировать его по принципу «свой-чужой», «живой-неживой» и пр.
В 2017 году опыт по оценке эффекта «зловещей долины» также был проведен на детях; его поставили Генри Уэллман и Кимберли Бринк из Мичиганского университета.
В рамках исследования был проведен опрос 240 детей и подростков (в возрасте от 3 до 18 лет), участникам которого предлагалось оценить «настроение» трех разных роботов и прокомментировать, как им эти роботы. Детям показывали видео с роботом, очень похожим на человека, машинно-подобным роботом и еще одним человекоподобным роботом, сочетавшим черты Baymax из «Города героев» и EVE из «ВАЛЛ-И». Детей спрашивали, могут ли на их взгляд такие роботы подумать о себе, совершать целенаправленные действия, а также понимают ли, что такое хорошо и что такое плохо. Кроме того, детей спрашивали, может ли робот проголодаться, если пропустит завтрак, испугаться, если увидит змею, либо будет ли ему больно, если его ущипнуть.
Также был и заданы вопросы о том, страшные ли эти роботы, и вызывают ли они неловкость.
Это исследование продемонстрировало ярко выраженные отличия между детьми до девяти и старше девяти лет. Дети до девяти лет сообщили, что роботы очень похожи на людей и совсем не страшные. Эти данные – не в пользу о том, что зловещая долина может быть связана с «болезненностью» внешнего вида, поскольку подобный страх должен был эволюционно закрепляться уже у маленьких детей. С другой стороны, дети старше девяти лет говорили, что роботы, похожие на людей, гораздо неприятнее роботов, похожих на машины. Вероятно, это косвенно подкрепляет именно «мимическую» составляющую феномена. Маленькие дети более доверчивы и не так хорошо считывают социальные сигналы, возможно, плохо категоризируют их. Взрослея, дети осваивают принцип «свой-чужой», начинают более настороженно относиться к обману и лицемерию, развивают эмоциональный интеллект – и этот опыт входит в противоречие с действиями или бездействием человекоподобных роботов.
Авторы исследования предполагают, что «зловещий» компонент коррелирует с тем, насколько «разумным» кажется робот. Отношение к такой разумности у маленьких и у взрослеющих детей (а тем более у взрослых) прямо противоположное. Маленькие дети предпочитают играть с тем роботом, которого считают более разумным. Но взрослеющих детей «разумность» робота начинает напрягать и пугать, поскольку, с одной стороны, человекоподобному роботу проще приписать человеческие мысли и чувства, а с другой стороны – их сложнее «распознать» и «классифицировать». Очеловечиваясь, робот начинает восприниматься как неискреннее, но при этом достаточно умное и коварное существо, поступки которого сложно прогнозировать, а намерения – угадывать. Итак, избыточная разумность игрушки – как правило, хороша, а избыточная разумность машины – неприятна и опасна. Эти идеи пересекаются с тестом Тьюринга и проблемой его прохождения (о чем я собираюсь написать отдельную статью) и являются спекулятивными, но вполне убедительно свидетельствуют, что эффект зловещей долины сильно обусловлен социальными факторами и жизненным опытом, а значит – развивается с возрастом
Зловещая долина и GAN
Генеративно-состязательные нейронные сети и лежащие в их основе алгоритмы глубокого обучения в последние 3-4 года пользуются огромной популярностью благодаря тому, как здорово с их помощью получаются реалистичные изображения, тексты и музыка. Обзор GAN выходит за рамки этой статьи, но желающим рекомендую посмотреть курс Александра Дьяконова, выложенный здесь, а также уже ставшую знаменитой книгу Сергея Николенко, Артура Кадурина и Екатерины Архангельской.
Я впервые познакомился с GAN, залипая на сайте «ThisPersonDoesNotExist». Обновляя страницу, мы видим лица, конструируемые нейронкой по результатам изучения реальных фотографий, изученных ею в результате анализа соцсетей. На мой взгляд, эта GAN – настоящее произведение искусства, но я сразу пытался подловить ее на фальшивости и ошибках, присматриваясь, в частности, не фонит ли зловещей долиной от каких-то сделанных ею фотографий. Отчасти эти поиски также были связаны с интересом к технологии deepfake, связанной с наложением синтетических лиц на движущегося агента с далеко идущими последствиями – в частности, для искусственного создания компромата.
Просматривая выборку, я находил минимум изъянов в предлагаемых фотографиях, но обращал внимание на:
Слишком старую кожу у детей
Неправильную форму улыбки, напоминающую легкие последствия инсульта
Чрезмерно массивную нижнюю челюсть, а также слишком крупные зубы
Совсем недавно, в октябре 2021 года, вышла интересная статья американских ученых, демонстрирующая, что GAN по-прежнему регулярно ошибается в воспроизведении зрачков. На приведенных в этой статье фотографиях слева изображена реальная девочка, а справа – несуществующая:
Метод выявления синтетических изображений по форме зрачков тем более перспективен, поскольку хорошо изучен в рамках биометрических разработок. Тем не менее, в качестве одного из ограничений этого метода авторы указывают возможность ложноположительных результатов, так как некоторые инфекционные заболевания или катаракта вызывают деформацию зрачков:
Я попробовал поэкспериментировать с сайтом «ThisPersonDoesNotExist» и уже после восьмого кряду обновления страницы получил вот такое женское лицо:
Левый зрачок у нее нормальный, а правый одновременно слишком вытянут в ширину, а также имеет даже не овальную, а отчетливо неправильную форму. Таким образом, на настоящий момент этот баг в работе GAN либо не исправлен, либо не поддается исправлению.
Наконец, упомяну об эксперименте из области работы с GAN, проведенном лондонскими учеными в 2020 году. Как известно, в работе GAN и в машинном обучении в целом используется функция правдоподобия, помогающая достигать максимально реалистичного результата. Авторы описываемого эксперимента действовали от противного и при генерации синтетических лиц постепенно минимизировали правдоподобие, обратив для этого целевую функцию.
Состязательность GAN заключается в одновременном стремлении к обманчивости результата и обнаружению этой обманчивости, поэтому сеть максимизирует функцию правдоподобия, подгоняя генерируемые образцы под то множество данных, на котором училась. Можно обратить этот процесс: начать обучение с реалистичных образцов, но затем на каждой итерации корректировать работу сети, заставляя ее заострять те наиболее характерные черты, которые она классифицирует как фальшь. В таком случае эти черты постепенно выпячиваются, что приводит к выраженному соскальзыванию в зловещую долину:
Здесь показаны результаты работы сети после 0, 250, 500, 750, 1000 и 1500 итераций. Вот как выглядит один из откорректированных «портретов», полученных после 500 итераций:
Авторы расценивают это лицо как пик неправдоподобия, при котором лицо еще воспринимается как человеческое – и, соответственно, приближается к самой низкой точке зловещей долины. Мне представляется, что этот портрет ярко демонстрирует как неискренность, так и болезненность, которые кажутся ключевыми составляющими эффекта зловещей долины.
Заключение
С эмпирической точки зрения эффект «зловещей долины» несомненно существует, но является скорее субъективным результатом высшей нервной деятельности, чем объективным набором характеристик. Поскольку фальшь накапливается незаметно, соскользнуть в долину с левого края можно совершенно случайно. По-видимому, мы настолько тонко обучились распознавать такую фальшь в ходе биологической эволюции, что «зловещая долина» фактически превращается в набор антипаттернов проектирования роботов. Чтобы получить робота или аватара, находящегося на вершине ее правого склона, в нее все равно придется зайти слева, полностью преодолеть, а затем благополучно выйти – что отнюдь не гарантировано. Поэтому робота желательно оставлять дружелюбной машиной, которая выглядит как машина и не дает повода усомниться, что она является машиной. Но, кто знает, может быть, подросший AGI решит иначе.