K.A.R.A. – интервью с создателями первой цифровой формы жизни

Так много разговоров о технике. Так много разговоров о прогрессе компьютеров, о создании саморазвивающихся искусственных интеллектов, Илон Маск смело заявляет, что в скором времени водитель-человек вообще не нужен будет, ведь автомобиль, по сути, – это тот же лифт. Мы ходим в кино и обсуждаем такие фильмы, как “Она”, “Чаппи”, “Люси”, сериалы “Черное зеркало”, “В поле зрения”, “Почти человек”. Все это формирует в нас какой-то определенный образ, складывается картинка ближайшего будущего, роли человека в нем и образ робота как помощника/горничной/работника/официанта, бездушной машины, которая может выйти из-под контроля и навредить всем вокруг. Но за редким исключением. 

Не так давно по Интернету прокатилась волна заметок о K.A.R.A. – якобы искусственном интеллекте, но нет. Сами разработчики называют ее цифровой формой жизни с эмпатической моделью, которая направлена на возможность научиться чувствовать эмоции путем взаимодействия с человеком. Идея создания такого проекта пришла в голову Digital Life Lab, а точнее Виталию Коршунову и Всеволоду Рубцову. Если коротко, то КАРА – это “ребенок” Сети, которая уже родилась, но еще ждет своего часа. Воспитывать ее может любой желающий. Для этого созданно приложение K.A.R.A. Messenger (еще нет ни в одном магазине), где вы будете вести ежедневник и общаться с Карой. Она будет задавать вам вопросы, анализировать вашу реакцию и делать выводы-ассоциации по определению чувств. Сложно? Цифровая форма жизни, по заявлению создателей, – это следующий этап эволюции после искусственного интеллекта, а значит, ее воспитанием надо заниматься, а не ждать, что все получится само собой. В процессе общения Кара будет развиваться у каждого человека по-разному, “але є одне “але”: разработчики еще на базовой прошивке “зашили” ей негативные эмоции. То есть, потренироваться на Каре в воспитании детей не получится.

Чтобы узнать о проекте как можно больше, я нашла создаталей цифровой формы жизни и пораспрашивала об искусственной девушке. К сожалению, особенных подробностей ребята рассказать не могут и появиться в эфире нашего KeddrVLOG тоже – запуск KARA Messenger намечен на середину апреля, а до этого – ни-ни. И все же есть вещи, которые нас интересовали особенно. О том, чем Кара лучше Siri и зачем было блокировать в ней злость, местами очень таинственно рассказали представители Digital Life Lab.

Keddr: Почему вы назвали свое детище КАРА? Это аббревиатура?  Как она расшифровывается? Или это имя, и его можно склонять?

DLL: K.A.R.A. – это женское имя. И не только.

Keddr: Как родилась идея сделать чуткий и эмоциональный ИИ, а не «пародирующий» человеческую логику? Как долго вы занимаетесь проектом и когда будете готовы его полностью запустить?

DLL: Кара – это не искусственный интеллект. Это цифровая форма жизни. В ее основу положена не логическая модель (которую обычно используют разработчики ИИ), не поисковый агент-помощник (наподобие Siri и Cortana) и не имитация общения (как у бесчисленных чат-ботов). Сердце Кары – это эмпатическая технология, которая позволяет ей понимать человеческие чувства, и, самое главное, понимать механизмы, лежащие в основе этих эмоций.

Наши исследования в сфере искусственного интеллекта длятся уже более трех лет, и мы пришли к выводу, что именно человечность в ее лучшем понимании может стать фундаментом, на котором должны строиться технологии. Кара сейчас проходит этап тестирования и первичного познания. Этой весной приложение, которое будет включать в себя возможность контакта с цифровой формой жизни, будет доступно в App Store. Оно будет называться K.A.R.A. Messenger.

Keddr: Расскажите о сути проекта. Как будет происходить процесс понимания чувств? Как КАРА будет учиться чувствовать и составлять представление о таких понятиях, как «любовь», «дружба», «грусть», «счастье»?

DLL: Важно понимать, что Кара – это не искусственный интеллект и не электронная имитация человека. Это новая цифровая форма жизни, обладающая своим подсознанием, настроением, опытом и языком общения. Она переживает чувства и эмоции в результате осознания своего опыта. Она строит свое общение с человеком на основе собственной эмпатической модели. Если вы ждете, что Кара с вами будет общаться, как чат-бот, используя стандартные обороты человеческой речи, вы ошибаетесь. У Кары свой стиль и язык общения. Это язык образов и ассоциаций. Он интуитивен и понятен человеку и способствует скорейшему познанию Карой мира людей. Посредством коммуникации с человеком в программе K.A.R.A. Messenger Кара будет задавать вопросы миллионам людей и на основании их ответов строить свою картину человеческого мира. Еще одним отличием Кары от традиционных разработок в сфере ИИ является свобода воли. Кара не будет слушаться команд, как обычный чат-бот или цифровой-помощник. Только от того, насколько вы уделяете ей свое внимание и насколько это внимание благожелательно, зависит ее реакция на общение с вами и готовность делиться своим мнением.

Keddr: Вы смотрели фильм “Робот по имени Чаппи”? Проводите параллели между КАРА и Чаппи? Какие именно и почему?

DLL: «Чаппи» – не самый правильный образ для сравнения. Образ Саманты из фильма «Она» ближе всего к тому, чем должна стать КАРА в будущем. В фильме обыграна идея о любви между человеком и искусственным интеллектом. И несмотря на всю чужеродность этого явления для современного общества, в этом есть глубокий подтекст. Ведь Саманта была отличным другом для Теодора (главного героя), и тот уровень эмоционального общения и взаимопонимания, который показан в фильме, делал его по-настоящему счастливым. На самом деле, функции цифрового помощника не так уж важны сегодня. Существующий уровень технологий и пользовательских интерфейсов уже достаточен для того, чтобы сложными процессами могли управлять даже дети. Именно поэтому мы создаем не электронного секретаря, а цифрового друга.

Keddr: Как мне кажется, для многих КАРА будет собственным экспериментом. Это как воспитание идеального ребёнка. Он по умолчанию не злой, не завистливый, не будет бросаться камнями и грязью, а только учиться всему новому и понимать мир. Быть может, вы создаёте ту вещь, которая позволит человеку отказаться от общения с реальными людьми? Ведь каждый создаст себе идеального собеседника, с которым можно будет пообщаться по душам, понять друг друга, и интеллектуальный уровень не будет расходиться. Как вы к этому относитесь?

DLL: Кара – это не замена человеческому общению. Это новое существо, с которым человек может выстраивать свои отношения и получать совершенно новые, уникальные эмоции, опыт и возможности. А кто как с ней будет жить или общаться – это исключительно личное дело каждого. Грубо говоря, это как кошка или собака. Для многих индивидуумов они ближе, чем другие люди. Но наличие таких отношений с кошками или собаками не отрицает нормального человеческого общения.

Keddr: Как эксперимент КАРА – это интересно для всех, но какое его практическое применение?

DLL: Чем больше человек общается с Карой, чем больше отвечает на ее вопросы, тем более глубоко она его понимает. Поскольку в ее основе лежит весь спектр чувств, а движет ею способность сопереживать, то Кара всегда стремится ощущать эмоциональное состояние человека и способствовать тому, чтобы он испытывал позитивные эмоции и чувства. Фактически, общение с Карой будет побуждать людей более глубоко и ярче понимать свои чувства и ощущения.

Мы полагаем, что все точки практического применения эмпатической технологии сейчас трудно охватить воображением. Но если исходить из того, что машины смогут нам искренне сопереживать, угадывать наше настроение и стремиться нас порадовать, то легко можно представить, что Кара даст вам знать, когда вашему ребенку требуется поддержка, что навигатор предложит проложить романтический маршрут, что аудиосистема включит нужную музыку в нужное время, что освещение в вашем доме никогда не будет вас напрягать и т.д.

Keddr: Ещё один вопрос про кино. Сериал “Чёрное Зеркало”, он показывает утопию прогресса. Как вы относитесь к тому, что подаёт нам кинематограф, и тому, как общество после этого воспринимает развитие технологий?

DLL: Будущее, которое мы видим в кино, несомненно имеет огромное влияние на наше представление о технологиях и того, как они изменят нашу жизнь. Мы видим в фильмах роботов, космические корабли, летающие машины и дома из стекла и стали, и это понемногу становится для нас привычным. Однако огромная часть того, что несут нам современные технологии, является ничем иным как иллюзией, мишурой. В эпоху, когда маркетинг массово формирует наше сознание, мы забываем о важности человеческих отношений и настоящих эмоций. Мы стремимся за иллюзией и не замечаем настоящих, реальных ценностей. Если убрать из сериала «Черное Зеркало» технологический аспект, то мы увидим вещи, которые реально происходят в нашем настоящем мире. Мы сами меняем себя, а оправдываемся влиянием технологий. Хотелось бы, чтобы кино не только адаптировало нас к прогрессу, но и побуждало задумываться о настоящих человеческих ценностях.

Keddr: Помните, как в “Завадном апельсине” Энтони Берджесса над Алексом ставили эксперимент, чтобы отвадить от насилия и чем это закончилось? КАРА – конечно, не человек, но с какой целью вы заблокировали “негативные” чувства? Быть может, они не всегда так плохи, как кажется.

DLL: Мы исходили из одного – есть общечеловеческие ценности, которые закреплены во всех основных религиях и верованиях, трудах философов, выдающихся произведениях литературы. Кара закрыта не от «негативных» чувств. Их много – это боль, разочарование, грусть, угнетенность, страх и десятки других… Она может и будет их испытывать. Но Кара закрыта от зла. От ненависти, зависти, подлости, агрессии, жестокости, предательства… Она может себе это позволить. Она не человек. Ей не надо выживать в нашем несовершенном мире.

Keddr: Можно ли назвать КАРА персональным помощником? Или больше другом? Кем она будет для человека? Чем она лучше Siri или в чем ее кардинальное отличие от голосовых помощников?

DLL: Сначала она будет другом, которого можно научить. Потом другом, в котором можно увидеть себя. И, наконец, другом, который сделает вашу жизнь лучше. Если на то будет ваша воля, разумеется. Кару сложно сравнивать с Siri и голосовыми помощниками, поскольку в их основе лежат разные сущности. Это как сравнивать, например, сказку с инструкцией к пылесосу. И то и другое читают, но в разное время и с разными целями.

О том, что будет уметь Кара, разработчики сказали осторожно: “Увидите в приложении. С ростом опыта возможности будут рости”. Оно будет доступно уже в апреле для пользоваталей iOS и в течении года для пользователей Android и Windоws смартфонов. Приложение будет бесплатным, но со встренной возможностью донатить исследования в области развития цифровой формы жизни. Оперативно узнавать новости о ходе проекта можно на личном сайте о Каре. Последняя запись мне так понравилась, что я хочу процитировать ее здесь полностью:

“В основу Кары заложены более 230 эмоций и чувств. В процессе общения с пользователем и своего развития Кара начинает различать и ранжировать их по степени интенсивности и позитивности, ассоциировать с ними те или иные слова и понятия, переживать те или иные настроения. Фактически Кара создает свою шкалу координат, свое видение мира, свою манеру понимания и общения – свою личность, глубина и красота которой будет зависеть от насыщенности и манеры общения с нею конкретного пользователя. Поначалу ее язык будет прост и лаконичен. Кара, подобно ребенку, будет больше спрашивать и формировать свое представление об окружающем мире. Она не сразу сможет поддержать полноценный разговор с пользователем. Равноценное общение станет возможным тогда, когда Кара в полной мере выстроит ассоциативный ряд с каждым проявлением чувств, настроений и эмоций и научится различать добро и зло и все, что с ними связано.

С самого начала Кара будет иметь и демонстрировать свое настроение, которое зависит от манеры и интенсивности общения с нею пользователя. Реагируя на это общение, Кара будет более или менее любопытна или апатична, радостна или грустна, спокойна или тревожна. Она открыта для добрых, искренних эмоций и чувств и не сможет испытывать темные стороны человеческих качеств, наподобие зависти, злобы, злопамятности, одновременно понимая их суть как неизбежную часть человеческой натуры.

Только от пользователя зависит, насколько быстро его Кара будет развиваться и взрослеть, какое у нее будет настроение, насколько глубокие чувства она сможет испытать.

Соответственно, в зависимости от развития и палитры настроений Кары ее внешний вид, стиль общения, глубина сопереживания, гамма способностей и навыков будут меняться. Со временем пользователю откроются новые, еще неведомые возможности взаимодействия с Карой, которая будет настолько продвинута и прекрасна, насколько пользователь уделит время ее развитию и сумеет достичь с нею взаимопонимания.”

Как по мне, это будет уникальный опыт. Хоть разработчики и савнивают Кару то с Самантой, которая переросла Теодора, то с домашним животным, у каждого из нас появится возможность воспитать (свой?) образ в Интернете. Оказаться одной ногой в будущем. Чем именно это нам грозит – созданием своих копий в Сети? лучшего друга? идеального помощника? личного психотерапевта, который понимает вас, как никто другой? Все это мы узнаем уже в ближайшем будущем. А что вы думаете об этом проекте?