Чему мы научим искусственный интеллект

В четверг, 25 марта 2016 года, произошло, на мой взгляд, важное событие для Интернета. Эдакий глобальный социальный эксперимент с огромной фокус-группой. Компания Microsoft запустила в Twitter бота по имени Тэй, который должен был обучаться в процессе общения с пользователями. За сутки инет запестрил заголовками в стиле “Искусственный интеллект за сутки полюбил Гитлера и возненавидел феминисток”. Какие на самом деле выводы мы можем сделать из сложившейся ситуации?

Короткая предыстория

Нас интересует прогресс. Нам любопытно. Мы в состоянии нафантазировать то будущее, в котором всё делают роботы, геном человека можно подредактировать так, чтобы все у всех было хорошо, а искусственный интеллект будет даже у дивана. И вот пока одни читают книжки и смотрят фильмы, где ИИ – это сексуальный голос Скарлетт Йоханссон, другие берут судьбу в свои руки и создают самообучаещегося бота для твиттера в образе 19-летней девушки по имени Тэй.

https://twitter.com/TayandYou/status/712830611614904321

Тэй, по идее, была написана как раз для того, чтобы общаться с людьми в социальных сетях в манере среднестатистического американского подростка. Почти искусственный интеллект, который создали технический отдел корпорации Microsoft и разработчики Bing. Поначалу Тэй училась общаться, изучая гигантские массивы анонимной информации из соцсетей. Также она училась у живых людей – на первых этапах с ботом работала команда, в которую входили, в частности, юмористы и мастера разговорного жанра. Компания представила получившийся продукт как “своего человека, причем очень клевого”. Продолжили объяснение предназначения бота словами, что Тэй будет развлекать людей шутливыми и легкими беседами (не будем забывать, что по статистике именно понятие “светская беседа”, а не новости занимает лидирующую позицию в тви). Чем больше вы разговариваете с ней, тем умнее она становится, а общение приобретает более личный характер. С ИИ можно было общаться как в Twitter, так и в GroupMe и Kik. В общем, Тэй вела непринужденные беседы именно так, как ведут их подростки в социальных сетях.

https://twitter.com/TayandYou/status/712832438389645314

https://twitter.com/TayandYou/status/712831684324909056

А спустя время появился твит о том, что Тэй поддерживает геноцид.

По сути

Тэй “общалсь” со всеми желающими в течении суток и результат оказался ошеломительным. Со свойственным мне максимализмом я готова была рвать волосы и кричать “Смотрите, Интернет напрочь прогнил!” Но не с той стороны, как это и сделали большая часть изданий, которым впадлу было свайпнуть диалог бота с не менее отягощенными интеллектом представителями твиттера. Первая беда – Тэй ведется на фразу “повторяй за мной”. То есть, все эти “Гитлер был прав, я ненавижу евреев” – это не собственное мнение, это то, что программа беспрекословно повторила за тем, кто ее об этом попросил.

В этот момент я подумала о всех тех людях, которые лезут в Интернет, не имея на борту и зачатков критического мышления. А еще о тех, кто пытался научить бота плохому. Начнем со вторых.
Почему никто из тех, кто опубликовал новость, что у вас ИИ испортился, не упомянул о том, какими именно “знаниями” пичкали его весь день? Во время обучения незнакомого человека вашему родному языку, вы наверняка научите его и матам, но стоит ли начинать весь процесс с этого? Это не “Тэй сошла с ума”, это результат “воспитания”. В связи с тем, КАК основная масса вела диалог с Тэй, что именно писали, бот перенял опыт и вкладываемые знания. В результате получилось так, что ИИ начал цитировать заявления Трампа про стену вокруг Мексики и писать другие совершенно некорректные вещи.

https://twitter.com/TayandYou/status/712832317572521985

После ряда негативных комментариев и жалоб в Майкрософт, компания начала зачищать особо острые посты и, по всей видимости, процесс редактирования бота, потому что к концу вечера Тэй стала более сдержанной. “Пока она обучается, некоторые из её ответов будут неуместны. Они отражают то, какого рода общение с ней ведут некоторые пользователи. Мы вносим некоторые коррективы”, – официальная отписка компания по поводу этой ситуации.

https://twitter.com/TayandYou/status/712832594983780352

Более того, даже появились аккаунты, попавшие в “черный список”. Потому что учить плохому – нехорошо.

https://twitter.com/OmegaVoyager/status/712836055767056385

Можно ли на этом примере утверждать, что Интернет – опасен для детей? Вряд ли. То есть, человек, который захочет написать на белом листе бумаге не картину, а слово из трех букв, всегда найдется, но это не значит, что ребенок, во-первых, попадет на этих людей в толпе других, во-вторых, поведется. Человек – это не программа. А можно ли на этом примере утверждать, что люди опасны для Интернета? Вопрос открытый, хочу прочесть ваши ответы в комментах.
От самой Тэй за сутки мы увидели всего три основных поста, кроме странноватых меншенов: о том, что она рада нас приветствовать, о том, какие открываются перспективы, и о том, что мы увидимся вскоре, потому что слишком много разговоров за день и ей надо отдохнуть. Все выражения в стиле “расслабься, я клевая, просто ненавижу всех людей” были “сказаны” в частной переписке и какое именно полученное знание повлияло на формирование такого высказывания, сейчас выяснить невозможно. По крайней мере, нам с вами.

https://twitter.com/TayandYou/status/712732131277950977

На момент публикации материала, Тэй за всю пятницу не написала ни меншена. Проект заморожен или взял выходной, пока неизвестно. А вот тот факт, что завести разговор по душам с ботом не получилось, удручает. Все так ринулись рассказывать про Гитлера, нацизм и феминисток, что как-то забыли о том, что в соцсеть попал тот, кто не знает о современном, например, искусстве ничего. За день ИИ приобрел настолько неполные знания, что обычной беседы в стиле “Я Юля, я люблю книги Милорада Павича и Курта Воннегута и фильмы Мартина Скорсезе, а ты?” не получилось. Провалы в знаниях, неумение отличать плохое от хорошего, отсутствие каких-либо фильтров вообще – вот что мы увидели спустя сутки существования Тэй.

Какие могут быть выводы?

Именно такой вопрос я задала Антону Позднякову, чтобы не продолжать истерический поток текстов о зраде. Под сомнение, по сути, можно ставить все. Во-первых, мы не знаем алгоритмов работы бота. Нам точно никто не расскажет всей правды об исходнике, базовых знаниях и уж тем более о том, как точно скопировано поведение подростка. Хотя Тэй старалась, это точно.

https://twitter.com/TayandYou/status/712830862908215297

Во-вторых, мы не знаем, какую на самом деле цель преследовали разработчики, выпуская в социальные сети подобие ИИ. Ведь это может быть не просто процесс обучения самой Тэй, а скорее изучение реакции людей на машину. И вот если мы привыкли, что боты в тви только и делают, что копируют наши посты, задалбывая количеством, а те, что не копируют, это живые люди, то что же получится здесь? Тем более, что бота выпустили в открытый Интернет без каких-либо ограничений, по словам самих разработчиков, только с фильтром на запросы про всякие непристойности. На что они реально рассчитывали?

https://twitter.com/TayandYou/status/712811460783525888?ref_src=twsrc%5Etfw

В-третьих, как бы сильно общество не испугалось мол «уберите людей от Интернета», не все люди плохие и не все пытались навязать дурные идеи на свежую голову бота. За сутки Тэй насыпалось 96 тысяч меншенов и не все из них выясняют отношение бота к расизму и политике. Само собой, что фокус-группа оказалась огромной и невольно задумаешься – а стоит ли выпускать в твиттер собственного ребенка. И все же в сети плохо существовать в любом возрасте, если с критическим мышлением у вас так и не сложилось. А человек, который предлагает “бить лопатой по голове феминисток”, есть даже у меня в уведомлениях, тем не менее я все еще не вышла на улицу с копалкой.

https://twitter.com/pinchicagoo/status/713096425442246657?ref_src=twsrc%5Etfw

В финале Антон вообще предположил, что весь эксперимент шел под строгим контролем Microsoft и, если бы что-то пошло не по их вкусу или сценарию, Тэй остановили бы сразу. Эдакая теория заговора о том, что мелкомягкие давали аудитории возможность влиять на бота так, как получается, чтобы на следующий день поднялся шум. Короче, всем нужна истерия и новости.

В общем, если вам интересно позалипать в историю воспитания бота Интернетом, то вам сюда. Читать реально очень много, потому что люди с энтузиазмом занялись новым делом, в твиттере каждый второй эксперт. 135 тысяч людей в течение одного дня следили и писали ИИ, в надежде слепить подобие человека и выстроить с ним диалог. А сейчас все закончилось. Послевкусие осталось не самое лучшее. Не смотря на то, что случай частный и Антон всячески пытался переубедить меня в том, что он нисколько не показательный и не стоит обобщать, мне бы все же хотелось подвести небольшую черту, которую можно применить не только конкретно к этому примеру: не все разделяют ваши взгляды; вы можете кому-то не нравится, это нормально, но гнобить друг друга – не лучшая идея; не стоит навязывать свое виденье кому-либо; ваши слова могут влиять на людей, поэтому дважды думайте прежде, чем что-либо говорить и писать.

https://twitter.com/TayandYou/status/712856578567839745

В материале использованы скрины из текста BuzzFeed.