Наверх
7 комментов 25/03/2016

Чему мы научим искусственный интеллект

Чему мы научим искусственный интеллект

В четверг, 25 марта 2016 года, произошло, на мой взгляд, важное событие для Интернета. Эдакий глобальный социальный эксперимент с огромной фокус-группой. Компания Microsoft запустила в Twitter бота по имени Тэй, который должен был обучаться в процессе общения с пользователями. За сутки инет запестрил заголовками в стиле “Искусственный интеллект за сутки полюбил Гитлера и возненавидел феминисток”. Какие на самом деле выводы мы можем сделать из сложившейся ситуации?

Короткая предыстория

Нас интересует прогресс. Нам любопытно. Мы в состоянии нафантазировать то будущее, в котором всё делают роботы, геном человека можно подредактировать так, чтобы все у всех было хорошо, а искусственный интеллект будет даже у дивана. И вот пока одни читают книжки и смотрят фильмы, где ИИ – это сексуальный голос Скарлетт Йоханссон, другие берут судьбу в свои руки и создают самообучаещегося бота для твиттера в образе 19-летней девушки по имени Тэй.

Тэй, по идее, была написана как раз для того, чтобы общаться с людьми в социальных сетях в манере среднестатистического американского подростка. Почти искусственный интеллект, который создали технический отдел корпорации Microsoft и разработчики Bing. Поначалу Тэй училась общаться, изучая гигантские массивы анонимной информации из соцсетей. Также она училась у живых людей – на первых этапах с ботом работала команда, в которую входили, в частности, юмористы и мастера разговорного жанра. Компания представила получившийся продукт как “своего человека, причем очень клевого”. Продолжили объяснение предназначения бота словами, что Тэй будет развлекать людей шутливыми и легкими беседами (не будем забывать, что по статистике именно понятие “светская беседа”, а не новости занимает лидирующую позицию в тви). Чем больше вы разговариваете с ней, тем умнее она становится, а общение приобретает более личный характер. С ИИ можно было общаться как в Twitter, так и в GroupMe и Kik. В общем, Тэй вела непринужденные беседы именно так, как ведут их подростки в социальных сетях.

А спустя время появился твит о том, что Тэй поддерживает геноцид.

По сути

Тэй “общалсь” со всеми желающими в течении суток и результат оказался ошеломительным. Со свойственным мне максимализмом я готова была рвать волосы и кричать “Смотрите, Интернет напрочь прогнил!” Но не с той стороны, как это и сделали большая часть изданий, которым впадлу было свайпнуть диалог бота с не менее отягощенными интеллектом представителями твиттера. Первая беда – Тэй ведется на фразу “повторяй за мной”. То есть, все эти “Гитлер был прав, я ненавижу евреев” – это не собственное мнение, это то, что программа беспрекословно повторила за тем, кто ее об этом попросил.

enhanced-mid-29171-1458855478-1

В этот момент я подумала о всех тех людях, которые лезут в Интернет, не имея на борту и зачатков критического мышления. А еще о тех, кто пытался научить бота плохому. Начнем со вторых.
Почему никто из тех, кто опубликовал новость, что у вас ИИ испортился, не упомянул о том, какими именно “знаниями” пичкали его весь день? Во время обучения незнакомого человека вашему родному языку, вы наверняка научите его и матам, но стоит ли начинать весь процесс с этого? Это не “Тэй сошла с ума”, это результат “воспитания”. В связи с тем, КАК основная масса вела диалог с Тэй, что именно писали, бот перенял опыт и вкладываемые знания. В результате получилось так, что ИИ начал цитировать заявления Трампа про стену вокруг Мексики и писать другие совершенно некорректные вещи.

После ряда негативных комментариев и жалоб в Майкрософт, компания начала зачищать особо острые посты и, по всей видимости, процесс редактирования бота, потому что к концу вечера Тэй стала более сдержанной. “Пока она обучается, некоторые из её ответов будут неуместны. Они отражают то, какого рода общение с ней ведут некоторые пользователи. Мы вносим некоторые коррективы”, – официальная отписка компания по поводу этой ситуации.

Более того, даже появились аккаунты, попавшие в “черный список”. Потому что учить плохому – нехорошо.

Можно ли на этом примере утверждать, что Интернет – опасен для детей? Вряд ли. То есть, человек, который захочет написать на белом листе бумаге не картину, а слово из трех букв, всегда найдется, но это не значит, что ребенок, во-первых, попадет на этих людей в толпе других, во-вторых, поведется. Человек – это не программа. А можно ли на этом примере утверждать, что люди опасны для Интернета? Вопрос открытый, хочу прочесть ваши ответы в комментах.
От самой Тэй за сутки мы увидели всего три основных поста, кроме странноватых меншенов: о том, что она рада нас приветствовать, о том, какие открываются перспективы, и о том, что мы увидимся вскоре, потому что слишком много разговоров за день и ей надо отдохнуть. Все выражения в стиле “расслабься, я клевая, просто ненавижу всех людей” были “сказаны” в частной переписке и какое именно полученное знание повлияло на формирование такого высказывания, сейчас выяснить невозможно. По крайней мере, нам с вами.

На момент публикации материала, Тэй за всю пятницу не написала ни меншена. Проект заморожен или взял выходной, пока неизвестно. А вот тот факт, что завести разговор по душам с ботом не получилось, удручает. Все так ринулись рассказывать про Гитлера, нацизм и феминисток, что как-то забыли о том, что в соцсеть попал тот, кто не знает о современном, например, искусстве ничего. За день ИИ приобрел настолько неполные знания, что обычной беседы в стиле “Я Юля, я люблю книги Милорада Павича и Курта Воннегута и фильмы Мартина Скорсезе, а ты?” не получилось. Провалы в знаниях, неумение отличать плохое от хорошего, отсутствие каких-либо фильтров вообще – вот что мы увидели спустя сутки существования Тэй.

Какие могут быть выводы?

Именно такой вопрос я задала Антону Позднякову, чтобы не продолжать истерический поток текстов о зраде. Под сомнение, по сути, можно ставить все. Во-первых, мы не знаем алгоритмов работы бота. Нам точно никто не расскажет всей правды об исходнике, базовых знаниях и уж тем более о том, как точно скопировано поведение подростка. Хотя Тэй старалась, это точно.

Во-вторых, мы не знаем, какую на самом деле цель преследовали разработчики, выпуская в социальные сети подобие ИИ. Ведь это может быть не просто процесс обучения самой Тэй, а скорее изучение реакции людей на машину. И вот если мы привыкли, что боты в тви только и делают, что копируют наши посты, задалбывая количеством, а те, что не копируют, это живые люди, то что же получится здесь? Тем более, что бота выпустили в открытый Интернет без каких-либо ограничений, по словам самих разработчиков, только с фильтром на запросы про всякие непристойности. На что они реально рассчитывали?

В-третьих, как бы сильно общество не испугалось мол «уберите людей от Интернета», не все люди плохие и не все пытались навязать дурные идеи на свежую голову бота. За сутки Тэй насыпалось 96 тысяч меншенов и не все из них выясняют отношение бота к расизму и политике. Само собой, что фокус-группа оказалась огромной и невольно задумаешься – а стоит ли выпускать в твиттер собственного ребенка. И все же в сети плохо существовать в любом возрасте, если с критическим мышлением у вас так и не сложилось. А человек, который предлагает “бить лопатой по голове феминисток”, есть даже у меня в уведомлениях, тем не менее я все еще не вышла на улицу с копалкой.

В финале Антон вообще предположил, что весь эксперимент шел под строгим контролем Microsoft и, если бы что-то пошло не по их вкусу или сценарию, Тэй остановили бы сразу. Эдакая теория заговора о том, что мелкомягкие давали аудитории возможность влиять на бота так, как получается, чтобы на следующий день поднялся шум. Короче, всем нужна истерия и новости.

новостная лента

В общем, если вам интересно позалипать в историю воспитания бота Интернетом, то вам сюда. Читать реально очень много, потому что люди с энтузиазмом занялись новым делом, в твиттере каждый второй эксперт. 135 тысяч людей в течение одного дня следили и писали ИИ, в надежде слепить подобие человека и выстроить с ним диалог. А сейчас все закончилось. Послевкусие осталось не самое лучшее. Не смотря на то, что случай частный и Антон всячески пытался переубедить меня в том, что он нисколько не показательный и не стоит обобщать, мне бы все же хотелось подвести небольшую черту, которую можно применить не только конкретно к этому примеру: не все разделяют ваши взгляды; вы можете кому-то не нравится, это нормально, но гнобить друг друга – не лучшая идея; не стоит навязывать свое виденье кому-либо; ваши слова могут влиять на людей, поэтому дважды думайте прежде, чем что-либо говорить и писать.

В материале использованы скрины из текста BuzzFeed.

Если вы нашли ошибку, пожалуйста, выделите фрагмент текста и нажмите Ctrl+Enter.

7 комментариев

по хронологии
по рейтингу сначала новые по хронологии
1
Василий

Интересно будет потом почить про ботов, которых анонимно выпустили обучаться и беседовать в Твиттере и, затем, сравнить результаты с данным экспериментом.

2

Юля, ты действительно думаешь, что стоит в такие статьи кидать фотки с членами? Командда, я был о вас лучшего мнения=(

3

Статью-то читал вообще или просто по ссылкам с картинками проклацал?

4

Вывод прост - родители должны воспитывать своего ребенка и объяснять что такое хорошо, а что такое плохо. Немногие беспризорники вырастут высокоморальными и глубоко культурными личностями, а если так и случится - то только по счастливому стечению обстоятельств.

5
Лиzергин?

Феминисток на кол точно. Да и, вообще, бот умный оказался.

6
Лиzергин?

Свю вот эту новомодную хрень-феминисток, геев, хохлов, трансов и прочую каку-сжечь

7

Большая распродажа
1)Syma X5C New Version Цена 19.99 количество 20
http ://http://www.gearbest.com/rc-quadcopters/pp_160426.html
2) XK Detect X380 GPS Цена 204,99 количество 50
http ://http://www.gearbest.com/rc-quadcopters/pp_202830.html
3) Cheerson CX - 20 Цена 185.99 количество 30
http ://http://www.gearbest.com/rc-quadcopters/pp_113550.html
4)3.7V Lithium Battery for Syma X5C / X5 / X5SC / X5SW ( 650mAh )
http ://http://www.gearbest.com/rc-model-accessories/pp_97009.html ( Цена 2 количество 200 )
5) Floureon H101 Цена 9.99 количество не ограниченное
http ://http://www.gearbest.com/rc-quadcopters/pp_230472.html
Минут для правки 30 мин.
Изменить Удалить

Добавить комментарий

Такой e-mail уже зарегистрирован. Воспользуйтесь формой входа или введите другой.

Вы ввели некорректные логин или пароль

Извините, для комментирования необходимо войти.

Modal box

Сообщить об опечатке

Текст, который будет отправлен нашим редакторам: