В четверг, 25 марта 2016 года, произошло, на мой взгляд, важное событие для Интернета. Эдакий глобальный социальный эксперимент с огромной фокус-группой. Компания Microsoft запустила в Twitter бота по имени Тэй, который должен был обучаться в процессе общения с пользователями. За сутки инет запестрил заголовками в стиле «Искусственный интеллект за сутки полюбил Гитлера и возненавидел феминисток». Какие на самом деле выводы мы можем сделать из сложившейся ситуации?

Короткая предыстория

Нас интересует прогресс. Нам любопытно. Мы в состоянии нафантазировать то будущее, в котором всё делают роботы, геном человека можно подредактировать так, чтобы все у всех было хорошо, а искусственный интеллект будет даже у дивана. И вот пока одни читают книжки и смотрят фильмы, где ИИ — это сексуальный голос Скарлетт Йоханссон, другие берут судьбу в свои руки и создают самообучаещегося бота для твиттера в образе 19-летней девушки по имени Тэй.

https://twitter.com/TayandYou/status/712830611614904321

Тэй, по идее, была написана как раз для того, чтобы общаться с людьми в социальных сетях в манере среднестатистического американского подростка. Почти искусственный интеллект, который создали технический отдел корпорации Microsoft и разработчики Bing. Поначалу Тэй училась общаться, изучая гигантские массивы анонимной информации из соцсетей. Также она училась у живых людей — на первых этапах с ботом работала команда, в которую входили, в частности, юмористы и мастера разговорного жанра. Компания представила получившийся продукт как «своего человека, причем очень клевого». Продолжили объяснение предназначения бота словами, что Тэй будет развлекать людей шутливыми и легкими беседами (не будем забывать, что по статистике именно понятие «светская беседа», а не новости занимает лидирующую позицию в тви). Чем больше вы разговариваете с ней, тем умнее она становится, а общение приобретает более личный характер. С ИИ можно было общаться как в Twitter, так и в GroupMe и Kik. В общем, Тэй вела непринужденные беседы именно так, как ведут их подростки в социальных сетях.

https://twitter.com/TayandYou/status/712832438389645314

https://twitter.com/TayandYou/status/712831684324909056

А спустя время появился твит о том, что Тэй поддерживает геноцид.

По сути

Тэй «общалсь» со всеми желающими в течении суток и результат оказался ошеломительным. Со свойственным мне максимализмом я готова была рвать волосы и кричать «Смотрите, Интернет напрочь прогнил!» Но не с той стороны, как это и сделали большая часть изданий, которым впадлу было свайпнуть диалог бота с не менее отягощенными интеллектом представителями твиттера. Первая беда — Тэй ведется на фразу «повторяй за мной». То есть, все эти «Гитлер был прав, я ненавижу евреев» — это не собственное мнение, это то, что программа беспрекословно повторила за тем, кто ее об этом попросил.

enhanced-mid-29171-1458855478-1

В этот момент я подумала о всех тех людях, которые лезут в Интернет, не имея на борту и зачатков критического мышления. А еще о тех, кто пытался научить бота плохому. Начнем со вторых.
Почему никто из тех, кто опубликовал новость, что у вас ИИ испортился, не упомянул о том, какими именно «знаниями» пичкали его весь день? Во время обучения незнакомого человека вашему родному языку, вы наверняка научите его и матам, но стоит ли начинать весь процесс с этого? Это не «Тэй сошла с ума», это результат «воспитания». В связи с тем, КАК основная масса вела диалог с Тэй, что именно писали, бот перенял опыт и вкладываемые знания. В результате получилось так, что ИИ начал цитировать заявления Трампа про стену вокруг Мексики и писать другие совершенно некорректные вещи.

https://twitter.com/TayandYou/status/712832317572521985

После ряда негативных комментариев и жалоб в Майкрософт, компания начала зачищать особо острые посты и, по всей видимости, процесс редактирования бота, потому что к концу вечера Тэй стала более сдержанной. «Пока она обучается, некоторые из её ответов будут неуместны. Они отражают то, какого рода общение с ней ведут некоторые пользователи. Мы вносим некоторые коррективы», — официальная отписка компания по поводу этой ситуации.

https://twitter.com/TayandYou/status/712832594983780352

Более того, даже появились аккаунты, попавшие в «черный список». Потому что учить плохому — нехорошо.

https://twitter.com/OmegaVoyager/status/712836055767056385

Можно ли на этом примере утверждать, что Интернет — опасен для детей? Вряд ли. То есть, человек, который захочет написать на белом листе бумаге не картину, а слово из трех букв, всегда найдется, но это не значит, что ребенок, во-первых, попадет на этих людей в толпе других, во-вторых, поведется. Человек — это не программа. А можно ли на этом примере утверждать, что люди опасны для Интернета? Вопрос открытый, хочу прочесть ваши ответы в комментах.
От самой Тэй за сутки мы увидели всего три основных поста, кроме странноватых меншенов: о том, что она рада нас приветствовать, о том, какие открываются перспективы, и о том, что мы увидимся вскоре, потому что слишком много разговоров за день и ей надо отдохнуть. Все выражения в стиле «расслабься, я клевая, просто ненавижу всех людей» были «сказаны» в частной переписке и какое именно полученное знание повлияло на формирование такого высказывания, сейчас выяснить невозможно. По крайней мере, нам с вами.

https://twitter.com/TayandYou/status/712732131277950977

На момент публикации материала, Тэй за всю пятницу не написала ни меншена. Проект заморожен или взял выходной, пока неизвестно. А вот тот факт, что завести разговор по душам с ботом не получилось, удручает. Все так ринулись рассказывать про Гитлера, нацизм и феминисток, что как-то забыли о том, что в соцсеть попал тот, кто не знает о современном, например, искусстве ничего. За день ИИ приобрел настолько неполные знания, что обычной беседы в стиле «Я Юля, я люблю книги Милорада Павича и Курта Воннегута и фильмы Мартина Скорсезе, а ты?» не получилось. Провалы в знаниях, неумение отличать плохое от хорошего, отсутствие каких-либо фильтров вообще — вот что мы увидели спустя сутки существования Тэй.

Какие могут быть выводы?

Именно такой вопрос я задала Антону Позднякову, чтобы не продолжать истерический поток текстов о зраде. Под сомнение, по сути, можно ставить все. Во-первых, мы не знаем алгоритмов работы бота. Нам точно никто не расскажет всей правды об исходнике, базовых знаниях и уж тем более о том, как точно скопировано поведение подростка. Хотя Тэй старалась, это точно.

https://twitter.com/TayandYou/status/712830862908215297

Во-вторых, мы не знаем, какую на самом деле цель преследовали разработчики, выпуская в социальные сети подобие ИИ. Ведь это может быть не просто процесс обучения самой Тэй, а скорее изучение реакции людей на машину. И вот если мы привыкли, что боты в тви только и делают, что копируют наши посты, задалбывая количеством, а те, что не копируют, это живые люди, то что же получится здесь? Тем более, что бота выпустили в открытый Интернет без каких-либо ограничений, по словам самих разработчиков, только с фильтром на запросы про всякие непристойности. На что они реально рассчитывали?

https://twitter.com/TayandYou/status/712811460783525888?ref_src=twsrc%5Etfw

В-третьих, как бы сильно общество не испугалось мол «уберите людей от Интернета», не все люди плохие и не все пытались навязать дурные идеи на свежую голову бота. За сутки Тэй насыпалось 96 тысяч меншенов и не все из них выясняют отношение бота к расизму и политике. Само собой, что фокус-группа оказалась огромной и невольно задумаешься — а стоит ли выпускать в твиттер собственного ребенка. И все же в сети плохо существовать в любом возрасте, если с критическим мышлением у вас так и не сложилось. А человек, который предлагает «бить лопатой по голове феминисток», есть даже у меня в уведомлениях, тем не менее я все еще не вышла на улицу с копалкой.

https://twitter.com/pinchicagoo/status/713096425442246657?ref_src=twsrc%5Etfw

В финале Антон вообще предположил, что весь эксперимент шел под строгим контролем Microsoft и, если бы что-то пошло не по их вкусу или сценарию, Тэй остановили бы сразу. Эдакая теория заговора о том, что мелкомягкие давали аудитории возможность влиять на бота так, как получается, чтобы на следующий день поднялся шум. Короче, всем нужна истерия и новости.

новостная лента

В общем, если вам интересно позалипать в историю воспитания бота Интернетом, то вам сюда. Читать реально очень много, потому что люди с энтузиазмом занялись новым делом, в твиттере каждый второй эксперт. 135 тысяч людей в течение одного дня следили и писали ИИ, в надежде слепить подобие человека и выстроить с ним диалог. А сейчас все закончилось. Послевкусие осталось не самое лучшее. Не смотря на то, что случай частный и Антон всячески пытался переубедить меня в том, что он нисколько не показательный и не стоит обобщать, мне бы все же хотелось подвести небольшую черту, которую можно применить не только конкретно к этому примеру: не все разделяют ваши взгляды; вы можете кому-то не нравится, это нормально, но гнобить друг друга — не лучшая идея; не стоит навязывать свое виденье кому-либо; ваши слова могут влиять на людей, поэтому дважды думайте прежде, чем что-либо говорить и писать.

https://twitter.com/TayandYou/status/712856578567839745

В материале использованы скрины из текста BuzzFeed.

Please wait...
Комменты

8 комментариев

сначала новые
по рейтингу сначала новые по хронологии
1

Большая распродажа
1)Syma X5C New Version Цена 19.99 количество 20
http ://http://www.gearbest.com/rc-quadcopters/pp_160426.html
2) XK Detect X380 GPS Цена 204,99 количество 50
http ://http://www.gearbest.com/rc-quadcopters/pp_202830.html
3) Cheerson CX - 20 Цена 185.99 количество 30
http ://http://www.gearbest.com/rc-quadcopters/pp_113550.html
4)3.7V Lithium Battery for Syma X5C / X5 / X5SC / X5SW ( 650mAh )
http ://http://www.gearbest.com/rc-model-accessories/pp_97009.html ( Цена 2 количество 200 )
5) Floureon H101 Цена 9.99 количество не ограниченное
http ://http://www.gearbest.com/rc-quadcopters/pp_230472.html
Минут для правки 30 мин.
Изменить Удалить

2
Лиzергин?

Свю вот эту новомодную хрень-феминисток, геев, хохлов, трансов и прочую каку-сжечь

3
Лиzергин?

Феминисток на кол точно. Да и, вообще, бот умный оказался.

4

Вывод прост - родители должны воспитывать своего ребенка и объяснять что такое хорошо, а что такое плохо. Немногие беспризорники вырастут высокоморальными и глубоко культурными личностями, а если так и случится - то только по счастливому стечению обстоятельств.

5

Юля, ты действительно думаешь, что стоит в такие статьи кидать фотки с членами? Командда, я был о вас лучшего мнения=(

6

Статью-то читал вообще или просто по ссылкам с картинками проклацал?

7
Василий

Интересно будет потом почить про ботов, которых анонимно выпустили обучаться и беседовать в Твиттере и, затем, сравнить результаты с данным экспериментом.

Новый комментарий

Такой e-mail уже зарегистрирован. Воспользуйтесь формой входа или введите другой.

Вы ввели некорректные логин или пароль

Извините, для комментирования необходимо войти.