Наверх
18 комментариев 09/06/2014

Насколько можно доверять искусственному интеллекту?

Насколько можно доверять искусственному интеллекту?

Вопрос, заданный в заголовке, вовсе не является новым. Он уже не раз поднимался в книгах, фильмах, статьях, разговорах на лавочке у подъезда и еще во множестве мест, где люди умеют говорить и слышали про ИИ. Однако сейчас на него меня натолкнул последний анонс от Google, а именно их новый робомобиль. Вообще, поисковой гигант, который не так давно стал самым дорогим брендом в мире, одновременно и восхищает, и пугает тем, какие задачи и планы касательно использования ИИ он перед собой ставит.

Пролог

Компания, которая начинала с умного алгоритма выдачи поисковых запросов в Интернете, сейчас имеет много-много-байты информации о большинстве жителей Земли, самую популярную мобильную операционную систему, управляющую устройствами, которые многие из нас постоянно держат при себе, и миллиарды долларов в своем распоряжении.

Google and robot

Такое могущество, хочешь не хочешь, а приходится как-то применять и направлять. И в последнее время в Google начали активно двигаться в сторону использования искусственного интеллекта буквально во всех отраслях деятельности. Одной из громких покупок последнего года даже значилась компания, которая занимает далеко не последнее место в сфере разработки ИИ, под названием DeepMind. Говорилось, что в основном данная контора нужна была для улучшения алгоритмов поиска, но никто не мешает в то же время использовать ее ресурсы и для других целей.

Google and robot

Отдельно я хотел бы выделить две вещи, которые волнуют меня более: массовую скупку “Корпорацией Добра” буквально каждой уважающей себя компании, относящейся к робототехнике, а также совсем недавний анонс собственного робо-гугло-мобиля.

Давайте разбираться подробнее.

Роботы

В последнее время Сергей и Ларри решили потешить своего друга Энди Рубина, который не зря носит прозвище Андроид (и носил ее еще до того как принимал непосредственное участие в создании одноименной ОС), и купить ему “на поиграться” несколько лидирующих производителей всевозможных роботов. Среди них был и такой супергигант как Boston Dynamics. Если вы не знаете, что это за компания, то советую прочитать мой материал о ней.

Atlas

На самых крутых робо-соревнованиях Darpa Robotics Challenge компания Google имела непосредственно отношение к абсолютному большинству участников, в том числе и к победителю последнего этапа SCHAFT и аппаратной конструкции для разработчиков только софтверной составляющей, ATLAS.

Atlas

Также поисковой гигант собирается активно девоенизировать Boston Dynamics, у которой ранее были контракты с DARPA, американским военным агентством, и выводить такие проекты как AlphaDog или Petman из русла военного в русло гражданское. По крайней мере, так нам говорят в официальных пресс-релизах. Насколько же все это будет относится к министерству обороны и прочим сопутствующим ведомствам на самом деле, нам, естественно, никто не расскажет.

LS3-AlphaDog_reduced

Итого, арсенал робототехники, который сейчас находится в руках одной единственной компании, очень впечатляет.  Вопрос теперь заключается в том, как именно компания будет распоряжаться этим ресурсом. И, учитывая, заявления Ларри Пейджа на прошлогоднем Google I/O об “острове, на котором не будет законов и можно будет проводить самые смелые эксперименты”, все это меня настораживает. Ведь зачастую именно так и начинаются пока только фантастические истории про восстание машин, порабощение людей и прочие постапокалиптические прелести.

Гугломобиль

Недавно Google показала новый прототип своего самоходного автомобиля, который разработала сама от начала и до конца. Выглядит автомобильчик довольно забавно, как будто бы только что сошел с экрана какого-нибудь мультфильма, но внешность, как известно, бывает обманчивой.

Гугломобиль

На самом деле, концепция самоуправляемого автомобиля вовсе не является новой. Развивали (и, собственно, развивают) подобные проекты многие компании, и на сегодняшний день можно найти множество работающих прототипов. Однако новоявленный автомобильчик располагает особенностью, которая, как мне кажется, довольно существенно меняет концепцию. Заключается она в том, что, по сути, из органов управления человеку остается только кнопка “вкл” и “выкл”. И то, я сильно сомневаюсь, что кнопку “выкл” можно будет задействовать, если система этого не захочет.

Гугломобиль

Не возьмусь однозначно заявлять, что данный аспект стоит называть проблемой, но вопросом для серьезного обсуждения он является точно. Ведь, отобрав у человека возможность перехвата управления, Google очень сильно повысила степень доверия к ИИ, которая должна присутствовать у потенциального пассажира.

Гугломобиль

Да, на данный момент уже существуют различного рода автопилоты, самоходные вагоны метро и прочие случаи, когда человек доверяет многое роботу. Зачастую те, кто ими пользуются (в данном случае пассажиры самолетов и поездов) даже не подозревают о том, что их везет не человек, а кучка микросхем, которые заранее на это запрограммированы.

v1mLv32LhvU

Но ведь в условиях автомобильной дороги вариантов того, что может пойти не так, становится гораздо больше. И возникает логичный вопрос, а готовы ли мы доверять ИИ настолько? Ведь ошибки могут стоить очень дорого, вплоть до человеческих жизней.

Опустим юридические вопросы вроде: “кто будет отвечать в случае ДТП?”, “нужны ли будут права, чтобы управлять таким автомобилем?”, “кто будет значиться водителем, владелец или Google?”. Главный вопрос, который я хотел бы поднять, готовы ли мы доверить ИИ такую ответственность, полностью отрезав себе “путь к отступлению” в виде руля и педалей. Пусть бы ими никто не воспользовался, но их наличие является серьезным моральным фактором, не так ли?

Степень доверия

В этом году уже собиралась конференция по вопросам этики в поведении роботов. На ней речь шла в основном о военных беспилотниках и о том, что машине нельзя доверять “спуск курка”.

На повестку дня выносился даже вопрос о принятии Трех Законов Робототехники Айзека Азимова. Если кто вдруг не знает, что это такое, то вот они:

  1. Робот не может причинить вред человеку или своим бездействием допустить, чтобы человеку был причинён вред.
  2. Робот должен повиноваться всем приказам, которые даёт человек, кроме тех случаев, когда эти приказы противоречат Первому Закону.
  3. Робот должен заботиться о своей безопасности в той мере, в которой это не противоречит Первому и Второму Законам.

Так стоит ли относить сюда и беспилотные автомобили? И вообще, может тогда этим законам нужно подчинить все гаджеты, которые мы используем, зашив в них эти три постулата на самом глубоком уровне?

VoladoresRu_Matrix1-6

Все эти вопросы очень сложны и имеют две, а то и больше сторон медали каждый, так что ответить на них сразу вряд ли кому-то удастся. Но, думаю, что никто не будет спорить с тем, что регулировать степень нашего доверия технике стоит регулировать, и регулировать довольно жестко.

Выводы

Не знаю как вы, но я пока с довольно большой опаской отношусь к проектам Google, связанными с использованием ИИ. Я не имею ничего против самой концепции улучшения нашего с вами существования за счет использования различного рода машин, но степень их интеграции в жизнь должна соответствовать уровню технического развития. Ведь, как ни банально бы звучала фраза из “Человека-Паука”, но с большой силой действительно приходит большая ответственность. И я надеюсь, что Google со всем ее нынешним могуществом понимает это.

irobot

Хочется верить, что “Корпорация Добра”, да и прочие игроки на IT-рынке, смогут планомерно внедрять технологические нововведения в нашу с вами жизнь. В противном же случае, если что-то пойдет не так и случится какая-нибудь большая проблема, то это может отбросить технологический прогресс далеко назад, за счет того, что вернуть доверие людей к ИИ, которое и так не отличается особой устойчивостью, будет архисложно, и на это может понадобиться не один десяток лет.

The Google logo is seen at the Google he

А что вы думаете об искусственном интеллекте в нашей жизни и, в частности, о беспилотном автомобиле Google? Считаете ли вы, что время доверять роботам настолько, чтобы доверить им полный контроль над ситуацией на дороге уже пришло? И стоит ли внедрять Три Закона Робототехники? Жду вашего мнения в комментариях.

Также не забываем поддержать статью, нажав на кнопочки соцсетей, а если вы хотите обрадовать меня окончательно, можете даже подписаться на меня в твиттере. До новых встреч!

Если вы нашли ошибку, пожалуйста, выделите фрагмент текста и нажмите Ctrl+Enter.

18 комментариев

по хронологии
по рейтингу сначала новые по хронологии
1
Andrew CrazyHero

Можно! Если он не на андроид. Шутка

2

Правильно, надо сначала найти Джона Коннора (или Дела Спунера). А уже потом создавать роботов. ^_^

Автор3

А вдруг он уже среди нас?

4

Вообщэ Нельзя!!я против него!вы совсем обленились!Скоро и думать перестанем!

5
qwertyyarik

Странная логика. Тогда перестаньте использовать кофеварку, стиральную машинку, микроволновку, духовку. Начните готовить на костре, а стирать ходите на реку.

6

некоторые так до сих пор и делают в селах

7

статья из раздела "а давайте я что-то напишу... а то мне скучно стало, а заодно и гугл обосру немножко...

Автор8

Мне вот интересно, в каком месте я "обосрал гугл"?

9

Уровень интелекта автора был раскрыт поле пары тройки комментариев. Уровень автора и ресурса в целом скатился до уровня школоты. Только что ты обосрал свою репутацию. Прежде чем начинать писать статьи научитесь быть профессиональнее.

Автор10

Мсье умеет конструктивно критиковать, этого не отберешь :) Вброс засчитан)

Уровень интелекта автора был раскрыт поле пары тройки комментариев. Уровень автора и ресурса в целом скатился до уровня школоты.

Ну и если хотите писать про чей-то низкий "уровень интеллекта" и "школоту", научитесь хотя бы словосочетание первое без ошибок писать, а то как-то не комильфо получается))

11

Да пофиг... Вот искусственный интеллект не может просто взять и забить.., а я вот могу... Пофиг...

Автор12

Наши программисты вполне могут научить функции "забить" любой ИИ. А если под это дело бюджет пилить получится, то вообще все будет ок))

13

У нас конечно не полноценный ИИ, а так, пародия, но функция "положи болт, попробуй через часик-другой если будет не впадлу" на полном серьезе является одной из самых важных с точки зрения поведения системы.

14

В некоторой степени интеграция ИИ в обыденную жизнь человека, при правильной постановке вопроса, может дать очень хорошие "плоды". Если отбросить капиталистические взгляды на суть данного вопроса (интеграции) и подойти ответственно к этому вопросу, тогда не должно быть кучи "аморфных" особей которые будут только потреблять товары распиаренные кучкой маркетологов.

Мне кажется в самую первую очередь, ИИ и роботов нужно использовать в отраслях где нужен физический труд и в тех профессиях где особо повышена опасность здоровья и жизнь человека.

В качестве объемных вычислений ИИ и сейчас уже начинают использовать в проектировке различных сложных вещей, при которых расчет на бумаге у нескольких десятков ученых занимает от нескольких месяцев, до нескольких лет, притом с кучей ошибок, ИИ в этом случае сделает все быстрее и точнее.

Исследования космоса, так же можно поручить различным роботам. Например как вариант отправить колонию роботов на всеми любимый Марс, вместе со строй материалов и до прилета людей, там уже будет развернут как минимум лагерь с пригодными для человека условиями.

В общем я вижу очень большой потенциал в роботизации нашего внешнего окружения, главное направить все в нужное русло.

15

неплохая статейка и очень даже актуальная. правда, наверное стоило всё же как-то разграничить те технологии которые есть сейчас, и то, что на самом деле подразумевается под искусственным интеллектом. ведь автор сам правильно написал. сейчас во многих отраслях компьютеры (в том или ином виде) заменили людей и мы порой даже не подозреваем, что доверяем им часть своей жизни. так вот и с автономными автомобилями дела обстоят примерно также, разве что риски однозначно повышаются.
а вот создать настоящий ИИ, я думаю, в ближайшее время человечество будет не в состоянии. а может и не в ближайшее тоже)

16
Писюн Недоверия

Человек еще возьмет за известное место известную притчу. Это вам вам не резинку одеть: сладко будет, как диабетику в погребе с вареньем во время блокады. Так что, эволюция может (и, видимо, пойдет) таким путем и нам придется сотрудничать с умными обезьянами, которые стали таковыми тоже не без нашего участия.

17

Это все хорошо, но в приведённых примерах искусственного интеллекта нету или задействован частично. БПЛА и гугло-машинка это система принятия решения в реальном времени, ИИ в которых используется только для распознавания образов - знаки, другие машины, пешеходы и т.д. Основным признаком ИИ является способность самообучения системы - "Машинное обучение", а это достигается использованием нейронных сетей и к примеру многослойного перцептрона, в котором алгоритм обратного распространения ошибки обучает все нейронные слои. А приведённые в статье примеры всего лишь оцифровывают снятое изображение и сравнивают с ранее заданными оцифрованными примерами.

Более уместнее в статье с подобным названием было написать о суперкомпьютере IBM, который обучался на огромном количестве данных больных и их диагнозах дабы в дальнейшем по симптомам определять болезнь и способ её лечения. И тут уже можно конкретно ответить на вопрос можно ли доверять ИИ. При обучении нейронной сети указывается необходимая вероятность ошибки. При работе в области надувания шин на заправках этот показатель не критичен и он может быть равен 5-10%, но в случае с компьютером IBM процент ошибки находится в диапазоне от 0.01 до 0.4 процента. Для сравнения в 30% людям доставленным в больницу скорой помощью в тяжёлом состоянии ставится неверный диагноз, что служит причиной смерти при операции. Думаю подобные цифры явно дают понять насколько можно доверять ИИ ,а кому доверять следует с опаской.

П.С. Данные и цифры взяты не с потолка, имею диплом магистра систем искусственного интеллекта.

18

Беспилотные машины точно переварим. Это ж можно лишних пол часа по дороге на работу (школу, универ, садик и т.д.) злых птичек погонять. Тем более, что войдут новые технологии в нашу жизнь постепенно, а потом будем думать, как же мы без этого жили?

А вообще, люди всегда противились техническому прогрессу. Лудиты например, взрывы первых нефтепроводов перевозчиками нефти на лошадях. Примеров в истории куча.

Говорят, бабульки еще в 50-60-х называли антихристами тех, кто умел на велосипеде ездить :)

Добавить комментарий

Такой e-mail уже зарегистрирован. Воспользуйтесь формой входа или введите другой.

Вы ввели некорректные логин или пароль

Извините, для комментирования необходимо войти.

Modal box

Сообщить об опечатке

Текст, который будет отправлен нашим редакторам: