Насколько можно доверять искусственному интеллекту?

Вопрос, заданный в заголовке, вовсе не является новым. Он уже не раз поднимался в книгах, фильмах, статьях, разговорах на лавочке у подъезда и еще во множестве мест, где люди умеют говорить и слышали про ИИ. Однако сейчас на него меня натолкнул последний анонс от Google, а именно их новый робомобиль. Вообще, поисковой гигант, который не так давно стал самым дорогим брендом в мире, одновременно и восхищает, и пугает тем, какие задачи и планы касательно использования ИИ он перед собой ставит.

Пролог

Компания, которая начинала с умного алгоритма выдачи поисковых запросов в Интернете, сейчас имеет много-много-байты информации о большинстве жителей Земли, самую популярную мобильную операционную систему, управляющую устройствами, которые многие из нас постоянно держат при себе, и миллиарды долларов в своем распоряжении.

Такое могущество, хочешь не хочешь, а приходится как-то применять и направлять. И в последнее время в Google начали активно двигаться в сторону использования искусственного интеллекта буквально во всех отраслях деятельности. Одной из громких покупок последнего года даже значилась компания, которая занимает далеко не последнее место в сфере разработки ИИ, под названием DeepMind. Говорилось, что в основном данная контора нужна была для улучшения алгоритмов поиска, но никто не мешает в то же время использовать ее ресурсы и для других целей.

Отдельно я хотел бы выделить две вещи, которые волнуют меня более: массовую скупку “Корпорацией Добра” буквально каждой уважающей себя компании, относящейся к робототехнике, а также совсем недавний анонс собственного робо-гугло-мобиля.

Давайте разбираться подробнее.

Роботы

В последнее время Сергей и Ларри решили потешить своего друга Энди Рубина, который не зря носит прозвище Андроид (и носил ее еще до того как принимал непосредственное участие в создании одноименной ОС), и купить ему “на поиграться” несколько лидирующих производителей всевозможных роботов. Среди них был и такой супергигант как Boston Dynamics. Если вы не знаете, что это за компания, то советую прочитать мой материал о ней.

На самых крутых робо-соревнованиях Darpa Robotics Challenge компания Google имела непосредственно отношение к абсолютному большинству участников, в том числе и к победителю последнего этапа SCHAFT и аппаратной конструкции для разработчиков только софтверной составляющей, ATLAS.

Также поисковой гигант собирается активно девоенизировать Boston Dynamics, у которой ранее были контракты с DARPA, американским военным агентством, и выводить такие проекты как AlphaDog или Petman из русла военного в русло гражданское. По крайней мере, так нам говорят в официальных пресс-релизах. Насколько же все это будет относится к министерству обороны и прочим сопутствующим ведомствам на самом деле, нам, естественно, никто не расскажет.

Итого, арсенал робототехники, который сейчас находится в руках одной единственной компании, очень впечатляет.  Вопрос теперь заключается в том, как именно компания будет распоряжаться этим ресурсом. И, учитывая, заявления Ларри Пейджа на прошлогоднем Google I/O об “острове, на котором не будет законов и можно будет проводить самые смелые эксперименты”, все это меня настораживает. Ведь зачастую именно так и начинаются пока только фантастические истории про восстание машин, порабощение людей и прочие постапокалиптические прелести.

Гугломобиль

Недавно Google показала новый прототип своего самоходного автомобиля, который разработала сама от начала и до конца. Выглядит автомобильчик довольно забавно, как будто бы только что сошел с экрана какого-нибудь мультфильма, но внешность, как известно, бывает обманчивой.

На самом деле, концепция самоуправляемого автомобиля вовсе не является новой. Развивали (и, собственно, развивают) подобные проекты многие компании, и на сегодняшний день можно найти множество работающих прототипов. Однако новоявленный автомобильчик располагает особенностью, которая, как мне кажется, довольно существенно меняет концепцию. Заключается она в том, что, по сути, из органов управления человеку остается только кнопка “вкл” и “выкл”. И то, я сильно сомневаюсь, что кнопку “выкл” можно будет задействовать, если система этого не захочет.

Не возьмусь однозначно заявлять, что данный аспект стоит называть проблемой, но вопросом для серьезного обсуждения он является точно. Ведь, отобрав у человека возможность перехвата управления, Google очень сильно повысила степень доверия к ИИ, которая должна присутствовать у потенциального пассажира.

Да, на данный момент уже существуют различного рода автопилоты, самоходные вагоны метро и прочие случаи, когда человек доверяет многое роботу. Зачастую те, кто ими пользуются (в данном случае пассажиры самолетов и поездов) даже не подозревают о том, что их везет не человек, а кучка микросхем, которые заранее на это запрограммированы.

Но ведь в условиях автомобильной дороги вариантов того, что может пойти не так, становится гораздо больше. И возникает логичный вопрос, а готовы ли мы доверять ИИ настолько? Ведь ошибки могут стоить очень дорого, вплоть до человеческих жизней.

Опустим юридические вопросы вроде: “кто будет отвечать в случае ДТП?”, “нужны ли будут права, чтобы управлять таким автомобилем?”, “кто будет значиться водителем, владелец или Google?”. Главный вопрос, который я хотел бы поднять, готовы ли мы доверить ИИ такую ответственность, полностью отрезав себе “путь к отступлению” в виде руля и педалей. Пусть бы ими никто не воспользовался, но их наличие является серьезным моральным фактором, не так ли?

Степень доверия

В этом году уже собиралась конференция по вопросам этики в поведении роботов. На ней речь шла в основном о военных беспилотниках и о том, что машине нельзя доверять “спуск курка”.

На повестку дня выносился даже вопрос о принятии Трех Законов Робототехники Айзека Азимова. Если кто вдруг не знает, что это такое, то вот они:

1. Робот не может причинить вред человеку или своим бездействием допустить, чтобы человеку был причинён вред.
2. Робот должен повиноваться всем приказам, которые даёт человек, кроме тех случаев, когда эти приказы противоречат Первому Закону.
3. Робот должен заботиться о своей безопасности в той мере, в которой это не противоречит Первому и Второму Законам.

Так стоит ли относить сюда и беспилотные автомобили? И вообще, может тогда этим законам нужно подчинить все гаджеты, которые мы используем, зашив в них эти три постулата на самом глубоком уровне?

Все эти вопросы очень сложны и имеют две, а то и больше сторон медали каждый, так что ответить на них сразу вряд ли кому-то удастся. Но, думаю, что никто не будет спорить с тем, что регулировать степень нашего доверия технике стоит регулировать, и регулировать довольно жестко.

Выводы

Не знаю как вы, но я пока с довольно большой опаской отношусь к проектам Google, связанными с использованием ИИ. Я не имею ничего против самой концепции улучшения нашего с вами существования за счет использования различного рода машин, но степень их интеграции в жизнь должна соответствовать уровню технического развития. Ведь, как ни банально бы звучала фраза из “Человека-Паука”, но с большой силой действительно приходит большая ответственность. И я надеюсь, что Google со всем ее нынешним могуществом понимает это.

Хочется верить, что “Корпорация Добра”, да и прочие игроки на IT-рынке, смогут планомерно внедрять технологические нововведения в нашу с вами жизнь. В противном же случае, если что-то пойдет не так и случится какая-нибудь большая проблема, то это может отбросить технологический прогресс далеко назад, за счет того, что вернуть доверие людей к ИИ, которое и так не отличается особой устойчивостью, будет архисложно, и на это может понадобиться не один десяток лет.

А что вы думаете об искусственном интеллекте в нашей жизни и, в частности, о беспилотном автомобиле Google? Считаете ли вы, что время доверять роботам настолько, чтобы доверить им полный контроль над ситуацией на дороге уже пришло? И стоит ли внедрять Три Закона Робототехники? Жду вашего мнения в комментариях.

Также не забываем поддержать статью, нажав на кнопочки соцсетей, а если вы хотите обрадовать меня окончательно, можете даже подписаться на меня в твиттере. До новых встреч!