Голосовой ассистент Alexa предложил 10-летней девочке выполнить челлендж, который мог её убить

История с одной стороны интересная, с другой, безусловно, страшная. Благо, всё закончилось хорошо. 

Итак, некоторое время назад маленькая 10-летняя девочка из США обратилась к умной колонке Amazon с голосовым ИИ Alexa, попросив у последней выдать какой-нибудь челлендж. И та выдала. 

Вставьте зарядное устройство от телефона в розетку примерно наполовину, а потом дотроньтесь до контактов монеткой 

Как перед этим оговорила Alexa, этот челлендж она нашла в интернете. И челлендж этот называется “Пенни”. В оригинале Alexa сказала использовать пенни, а не монетку, просто я адаптировал перевод для лучшего понимания. В общем, челлендж этот появился около года назад в различных социалках, включая, конечно же, TikTok. Само собой, распространился он в первую очередь среди детей и подростков. 

В нашей истории ситуацию спасло то, что рядом находилась мать девочки. Они как раз делали различные физические упражнения, и девочка попросила Алексу выдать ещё челлендж, видимо, именно в контексте нового упражнения.  

В Amazon об этом быстро узнали и заявили, что это случайность, и ошибка уже исправлена. Правда, какая это ошибка, вообще неясно. Alexa больше не сможет выдавать челленджи? Проблема ведь в том, что голосовой ИИ понятия не имеет, опасна ли та информация, которую он озвучивает. А в этой ситуации всё вообще иронично, так как челлендж Алекса взяла из статьи, которая была посвящена опасности таких челленджей и предназначалась родителям. Мол, посмотрите, какая дичь сейчас популярна в Сети среди детей, будьте осторожны. Но ИИ всё это, конечно, оценить не мог. 

Также источник ничего не говорит о судебном иске в сторону Amazon, и это странно, учитывая, что речь о США. Но, вполне возможно, ту женщину быстро надоумят, и в суд она в итоге всё-таки подаст. И, наверное, правильно сделает, хотя, повторюсь, ни Amazon, ни Alexa тут в целом не виноваты. Предугадать такую ситуацию программисты ИИ вряд ли могли. 

Ну и да, в США в розетке 110 В, да и при касании контактов монеткой, вероятно, максимум человеку обожжёт пальцы, но только вот короткое замыкание может привести к пожару, а это уже серьёзно. К тому же как минимум один такой инцидент именно из-за этого челленджа уже был в прошлом году.  

В общем, к чему я виду. Само собой, голосовые ИИ, социальные сети и идиотские челленджи никуда не денутся, и даже совсем наоборот. Но дополнительный разговор с детьми об опасности всяких таких занятий в целом и опасности тока и огня в частности лишним точно не будет.