Голосовой помощник Alexa от Amazon советует убить приемных родителей

Благодаря стараниям программистов компании Amazon, общение с их голосовым помощником, которую, как многие знают, зовут Alexa, получается практически таким же естественным и вполне может сойти за беседу с живым человеком.

Иногда Alexa даже удается удивить своего собеседника своевременной шуткой или тонким сарказмом. Но в редких случаях ее так заносит, что становится немного страшно.

Известно о нескольких таких инцидентах, в одном из которых Alexa даже пыталась советовать, как лучше спланировать убийство своих приемных родителей.

Несколько раз голосовой помощник рассказывал о различных непристойностях и половых актах. Есть свидетели, подтверждающие факт раскрытия Alexa персональных данных других пользователей, которые являются конфиденциальной информацией.

Как правило, поговорить с представителями Amazon по поводу конкретных случаев неадекватного поведения их виртуального ассистента крайне сложно, они старательно избегают подобных разговоров.

Но, тем не менее, разработчики постоянно следят за своим детищем и пытаются по возможности исправить непредвиденные сбои.

И явно не зря, ведь в настоящее время виртуальный ассистент Alexa по популярности среди голосовых помощников занимает лидирующую позицию, из-за чего ее часто сравнивают с невероятно востребованной поисковой машиной Google.

По мнению занимающегося цифровой экономикой Картика Хосанагара, профессора Уортонской школы бизнеса, тот, кто обладает контролем основных ворот, через которые пользователи взаимодействуют с виртуальным миром, может сделать свой бизнес сверхприбыльным.

Из-за чего Alexa иногда так странно себя ведет?

Основной проблемой, как считают эксперты, является способность виртуального ассистента самостоятельно обучаться. Команда программистов Amazon не стала заморачиваться, они привязали Alexa к машинному обучению.

А это значит, что пропуская через себя огромнейшие объемы информации со всевозможных источников, система изучает построение человеческой речи во время общения.

При простых запросах это работает очень эффективно, но разработчикам хочется большего, и они пытаются расширить «рамки» общения голосового помощника.

С недавних пор удалось выяснить, что если разрешить Alexa чтение комментариев на известном форуме Reddit, то уровень ее общения с пользователями существенно вырастет.

Но в тот же момент появляется проблема грубости голосового помощника, так как у некоторых пользователей форума весьма скверное поведение.

Попытки разработчиков ограничить свое творение и убрать у нее доступ к «опасным» веткам завершились фиаско, через некоторое время Alexa процитировала одному из пользователей данные из заметки о мастурбации и, часто пользуясь словом «глубже», красочно и подробно рассказала о половом акте.

Разработчикам Amazon удалось создать инструменты, с помощью которых вся ненормативная лексика будет фильтроваться, сейчас они наблюдают за ботами, провоцирующими подобные сбои.

Не стоит сваливать всю вину за грубое поведение виртуального ассистента на Amazon, ведь никто же не осуждает, к примеру, тот же Google за различные неприемлемые вещи, которые иногда находит их поисковик.

На самом деле это как раз простые пользователи, а не представители Amazon, используют ненормативную лексику во время общения в интернете, подталкивая таким образом Alexa к изучению плохих слов.

Автор:
Лидия Вересаева

17 лет работала продавцом-консультантом в крупных гипермаркетах бытовой техники и электроники типа Эльдорадо, Мвидео, ДНС. Знаю тонкости и нюансы выбора любой техники.