Ассистент Siri слушает вас, когда это не нужно

По данным профильных издания, подрядчики компании Apple, которые работают на купертиновцев в области контроля качества голосового\виртуального ассистента Siri, регулярно (скорее, постоянно) прослушивают все данные, в том числе и личные (медицинские данные, которые особо конфиденциальны, интимные подробности личной жизни, даже такие вещи, как сделки по запрещённым веществам). На самом деле, проводятся такие контрольные прослушивания не для того, чтобы усложнить или испортить жизнь пользователям сервиса, наоборот, это делается в рамках программы по улучшению качества реагирования ИИ на запросы. Подрядчики купертиновской компании определяют, сработала активация случайно (на рандомную фразу, чуть похожую на команду) или же действительно был вызов. Также они оценивают ответ ассистента.

Слушают не всё

Конечно, запросов и обращений к Siri столько в мире, что никакой армии сотрудников не хватит, чтобы постоянно всех прослушивать. На оценку специалистам отправляется менее одного процента активаций и запросов. Однако дело не в этом, а в том, что Apple об этом прямо нигде не говорит, клиенты просто не в курсе, что их запросы и записи могут быть использованы не по прямому назначению. При этом этот момент был не компанией озвучен, а выдан анонимным информатором, который рассказал все подробности представителям СМИ. Информатор отметил, что в записях частенько присутствуют детали сексуальных контактов людей, деловые переговоры (в том числе и нелегальные схемы). Он также сказал, что забота о повышении качества, это похвально, но компания должна прямо заявить, донести до пользователей, что контент ассистента Siri регулярно просматривается людьми.

Apple не заставила себя долго ждать после этого, компания заявила, что некоторая часть запросов виртуального ассистента переправляется для анализа, чтобы повысить качество Siri. При этом все запросы деперсонализированы, то есть они никак не связаны с пользовательским Apple ID. Все сотрудники, которые имеют допуск к этой информации, обязаны соблюдать жёсткие правила, они подписываю специальные документы о неразглашении с серьёзными последствиями при несоблюдении правил. Анализ запросов происходит в специально оборудованных помещениях, которые исключают какие-либо утечки.

Для чего

Анализируются запросы для того, чтобы улучшить качество Siri. Дело в том, что помощник может включиться автоматически, если системе покажется, что была произнесена фраза Эй, Сири! При этом пользователь говорил совсем другие слова, но так сложилась ситуация, что некоторые звуки накладываются друг на друга в таком порядке, что слышится именно команда. Так вот, специалисты, которые занимаются прослушиванием и анализом этих активаций, пытаются понять, что говорил в это время пользователь, просил ли он что-то у помощника или просто разговаривал. И ещё, предоставил ли виртуальный ассистент на запрос пользователя нужный, полезный ответ. Если ответа не было, то необходимо определить, почему, и нужен ли ответ на некоторые типы вопросов.

Кстати, у Amazon происходит то же самое, некоторые запросы отсылаются сотрудникам для анализа. Причём данные отекстовываются, и сохраняются чуть ли навсегда в базе данных, которая потом используется для глубокого машинного обучения ИИ.