The Guardian: В Apple переписали инструкции для Siri, рекомендовав отклонять вопросы о феминизме

Автор:
Oleg Panfilovych
Дата:

Компания Apple переписала инструкции для голосового помощника Siri насчет ответов, касающихся таких тем, как феминизм. Об этом пишет The Guardian.

Издание ссылается на документы, полученные от одного из бывших подрядчиков, занимавшихся контролем и машинным обучением Siri. Разработчикам поручили внедрить три варианта развития событий при постановке вопроса о феминизме: «не поддерживать» беседу, «отклонять» вопрос или все же «информировать» пользователя.

В компании хотят добиться гарантии того, что Siri выскажется за равенство, но никогда не произнесет слово «феминизм» — даже если ей зададут прямой вопрос на эту тему.

Соответствующие изменения в руководство по разработке Siri внесли в июне 2018 года. Объясняя, почему сервис должен отклонять вопросы о феминизме, в компании подчеркнули, что «Siri должна быть защищена при работе с потенциально спорным контентом». Спорные вопросы «могут быть отклонены», однако в компании настаивают, что в таких ситуациях необходимо быть осторожным и сохранять нейтралитет.