Абсурдные ответы виртуального помощника Брадеско вызывают критику

Ранее в этом месяце Bradesco объявила об изменениях в ответах своего помощника на основе искусственный разум, BIA. Банк заявил, что это была акция против преследования, начав мощную кампанию в средствах массовой информации, таких как телевидение и Интернет. В своем объявление о новостяхкомпания начинает текст словами: «На протяжении столетий женщины были основными жертвами сексуальных домогательств и притеснений, а также страдали от моральных притеснений».

В публикации далее говорится, что с 2018 года, когда BIA начал обслуживать клиентов, банк стал свидетелем нескольких нежелательных и оскорбительных взаимодействий. Среди надежного контента важной информации о том, что домогательство, как с этим бороться, инициативы банка против преследований и к кому обращаться, есть примеры случаев неуважительного отношения, объектом которых стало BIA.

На изображениях, иллюстрирующих экраны мобильных телефонов с примерами предыдущих и текущих ответов в чате, мы видим, что тон виртуального помощника Bradesco изменился, став более настойчивым в отношении отталкивающего языка. Однако это все еще ответы, основанные на программировании. На данный момент инициатива, которая использовала масштабную кампанию воздействия, также стала объектом многочисленных атак и вопросов.

Например, в посте, что официальный профиль Bradesco в Твиттере сделанные по поводу акции, полученные комментарии варьировались от более шумных атак до очень уместных заявлений. Часть того, что было прокомментировано, касалось автоматических ответов, которые давал BIA на основе ключевых слов. Виртуальный помощник Bradesco якобы давал «абсурдные» ответы на вопросы или любые слова. В тесте искусственный интеллект, казалось, обиделся, когда его попросили предоставить работу, и ответил примерно так: расизм при вводе только слова «обезьяна».

Пост Канал YouTube Bradesco Новые ответы виртуального помощника имеют гораздо большее количество дизлайков, не говоря уже о бесчисленных негативных комментариях. Однако стоит помнить, что на платформе часто происходят скоординированные атаки на законные проблемы.

Что можно поставить под сомнение

Возникает вопрос, что вместо того, чтобы содействовать, действие может принижать действительную борьбу с домогательствами. Есть также те, кто видит в этом шаге компании способ отвлечь внимание от более повторяющихся проблем в ее банковских услугах и с банковскими приложениями. Приложение Bradesco HealthНапример, приложение от Bradesco Seguros было загружено более 1 миллиона раз и имеет рейтинг чуть выше 2 в магазине Google, а также многочисленные негативные комментарии в Play Store.

Кроме того, в какой степени эта кампания не ограничивается маркетинговым проектом, без конкретных действий самого банка по защите женщин, как в его штате, так и за его пределами, с клиентами и обществом в целом? Вопрос также возникает из-за истории Bradesco. Как недавний пример этой деликатной ситуации (мягко говоря) банка в отношении внутренних случаев домогательств, чуть больше года назад финансовое учреждение было вынуждено по решению суда запретить практику моральное преследование внутри компании.

Есть также те, кто указывает на определенную связь поддержки со стороны финансового учреждения с президентом Жаиром Болсонару. Действующий глава федерального правительства уже был осужден за моральный ущерб после атак, совершенных журналисту из Фолхи e заместителю Партии трудящихся. Болсонару также считается человеком, который выбирает женщин в целом в качестве предпочтительной цели своих самых яростных нападок.

Борьба с моральными и сексуальными (и виртуальными) домогательствами важна, и такие меры, когда они законно предлагаются крупными компаниями, приветствуются. Bradesco, по-видимому, необходимо выйти далеко за рамки автоматических ответов помощника на основе искусственного интеллекта и чата с роботом в WhatsApp.

Слова от Bradesco

Когда мы связались с банком, мы изложили наши вопросы выше, предоставив компании пространство для своих соображений. Bradesco подтвердила, что BIA — это искусственный интеллект, а не простой бот с сообщениями, настроенными на отправку после ключевых слов. Что касается критики, полученной в отношении действий, банк заявляет, что поощрение разговоров на эту тему — важный шаг для размышлений общества.

По словам банка, «BIA — это искусственный интеллект, который отвечает на вопросы на естественном языке на основе специализированного человеческого курирования, ассоциации намерений и подкрепления обучения. Только в марте он ответил более чем на 50 миллионов взаимодействий. Как и в случае со всеми гуманистическими вопросами, были критика и некоторые трудности в понимании темы, но мы считаем, что поощрение этих разговоров — еще один важный шаг на пути к размышлениям общества и совместной эволюции.

Все это больше, чем просто кампания, направленная на борьбу с домогательствами в отношении женщин; это проявление цели банка в отношении его веры в свою ответственность бороться с домогательствами в соответствии с инициативой ЮНЕСКО «Hey Update My Voice». Фильм соответствует более широким корпоративным движениям Bradesco, таким как #AliadosPeloRespeito, с действиями, которые вызывают размышления о гендере, этнической принадлежности, людях с ограниченными возможностями и ЛГБТИ+».

Изображение: Филипп Глюкман/Unsplash/CC