Le risposte assurde dell'assistente virtuale di Bradesco suscitano critiche

All'inizio del mese Bradesco ha annunciato modifiche alle risposte del suo assistente in base a intelligenza artificiale, la BIA. La banca ha precisato che si tratta di un'azione contro le molestie, avviando una pesante campagna nei mezzi di comunicazione, come la televisione e internet. Nel tuo annuncio sul nuovo, l'azienda apre il testo affermando che “Per secoli, le donne sono state le principali vittime di molestie e molestie sessuali, oltre a subire anche molestie morali”.

La pubblicazione prosegue affermando che, dal 2018, quando BIA ha iniziato a servire i clienti, la banca è stata testimone di numerose interazioni indesiderate e offensive. Tra un contenuto robusto di informazioni importanti su ciò che è molestie, come contrastarla, le iniziative della banca contro le molestie e a chi rivolgersi, ci sono esempi di casi irrispettosi di cui è stata presa di mira la BIA.

Nelle immagini che illustrano gli schermi dei cellulari con esempi di risposte precedenti e attuali nella chat, vediamo che il tono dell'assistente virtuale di Bradesco è cambiato, essendo più schietto riguardo al linguaggio ripugnante. Si tratta però pur sempre di risposte basate sulla programmazione del software. A questo punto, l’iniziativa che ha utilizzato una campagna di impatto massiccio è stata anche bersaglio di numerosi attacchi e domande.

Ad esempio, nel post che il profilo ufficiale di Bradesco su Twitter fatti in merito all’azione, i commenti ricevuti variavano da attacchi più forti a dichiarazioni molto pertinenti. Parte di ciò che è stato commentato riguardava le risposte automatiche fornite dalla BIA in base alle parole chiave. L'assistente virtuale di Bradesco darebbe risposte “assurde” a qualsiasi domanda o parola. In un test, l'intelligenza artificiale si è offesa quando è stato chiesto di darle un lavoro e ha risposto in merito razzismo quando viene digitata solo la parola "scimmia".

Il posto di Canale Bradesco su YouTube Le nuove risposte dell'assistente virtuale registrano un numero molto più alto di Non mi piace, per non parlare degli innumerevoli commenti negativi. Tuttavia, vale la pena ricordare che sulla piattaforma tendono a verificarsi movimenti coordinati di attacchi contro obiettivi legittimi.

Cosa può essere messo in discussione

La questione sollevata è che, invece di promuovere, l’azione potrebbe banalizzare una valida lotta contro le molestie. C'è anche chi vede questa mossa dell'azienda come un modo per distogliere l'attenzione dai problemi più ricorrenti nei suoi servizi bancari e con le applicazioni bancarie. IL Bradesco Saude app, di Bradesco Seguros, ad esempio, è stato scaricato più di 1 milione di volte e ha una valutazione poco superiore a 2 sullo store di Google, con numerosi commenti negativi sul Play Store.

Inoltre, in che misura questa campagna non si limita a un progetto di marketing, senza azioni concrete da parte della banca stessa per tutelare le donne, sia all'interno che all'esterno, nei confronti dei clienti e della società in generale? La domanda sorge anche a causa della storia di Bradesco. Come esempio recente di questa delicata condizione (per usare un eufemismo) della banca in relazione a casi interni di molestie, poco più di un anno fa l'istituto finanziario fu costretto dalla Corte a vietare la pratica di molestie morali all’interno dell’azienda.

C’è anche chi sottolinea un certo legame di sostegno da parte dell’istituto finanziario al presidente Jair Bolsonaro. L'attuale capo dell'esecutivo federale è già stato condannato per danni morali in seguito agli attentati compiuti a un giornalista del Folha e ad un deputato del Partito dei Lavoratori. Bolsonaro è visto anche come qualcuno che ha nelle donne in generale il bersaglio preferito dei suoi attacchi più feroci.

Combattere le molestie morali e sessuali (e virtuali) è importante e misure come questa, se legittimamente proposte dalle grandi aziende, sono benvenute. Bradesco, a quanto pare, deve andare ben oltre il campo delle risposte automatiche di un assistente basato sull'intelligenza artificiale e della chat WhatsApp con un robot.

Parole di Bradesco

In contatto con la banca, abbiamo presentato le nostre domande sopra, aprendo all'azienda uno spazio per le loro considerazioni. Bradesco ha ribadito che BIA è intelligenza artificiale, non un semplice bot con messaggi configurati per essere forniti dopo parole chiave. Per quanto riguarda le critiche ricevute dall'azione, la banca afferma che stimolare le conversazioni sull'argomento è un passo importante su cui riflettere la società.

Nelle parole della banca, “BIA è un’intelligenza artificiale che risponde a domande in linguaggio naturale sulla base di una cura umana specializzata, di un’associazione di intenzioni e di un rafforzamento dell’apprendimento. Solo nel mese di marzo ha risposto a oltre 50 milioni di interazioni. Come ogni programma umanista, sono emerse critiche e una certa difficoltà nella comprensione dell'argomento, ma riteniamo che stimolare queste conversazioni sia un altro passo importante verso la riflessione e l'evoluzione congiunta della società.

Tutto ciò è più di una campagna contro le molestie contro le donne, è una manifestazione dello scopo della banca in termini di fiducia nella propria responsabilità nella lotta contro le molestie, in linea con l'iniziativa “Hey Update My Voice” dell'UNESCO. Il film è in linea con i più ampi movimenti aziendali di Bradesco, come #AliadosPeloRespeito, con azioni che provocano riflessioni su genere, etnie, persone con disabilità e LGBTI+”.

Immagine: Phillip Gluckman/Unsplash/CC