Bradescon virtuaaliassistentin absurdit vastaukset johtavat kritiikkiin

Bradesco ilmoitti kuun alussa muutoksista avustajansa vastauksiin perustuen inteligência keinotekoinen, BIA. Pankki totesi, että kyseessä oli häirintävastainen toiminta, joka aloitti raskaan kampanjan viestintävälineissä, kuten televisiossa ja internetissä. Sinun ilmoitus uudesta, yritys aloittaa tekstin sanomalla, että "Naiset ovat vuosisatojen ajan olleet seksuaalisen häirinnän ja seksuaalisen häirinnän pääuhreja, sen lisäksi että he ovat kärsineet myös moraalisesta häirinnästä".

Julkaisu jatkuu ja todetaan, että vuodesta 2018, jolloin BIA aloitti asiakkaiden palvelemisen, pankki on nähnyt useita ei-toivottuja ja loukkaavia vuorovaikutuksia. Joukossa vankka sisältö tärkeitä tietoja siitä, mitä on häirintä, miten sitä torjutaan, pankin aloitteet häirintää vastaan ​​ja kenen puoleen kääntyä, on esimerkkejä epäkunnioittavista tapauksista, joiden kohteena BIA oli.

Kuvissa, jotka havainnollistavat matkapuhelimen näyttöjä ja esimerkkejä chatin aiemmista ja nykyisistä vastauksista, näemme, että Bradescon virtuaaliassistentin sävy on muuttunut, koska se on tylympi vastenmielisen kielen suhteen. Ne ovat kuitenkin edelleen ohjelmistoohjelmointiin perustuvia vastauksia. Tässä vaiheessa laajaa vaikutuskampanjaa käyttänyt aloite oli myös lukuisten hyökkäysten ja kysymysten kohteena.

Esimerkiksi viestissä, jonka virallinen profiili Bradesco Twitterissä toiminnasta tehdyt kommentit vaihtelivat kovemmista hyökkäyksistä erittäin osuviin lausuntoihin. Osa siitä, mitä kommentoitiin, koski BIA:n avainsanoihin perustuvia automaattisia vastauksia. Bradescon virtuaaliassistentti antaisi "absurdit" vastaukset kaikkiin kysymyksiin tai sanoihin. Kokeessa tekoäly loukkaantui, kun sitä pyydettiin antamaan sille työ ja vastasi noin rasismi kun kirjoitat vain sanan "apina".

Viesti: Bradesco-kanava YouTubessa Virtuaaliassistentin uusissa vastauksissa on paljon enemmän ei-tykkäyksiä, puhumattakaan lukemattomista negatiivisista kommenteista. On kuitenkin syytä muistaa, että alustalla tapahtuu yleensä koordinoituja hyökkäyksiä laillisia agendoja vastaan.

Mitä voidaan kyseenalaistaa

Esiin nousee kysymys, että edistämisen sijaan toiminta saattaa vähätellä pätevää taistelua häirintää vastaan. On myös niitä, jotka näkevät tämän yrityksen liikkeen keinona kääntää huomio pois toistuvista ongelmista pankkipalveluissa ja pankkisovellusten kanssa. THE Bradesco Saúde -sovellus, esimerkiksi Bradesco Segurosista, on ladattu yli miljoona kertaa, ja sen luokitus on hieman yli 1 Google Storessa, ja Play Kaupassa on annettu lukuisia negatiivisia kommentteja.

Lisäksi, missä määrin tämä kampanja ei rajoitu markkinointiprojektiin, ilman pankin itse toteuttamia konkreettisia toimia naisten suojelemiseksi sekä henkilöstössään että sen ulkopuolella, asiakkaiden ja yhteiskunnan kanssa yleensä? Kysymys herää myös Bradescon historian vuoksi. Tuore esimerkki tästä pankin (lievästi sanottuna) herkästä tilanteesta sisäisten häirintätapausten yhteydessä, hieman yli vuosi sitten tuomioistuin pakotti rahoituslaitoksen kieltämään moraalista häirintää yrityksen sisällä.

Jotkut myös viittaavat siihen, että rahoituslaitos tukee tiettyä yhteyttä presidentti Jair Bolsonaroon. Nykyinen liittovaltion johtokunnan päällikkö on jo tuomittu moraalisista vahingoista hyökkäysten jälkeen Folhan toimittajalle e sijaiselle työväenpuolueen. Bolsonaro nähdään myös ihmisenä, jonka rajuimpien hyökkäysten kohteina ovat yleensä naiset.

Moraalisen ja seksuaalisen (ja virtuaalisen) häirinnän torjunta on tärkeää, ja tällaiset toimenpiteet ovat tervetulleita, jos suuryritykset niitä laillisesti ehdottavat. Bradescon on ilmeisesti mentävä paljon tekoälyyn perustuvan avustajan automaattisten vastausten ja robotin kanssa käydyn WhatsApp-keskustelun kentän ulkopuolelle.

Sanat Bradescosta

Ottaessamme yhteyttä pankkiin esitimme kysymyksemme yllä ja avasimme yritykselle tilaa heidän pohdiskeluilleen. Bradesco vahvisti, että BIA on tekoälyä, ei yksinkertaista bottia, jonka viestit on määritetty annettavaksi avainsanojen jälkeen. Pankki toteaa toimen saamasta kritiikistä, että keskustelun herättäminen aiheesta on tärkeä askel yhteiskunnan pohdittavaksi.

Pankin sanoin: ”BIA on tekoäly, joka vastaa kysymyksiin luonnollisella kielellä perustuen ihmisen erikoistuneeseen kuratointiin, aikomusten yhdistämiseen ja oppimisen vahvistamiseen. Pelkästään maaliskuussa se vastasi yli 50 miljoonaan vuorovaikutukseen. Kuten jokainen humanistinen agenda, kritiikkiä ja tiettyä vaikeutta aiheen ymmärtämisessä nousi esiin, mutta katsomme, että näiden keskustelujen herättäminen on toinen tärkeä askel kohti yhteiskunnan pohdintaa ja yhteistä kehitystä.

Kaikki tämä on enemmän kuin kampanja, joka käsittelee naisiin kohdistuvaa häirintää. Se on osoitus pankin tarkoituksesta, koska se uskoo vastuuseen häirinnän torjumisesta UNESCOn "Hey Update My Voice" -aloitteen mukaisesti. Elokuva on linjassa Bradescon laajempien yritysliikkeiden, kuten #AliadosPeloRespeito, kanssa toimilla, jotka herättävät pohdintoja sukupuolesta, etnisistä ryhmistä, vammaisista ja LGBTI+:sta.

Kuva: Phillip Gluckman/Unsplash/CC